1998年4月，大型工具书《辞海》第五版的编纂还在如火如荼进行中，上海辞书出版社巢峰等同志就开始筹划特大型工具书的编纂了。几番论证之后，巢峰致函《辞海》编辑委员会，正式提出编纂《大辞海》的设想。
据千讯咨询发布的《中国出版市场前景调查分析报告》显示，夏征农主编和各位副主编一致认为这项工程具有开创性价值。1999年2月，主管部门批复同意《大辞海》选题立项。其后，《大辞海》连续被列为“十五”“十一五”“十二五”国家重点图书出版规划项目。自2003年起各分卷陆续出版，2015年38卷42册全部出齐，距筹划之日已有17年之久。从《辞海》到《大辞海》，既有传承，又有创新。这种传承和创新，体现在学科框架、条目内容、编纂队伍等各个方面。
在学科框架方面，《大辞海》的学科体系基本以《辞海》为基础，而《辞海》的学科体系建设经历了一个漫长时期。《辞海》从第一版开始，就有一定的学科体系架构，但是受时空局限，体系并不完整。新中国成立之后的修订，有意识重新进行学科架构。1961年10月，按学科分类编排的《辞海》（试行本）16分册出版，内部发行。
第三次修订时，出版了26个按照学科来编排的分册，对学科架构的考虑逐渐成熟。由于按照学科来组稿，学科体系的不完整性就明显体现出来，从而使编纂者自觉地去完善学科体系。比如，第四版编纂时，政治学、伦理学、美学、社会学都从哲学中分离出来，成为独立学科；法学中，增列经济法、国际法，增补行政法和民法条目。
《大辞海》编纂过程中，也在《辞海》原有的学科框架基础上不断完善。2002年，由于原编纂方案中的学科框架已不能反映最新学术体系，经组织论证，改为36卷分册；2005年，根据科学技术的发展和学术研究的推进，再次新增2卷，将材料科学、环境科学单列为卷，这样，生命、信息、能源、材料、环境等五大新兴学科均单列为卷，从而使《大辞海》具有更浓重的时代气息和实用价值。