1927年我国留德古生物学者孙云铸、杨钟健在德磋商成立中国古生物学会，起草章程12条，并函询国内外同行意见。1929年8月31日，我国第一代古生物学家10人在北平中信堂正式召开了中国古生物学会创立大会，孙云铸任会长，同年9月17日在北平兵马司地质调查所召开首次学术讨论会。学会成立后，经费比较困难，虽然开展一些活动，但力不从心，无形中陷于停顿状态，直至抗战胜利后，大部分古生物学家集中南京中央地质调查所，在杨钟健倡议下，1947年12月25日在南京中央研究院地质研究所召开中国古生物学会复活大会，登记会员47人，到会会员23人。1951年中国科学院古生物研究所成立，学会有了专业所的挂靠，为学会发展奠定了有力的基础。1953年正式出版会刊《古生物学报》。1956年6月和1962年8月在北京召开了第一、第二届会员代表大会，登记会员223人。1979年4月16-22日在江苏苏州召开了中国古生物学会第三届会员代表大会暨第十二届学术年会，这是我国古生物学史上具有重大意义的一次会议，盛况空前，鼓舞了士气，坚定了信心，与会503人，对促进我国古生物学科的迅速的发展和提高我国在国际古生物学界的地位都起到了积极的作用。数年内相继成立了孢粉学、微体古生物学、古脊椎动物学、古植物学4个分会，化石藻类、古生态、介形类3个专业委员会及三叶虫、笔石、腕足动物、珊瑚、头足类、双壳类、甲壳类、腹足类、有孔虫、牙形类等14个学科组和昆明、湘粤桂、川藏、上海、浙江、西安、东北等7个地方学组。各学科历年组织的学术年会，相互交流，取长补短，推动了学科的发展。1984年至2001年间先后在绍兴、武汉、承德、泰安、西安召开了5届全国会员代表大会，现有会员2400人。历任理事长依次是：孙云铸、杨钟健、尹赞勋、卢衍豪以及王鸿祯、周明镇、郝诒纯、李星学（在四年任期内，每年轮流任理事长1年），张弥曼、穆西南、沙金庚。
