中国科学技术大学1958年9月创建于北京，1970年初，学校迁至安徽省合肥市。学校成立之后不久就开始招收研究生。
1978年经国务院批准在全国率先创建了第一个研究生院。
1981年11月被国务院学位委员会批准为首批博士、硕士学位授予单位。
1982年中国科学技术大学成立了学位评委员会。
1983年，国家在人民大会堂为我国首批获得博士学位的18名博士举行学位授予仪式，在这18名博士中，7人是中国科技大学培养的，从此奠定了中国科技大学在国内开展研究生教育的领先地位。
1995年初由国务院学位委员会办公室和教育部研究生工作办公室对全国试办的33所研究生院综合评估中名列前十。
1998年被中国科学院确定为博士生重点培养基地。
1999年被国务院学位委员会授予全国学位与研究生教育管理先进单位。“九五”期间中国科技大学首批成为“211”工程国家重点建设高校。1999年国家又将中国科技大学列为国家9所重点建设的高水平大学，中国科技大学研究生院已步入了一个崭新的发展时期。
自1978年恢复研究生招生至2003年12月累计授予博士学位1211名，硕士学位5615名；自1999年开始，研究生规模以每年30%的速度递增，在校全日制研究生总数5891人，其中博士生1786名，硕士生4105名。另有非全日制研究生2528人及代培生850人。
据统计，自1978年恢复研究生招生至2011年7月，学校累计已授予博士学位5380名，硕士学位11476名，专业硕士学位7069名。30多年来，特别是实施“三大工程”以来，学校把研究生教育提高到相当重要的地位，加强了对学位与研究生教育工作的领导，使之得到了迅速发展。全校在学博士研究生2914人，全日制学术型硕士研究生4744人，全日制专业学位硕士研究生4104人，非全日制专业学位研究生1871人，另有中科院代培研究生1千余人。
