中国科大是中科院所属的一所以理工学科为主、兼有以科技为背景的管理和人文学科的研究型大学。目前，学校是国内唯一同时承担“985工程”、“211工程、中科院“知识创新工程”三大工程建设任务的大学。
学校1958年9月创建于北京。1970年初，迁至合肥。学校创建不久就开始招收研究生。 1978年，经国务院批准中国科大在全国率先创建了第一个研究生院。1981学校被国务院批准为首批博士、硕士学位授予单位。1983年，国家在人民大会堂为我国首批获得博士学位的18名博士举行学位授予仪式。在这18名博士中，6名是中国科大培养的。1995年初，国务院学位委员会办公室和教育部研究生工作办公室对全国试办的33所研究生院进行综合评估，中国科大名列前十。1998年，中国科大被中科院确定为博士生重点培养基地;1999年，又被国务院学位委员会授予全国学位与研究生教育管理先进单位。“十五”期间，在“985工程”、“211工程、中科院“知识创新工程”三大工程的推动下，中国科大研究生教育的发展步入了一个崭新的历史发展时期。
据统计，自1978年恢复研究生招生至2007年7月，学校累计已授予博士学位 3242名，学术性硕士学位7948名，专业学位3381名。近30年来，特别是实施“三大工程”以来，学校把研究生教育提高到相当重要的地位，加强了对整个研究生教育工作的领导，使之得到了迅速发展。研究生在学生中的比例逐年提高，研究生与本科生数量之比已达1.2：1。目前，全校各类在学研究生 10315人，其中：全日制硕士研究生5975人，博士研究生2303人，非全日制专业学位研究生2037人(MBA327人，MPA451人，工程硕士1259人)。另有中科院代培研究生976人。
研究生作为一支朝气蓬勃的生力军，在学校科研工作中起到了越来越重要的作用。据统计，目前研究生对我校SCI/EI的论文贡献率呈逐年增长趋势， 2004年分别已达到68.9% 和71.3%。研究生出色的科研业绩，为推进我校建设高水平研究型大学作出了重大贡献。
科大毕业的研究生的科研工作已产生了重大的国际国内影响：潘建伟等毕业博士生做出的成果为国际学术界瞩目，入选了“世界科技十大进展”，这在国内高校中是少见的。 “九五”以来，在科大连续取得的多项“国内十大科技进展”、“中国高校十大科技进展”研究成果中，在校研究生起到了重要作用，这些成果大都是由研究生作为主要承担者完成的。
科大有不少毕业研究生已在国内外学术界崭露头角，成为新一代学术带头人，有的已经成为中国科学院院士和第三世界科学院院士。据统计，自实施学位制度以来我国自主培养的博士有17人成为“两院”院士，其中科大培养的博士生就有3位。他们在教学、科研、国民经济建设和社会发展的各个领域施展才能、担纲顶粱，为中华民族、为中国科大赢得了荣誉。
目前学校有18个一级学科博士学位授权点，98个博士点，133个硕士点;同时还拥有MBA、MPA、工程硕士(14个领域)3个专业学位授予点，8个一级学科国家重点学科(涵盖41个二级学科)、4个独立的二级学科国家重点学科、2个国家重点(培育)学科、19个安徽省重点学科。在教育部学位与研究生教育发展中心公布的2002年度至2004年度全国一级学科整体水平评估排名中，学校有11个一级学科进入全国前五名，数量列全国第6位。在2006年度的
全国一级学科整体水平评估排名中，学校参评的所有理学学科均进入全国前五名。在量子信息、单分子化学、纳米材料、极地环境等方向领域取得了一些重大原创性成果，在国际学术界产生了重要影响。
目前，学校形成了以国家实验室为核心，以多学科交叉为重点、教学与科研共享的研究生创新能力培养支撑体系。有2个国家实验室、1个国家重点实验室、16 个院省级重点实验室，3个国家理学人才培养基地、1个国家生命科学与技术人才培养基地，2个教育部博士生创新开放基地。学校还集中资源建设了面向全校研究生开放的理化科学、生命科学、信息科学、工程与材料科学和高性能计算等5个研究生公共实验中心，为进行高水平的研究生教育奠定了坚实的基础。
学校在全国率先实行导师上岗遴选制度改革。在遴选中根据学科建设需要设立岗位，形成了能上能下的动态竞争机制。通过导师遴选制度的改革与创新，建设了一支能立足国际学术前沿、结构相对合理、创新能力较强的导师队伍。学校现有研究生导师800余人，其中博士生导师561人。在导师队伍中，有“两院”院士 26人(含通过所系结合聘请10人)，第三世界科学院院士6人，教育部“长江学者”、中科院“百人计划”、国家杰青107人。拥有国家自然科学基金委创新研究群体5个，教育部创新团队4个。45岁以下的研究生导师在国外知名大学获博士学位者占44%。
学校利用依托科学院的有利条件，与中科院几十个研究所建立了学术交流和协作关系，目前，有200多名研究所的导师在科大上岗指导研究生。学校设立了“大师讲席”，常年有200多位外籍专家学者来校讲学、合作研究。学校还与欧美、日本、香港等国家和地区的著名高校、研究机构联合培养研究生，与解放军总装备部、国内著名企业(联想、华为等)在研究生培养方面全方位合作，有效地拓宽了研究生的培养渠道。学校聘请了杨振宁、李政道等一批世界著名科学家为名誉教授和客座教授，聘请了许多国内知名的专家学者和艺术家为兼职教授或兼职导师。这些都有效地改善导师队伍的知识结构，提高了学术层次，使研究生们的眼光能早早地关注到国际科学前沿上。
经多年的发展，科大研究生教育已形成了鲜明的特色。
第一，科大在研究生教育中重视交叉学科的人才培养。学校继承和发扬“红专并进、理实交融”的办学传统，把前沿科学与高新技术结合起来，培养新兴、边缘、交叉学科的高级尖端人才。从科大学毕业的数千名博士、硕士，普遍基础知识宽厚扎实、外语及计算机应用水平高、科研能力强、适应面广、创新意识强、综合素质好、后劲足。据统计，自上个世纪90年代以来科大被SCI收录的论文数、被引用的论文数年年位居中国大陆高校前列，其中，约70%以上的论文是以在校研究生为第一作者。
第二，科大在研究生培养工作中坚持以国际学科前沿为导向，积极培养创新意识人才。学校始终坚持围绕国家目标，秉承不断开拓创新的宗旨，积极鼓励研究生勇于选择富有挑战性的学科或高新技术前沿课题进行研究。据统计，几乎所有研究生都参与了导师的科研项目，大部分研究生学位论文选题属于国家自然科学基金、 "国家863计划"、"国家攀登计划"、"国家973计划"等资助课题。许多研究生的论文发表在SCI、EI收录的学术期刊上。