历史研究所成立于1954年,主要研究自远古至1911年中国的悠久历史与灿烂文化。设有办公室、人事处、科研处三个职能部门和先秦史、秦汉魏晋南北朝史、隋唐宋辽金元史、明清史四个断代研究室及社会、思想、文化、中外关系、历史地理五个专业史研究室。此外,还设有甲骨学与殷商史、简帛、徽学、敦煌学、中国古代服饰五个研究中心。
历史研究所拥有一座颇具规模的专业图书馆。馆藏图书69万册,其中线装古籍35万册,有善本书近7万册(件),包括元、明、清初各种刻本、稿本、抄本、名家批校本、著名收藏家藏本,有地方志一千余部,家谱近千部。还有数量居于全国前列的宋元明清时期徽州地区文书、契约和簿册,商代甲骨亦有丰富收藏。此外,还藏有大量的外文和港台版书刊。
历史研究所下设《中国史研究》杂志社,负责编辑《中国史研究》(季刊)和《中国史研究动态》(月刊)两种学术刊物。
历史研究所还与中国社会科学院研究生院合办历史系,培养攻读博士学位和硕士学位的研究生。