哈尔滨工业大学始建于1920年。自1954年成为国家确定的首批6所重点大学之一以来，哈工大一直得到国家的重点建设。1996年成为首批进入国家“211工程”重点建设的院校，1999年被国家确定为以世界一流大学为目标重点建设的九所大学之一。如今，哈尔滨工业大学已经发展成为一所特色鲜明、实力雄厚，居于国内一流水平，在国际上有较大影响的多学科、开放式、研究型的国家重点大学。
哈工大是我国最早开展研究生教育工作的高校之一，早在20世纪30年代，哈尔滨工业大学就开始招收研究生。1949年，哈尔滨工业大学在苏联专家指导下开始设立研究生班，并接收全国各主要大学选派的年轻助教、讲师来校攻读师资研究生。1984年成立我国首批研究生院后，哈尔滨工业大学参照国际模式，不断深化研究生教育改革，使研究生教育工作在规模、质量和效益上都取得了明显进步和提高，为国家的科技、教育、国防和经济战线输送了一大批高层次人才。
哈工大现有9个国家重点学科一级学科，6个国家重点学科二级学科，2个国家重点培育学科，16个黑龙江省重点学科（群），27个博士学位授权一级学科点，41个硕士学位授权一级学科点，2个培养工程博士的工程领域，20个培养工程硕士的工程领域。现有专任教师2907人，其中中国工程院院士、中国科学院院士33人，博士生导师1160人，硕士生导师2302人。
哈工大研究生教育在发展历程中勇于改革，为培养国家需要的人才不断创新。1994年在全国率先实行硕士生培养两年制，2003年在全国首先进行博士生招生方式改革，2006年在全国首批进行研究生培养机制改革，2007年在全国率先实施硕士研究生按学术型和应用型两个系列进行改革，2008开展研究生教育校内评估工作，2012年开展研究生教育质量体系建设等等。这些改革与举措，紧跟社会发展需求，符合研究生教育的发展方向和人才培养规律，显著提高了研究生的培养效率和培养质量。
哈工大自开展研究生教育以来，始终坚持把质量放在首位，以培养具有优良的思想道德素养和高度的社会责任心，具有坚实的基础理论与深入的专业知识，具有强烈的创新意识和创新能力，具有开阔的国际视野及活跃的国际交流能力的一流创新人才为己任，同时注重研究生综合素质的提高，培养出的研究生不仅具有扎实的基础知识和过硬的专业本领，而且具有较强的科学研究能力、工程实践能力以及创新能力，受到用人单位的普遍欢迎。目前哈工大已授予博士学位9214人，硕士学位58195人，各类专业学位12589人。
为培养具有国际竞争力的创新型人才和创建前沿应用科学研究的基地，哈工大于2002年成立了深圳研究生院，十多年来，深圳研究生院坚持研究型、开放式、国际化的办学定位，以特色求生存、以创新求发展、以贡献求支持，依托校本部的学科优势和基础，面向深圳的经济环境和市场需求，成为哈工大“一校三区”战略格局的重要组成部分。
哈工大还与多个国家和地区的126所大学建立了校际合作和交流关系，并开展了学术交流、科研合作、联合培养研究生等工作，同时面向港、澳、台地区和其他国家招收硕士、博士研究生。