中北大学是一所具有光荣历史的高等院校，她的前身是1941年八路军总司令部在太行抗日根据地创办的我党我军第一所兵工学校——太行工业学校，历经抗日战争和解放战争的战斗洗礼，几经变迁，饱经沧桑。2001年学校六十周年校庆时，薄一波为学校慨然题词“人民兵工第一校”。
1949年学校迁入现址，更名为华北兵工职业学校，后又冠名为华北兵工工业学校，太原机械制造工业学校，1958年升格为太原机械学院。后经国务院和中央军委批准，1961年北京工业学院（现北京理工大学）4个常规兵器专业（火炮、自动武器、弹药、引信）的教师、学生、实验设备、图书资料等全部迁入我校。1962年沈阳工学院两个常规兵器专业（火药、炸药）也相继迁入，使学校规模和整体办学水平得到了充实和提高。1963年我校划归国防科委直接领导，成为当时的国防工业 8 大本科院校之一。 1971 年归属到第五机械工业部，同年 7 月，奉本部军管会命令学校停办。
党的十一届三中全会以后，学校得到了迅速的发展和提高。1993年更名为华北工学院，隶属于兵器工业总公司。1999年，随着高校管理体制改革的推进，我校成为由国防科工委与山西省人民政府共建、以地方管理为主的高校，标志着我校进入了一个新的发展阶段。
2004 年 6 月，经教育部批准，学校更名为中北大学。
历任校长
| 学校名称 | 所任职务 | 姓 名 | 任职时间 |
| 太行工业学校 | 校长 | 刘 鼎 | 1941.05 ～ 1943.09 |
| 教导员 | 张 弥 | 1941.05 ～ 1943.09 | |
| 厉瑞康 | 1941.05 ～ 1943.09 | ||
| 长治工业学校 | 负责人 | 牛宝印 | 1946.02 ～ 1946.07 |
| 兵工职业学校（兵工中专） | 校长 | 邸耀宗 | 1949.08 ～ 1952.10 |
| 厉瑞康 | 1952.10 ～ 1959.08 | ||
| 党委书记 | 厉瑞康 | 1949.08 ～ 1954.09 | |
| 尹 钧 | 1954.11 ～ 1955.05 | ||
| 厉瑞康 | 1955.06 ～ 1958.08 | ||
| 太原机械学院（华北工学院） | 院长 | 厉瑞康 | 1960.06 ～ 1970.06 |
| 厉瑞康 | 1978.07 ～ 1981.03 | ||
| 何源海 | 1981.03 ～ 1984.12 | ||
| 祖 静 | 1984.12 ～ 1995.04 | ||
| 党委书记 | 厉瑞康 | 1958.09 ～ 1960.12 | |
| 冯 东 | 1960.12 ～ 1970.06 | ||
| 厉瑞康 | 1978.07 ～ 1983.01 | ||
| 刘余善 | 1983.10 ～ 1987.06 | ||
| 张开增 | 1987.06 ～ 2003.01 | ||
| 华北工学院 | 院长 | 俞士谦 | 1995.04 ～ 2000.10 |
| 张文栋 | 2000.10 ～ 2004.08 | ||
| 党委书记 | 杨波 | 2003.01 ～ 2004.08 | |
| 中北大学 | 校长 | 张文栋 | 2004.08 ～ 2009.12 |
| 校长 | 贾锁堂 | 2010.01 ～ 2012.08 | |
校长 | 刘有智 | 2012.08 ～2018.03 | |
| 校长 | 沈兴全 | 2018.03 ～ | |
| 党委书记 | 师谦 | 2004.08 ～ 2011.12 | |
| 党委书记 | 陶功定 | 2011.12 ～2016.01 | |
| 党委书记 | 李忠人 | 2016.01 ～ |