学校的历史渊源可追溯至1896年成立的山海关北洋铁路官学堂(原唐山铁道学院前身)和1909年成立的北京铁路管理传习所(原北京铁道学院前身)。1946年冬,东北解放区创建了东北铁路职工学校,后改名东北铁路学院、哈尔滨铁道学院,后来并入北京铁道学院。1949年夏,中央军委铁道部决定,将接收的交通大学之唐山工学院、北平铁道学院和新创建的华北交通学院合并,组成中国交通大学。1950年9月,中央人民政府政务院决定,中国交通大学改名为北方交通大学,毛泽东主席亲自题写校名。不久,交通大学的北京管理学院改称北京铁道学院,唐山工学院改称唐山铁道学院。兰州铁道学院1956年,政务院决定唐山铁道学院迁往兰州建校。1956年起,唐院在兰州市安宁区勘测了校址,并正式动工修建了部分校舍。后因故未迁,遂将已建少量的校舍移交给铁道部直属的兰州铁道学院。