交通大學創校於1896年上海，最初取名為南洋公學，即今日大陸之西安交通大學與上海交通大學。當時中國教育風氣漸開，提倡新政的辦理輪船電線事務大臣盛宣懷便决定於上海創設南洋公學。公學首任督辦為盛宣懷本人，總理則為何嗣焜。1912年南洋公學改稱上海工業專門學校。


中華民國創立後，交通部長葉恭綽認為轄下的上海工業專門學校、唐山工業專門學校、北平鐵路管理學校及北平郵電學校四校散居各地，管理困難，便在1921年合併成為交通大學，分別稱各校為交通大學上海學校、唐山學校及北京學校。


1949年國民政府遷臺，中國大陸的交通大學由上海市軍管會高教處接管，國民政府下的交通大學校務則被迫中斷。美國交通大學同學會的趙曾玨有鑒於核子科學已由清華大學成立的原子能研究所開始發展，但是與核子研究極其相關之電子研究則尚付闕如，力倡在臺成立國立交通大學電子研究所。


1958年6月1日國立交通大學電子研究所正式成立，由當時的教育部科學教育委員會主任委員李熙謀兼任研究所第一任所長。1964年恢復招收大學部，增設電子物理學系及電子工程學系。


1967年正名為國立交通大學工學院。1979年7月，恢復為國立交通大學，分設理、工、管理三學院。現時，國立交通大學共有八個學院，學生一萬兩千餘人。