希腊是第一个拥有路轨运输的国家。
至少二千年前已有马拉的车沿着轨道运行。
1804年， Richard Trevithick 在英国威尔斯发明了第一台能在铁轨上前进的蒸汽机车，但没赚到甚么钱。
第一台取得成功的蒸汽机车是 Gee Stephenson 在1829年建造的火箭号。
1820年代，英格兰的史托顿与达灵顿铁路成为第一条成功的蒸汽火车铁路。
后来的利物浦与曼彻斯特铁路更显示了铁路的巨大发展潜力。
很快铁路便在英国和世界各地通行起来，且成为世界交通的领导者近一个世纪，直至飞机和汽车发明才令铁路缓慢地衰落。
高架电缆在1888年发明後，首条使用高架电缆的电气化铁路在1892年启用。
第二次世界大战后，以柴油和电力驱动的火车逐渐取代蒸汽火车。
1960年代起，多个国家均建置高速铁路。
而货运铁路亦连接至港口，并与船运合作，以货柜运送大量货物以大大减低成本。
现时在全球 236 个国家和地区之中，有 144 个设有铁路运输 (包括全世界最小的国家教廷在内)，其中约 90 个国家提供客运铁路服务。
中国第一条铁路建于上海，由英国人兴建，后被清朝地方官员买回并拆毁。
而正式使用的第一条铁路和蒸汽机车则是由李鸿章兴办的开滦公司煤矿所建。