铁门关始建于三国时代。据《明一统志》载：“铁门关，左倚大别山，右控禹功矶，吴魏相争，设于此。”清同治《汉阳县志》载：“铁门关：在县东北三里，禹王庙侧，大别山头。吴设关于此。”
自三国至唐初数百年间，铁门关经历过多次攻守激战，其险固之名日剧。唐武德四年（621年），建汉阳城，铁门关成为文化、经贸交流的一条重要通道。至明代初、中期，铁门关保存完好，其军事作用日渐削弱，但其文化、浏览、观赏价值俱增。
明隆庆四年（1570年），铁门关毁于大火，在仅存土基墙座上有人修关帝庙。清雍正年间汉阳人李汉兹为关帝庙题“天地正气”门额。清同冶三年（1864年），郡守周金钟重修铁门关。光绪十七年（1891年），张之洞建汉阳铁厂，铁门关墙座拆除，自此不存。
1990年初，武汉市政府决定重修铁门关，当年12月破土动工，1993年1月落成。新建铁门关面积800余平方米，关体高15米，关楼高11米，共高26米。为三拱城门制式，横亘于洗马长街上。
