位于兰州城北的白塔山下、金城关前，有"天下黄河第一桥"之称，是兰州市内标志性建筑之一。铁桥建成之前，这里设有浮桥横渡黄河。浮桥始建于明洪武年间（公元一三六八至一三九八年），名叫镇远桥，今尚存建桥所用铁柱一根高达三米，重约数吨，上有"洪武九年"字样。
清光绪三十三年（公元一九○七年），改浮桥为铁桥，是黄河上游第一座铁桥。桥有四墩，下用水泥铁柱，上用石块，弧形钢架拱梁，是后来进行加固工程时增建的，全部工程共耗白银30余万两。登桥远望，不远处的黄河如带，蜿蜒盘曲，为兰州这一工业城市增色不少。
古代这里是控扼河西走廊、青海、宁夏的交通要冲，“丝绸之路”的必经之地。西汉以后，严冬黄河结冰，厚数尺，车马通行其上，俗称冰桥。史称陕西之路可通甘凉者，惟兰州浮桥；敌若据此桥，则河西隔绝，饷援难通。夏秋河水暴涨，桥常冲毁，冬春之际，冰凌冲撞，亦常摧桥。《兰州古今注》记载：清光绪三十三年（1907年）把浮桥改建为铁桥，长七十丈，宽二丈二尺四寸，桥下设四墩，下用水泥铁柱，上用石块，河南第二墩最深，墩底至水面一丈七尺。共花白银三十万六千余两。工程由德商泰来洋行承修，但物资运输和施工全为我国承担，各地人民以骆驼、大轱辘车，远涉千里，东自天津等地运输架桥材料，终于在黄河上架起第一座铁桥。铁桥曾于1954年进行加固工程，上架弧形钢架拱梁，结构美观，气势更见雄伟。