下設四個鐵路辦事處:合肥鐵路辦事處、南京鐵路辦事處、杭州鐵路辦事處、徐州鐵路辦事處。上海鐵路局地處長江中下遊東南沿海，線路主要分布在安徽、江蘇、浙江、上海。
車站正下方
直屬站22個:上海站、上海南站、虹橋樞紐站、南京站、南京南站、南京東站、徐州北站、徐州站、蚌埠站、南翔站、蘇州站、無錫站、鎮江站、常州站、蕪湖東站、杭州站、杭州東站、溫州南站、喬司站、淮南西站、阜陽北站、合肥站。
9個車輛段:徐州車輛段、淮北車輛段、阜陽車輛段、蕪湖車輛段、寧波車輛段、嘉興車輛段、金華車輛段、新昌車輛段、合肥車輛段。
客運段4個:上海客運段、南京客運段、合肥客運段、杭州客運段。
現有機車5臺:上海機務段、徐州機務段、南京東機務段、合福機務段、杭州機務段、金文公司運輸段。