城南的重要遗迹有刑徒墓、灵台、太学和城内的永宁寺等。
灵台，是东汉观察天象的专门机构。建于中元元年(公元56年)，北魏时废弃。遗址位于城南平昌门外，东西220米，南北200米。经发掘，东西两侧有墙基，遗址中心是一座方形夯土台基。底部长宽各50米。台基上下两层平台。下层平台环建回廊，上层平台每面各有五间建筑。上、下层坡道相通。中心台顶平面略呈椭圆形，南北11.7米，东西8.5米。是当时观察天象之所。东汉著名天文学家张衡曾任灵台台丞(即天文台长)，并在这里设计制造地动仪，写出《灵宪》等天文著作。灵台是迄今我国最早的一座天文观测台遗址。
永宁寺，建于北魏熙平元年(公元516年)，是洛阳城中最大的一座寺院。寺址位于宫城南门——阊阖门基址西南约一公里处。平面呈长方形。四周夯筑围墙。周长1040米。中心为方形塔基。《洛阳伽蓝记》：永宁寺“中有九层浮图一所，架木为之，举高九十丈，有刹复高十丈。合去地一千尺(西晋一尺合今24.2厘米)。去京师百里已遥见之。”
今塔基残高约八米，平面呈方形，分三层而上，底层夯基东西101米，南北98米。中层夯基东西、南北各长50米。顶层台基系用土坯垒砌，面积约10米见方，其间留有木塔柱洞残迹。台基表面有残佛像头等遗物。北魏永熙三年(公元534年)，寺塔毁于大火。
城址大体作南北长方形。经实测，西城墙残长4290米，墙宽约20米。北墙全长约3700米，宽25—30米。东墙残长3895米，宽约14米。南城墙因洛河北移被毁，其长度，以东、西垣的间距计算约2460米。城周长约合14公里。
太学，创建于东汉建武五年(公元29年)，是我国最早的大学。遗址位于城南辟雍的东北。分为东、西两部分。西部是一组长方形夯土建筑群，东西104米，南北90米。东部为一组密集成排的夯筑房基，南北220米，东西150米。四周夯筑围墙。东汉灵帝熹平四年(公元175年)立石经于太学，通称“熹平石经”。魏齐王正始二年(公元241年)又新立石经，通称“正始石经”。这是儒家经典正本。宋代以来，时有石经残石出土，近年来又有新的发现。
大城内的中北部，探出北魏宫城，南北长1398米，东西宽660米。呈南北长的矩形。南墙开一门，西墙二门，东墙一门。南门即宫城正门。门洞阙口宽46米。大城内街道，东西横街四条，南北纵街四条。其中，贯通宫城正南门(阊阖〔chāng hé昌何〕门)至建春门的横街，全长2510米，宽35—51米，是横穿宫城的主干大道。还有北从宫城南门起，向南直通宣阳门的铜驼街，是全城的南北中轴线。残长1650米，宽40—42米。街道两侧有大面积夯土台基。应是《洛阳伽蓝记》中的司徒府、大尉府、太庙等遗迹。
汉魏洛阳故城，在今洛阳市东约15公里处。为东汉、曹魏、西晋、北魏都城遗址。1954年开始调查，1962年以来，勘探与发掘。
城垣的西、北、东三面，共探出城门10座，西垣五座，北垣二座，东垣三座。据文献记载，汉魏晋时有12座城门，北魏时有13座城门。
刑徒墓地，发掘了522座墓。长方形竖穴土坑墓，长宽仅能容身，每坑埋一人，绝大多数是男性，女性只占4%左右。有棺，有的遗骸上可看出骨折或病变痕迹。出土刑徒砖820余块，是用残砖刻铭的。铭刻记录了刑徒的部属、狱所、名称、刑名、姓名和死亡日期等项目。这些刑徒都属于将作大匠的左校或右校管理。死后立专门登记的簿册。铭砖中刻刑徒死亡日期的共有229块。始自永元十五年(公元103年)四月三日，终于延光四年(公元125年)十月二十二日。这些刑徒绝大多数来自中原和长江中下游征调到洛阳服役的劳动人民。生前过着奴隶般的生活，死后又如此凄惨。
洛阳城西北角，曹魏时增筑金墉城。经勘察，此城由南北毗连的三座小城组成。设门道相通。平面呈“目”字形，南北长1048米，东西约255米。城墙宽12—13米，城门八座。北城：西墙、南墙各一门。中城：西墙二门。南城：四面各一门，均为一个门洞。该城北依邙山，据地势制高点，可俯瞰洛阳全城。实际上是座军事性城堡。
