因境内的栖霞山得名。栖霞取自“饵霞栖云”一语，本指修仙成道，后被隐士喻超尘脱俗。南齐时山上建了栖霞寺。山随寺名，故称栖霞山。

1934年10月，于燕子矶一带设南京市第九区，于孝陵卫一带设南京市第十区。

1939年1月，改称为燕子矶区和孝陵卫区。

1945年，复称为南京市第九区、第十区，并扩大辖区范围。

1949年1月，划出燕子矶区八卦洲，设南京市第十四区。

1949年5月，撤销第十四区，并入第九区。

1950年6月，改第九区为第八区，改第十区为中山陵园区，并调整辖区范围。

1953年7月，句容县龙潭镇和江宁县尧辰、石埠、衡阳、仙女、新合、栖霞6个乡镇及摄山乡、三阳乡部分区域划入南京市，新建第九区，区人民政府驻栖霞镇。

8月划第八区八卦洲的七里、上坝、中桥、下坝、巽离5个乡划归六合县。

1955年8月改第八区为燕子矶区，改第九区为栖霞区。

1956年2月，江宁县龙永乡、三阳乡和句容县东阳乡划归栖霞区，六合县八卦洲5个乡复归燕子矶区。

1958年11月，并入南京市郊区。

1960年9月，撤郊区，分属鼓楼、玄武、下关3区。

1963年，复设燕子矶区、中山陵园区和栖霞区。

1965年5月，燕子矶、中山陵园区并入，治在栖霞镇（1968年迁至板仓镇，1971年5月迁至尧化门）。

1970年1月划出马群、紫金山、玄武湖3个公社和孝陵卫镇，新设南京市钟山区。

1975年中山区并入栖霞区。

名称沿用至今。