明成祖为了纪念母亲，在孝陵卫建了观音寺。观音阁大石壁是庙的一面墙。观音寺后来毁掉了，大石壁流落民间，发现后移到这里，并且建了观音阁楼

观音阁大石壁在中山门外孝卫街158号，现南京手表厂宿舍区。 观音阁建于明永乐初年。据史载：“太宗文皇帝尝顾瞻山麓有气不散，命工琢石肖形，构阁以记其处”。正德五年(1510)阁焚毁，5年之后重建，有金刚殿、观音殿、左右碑亭、毗卢殿等建筑，亦毁，仅存大石壁1块和须弥座石刻1只。大石壁高约4．50米、宽5．56米、厚0．50米。石壁光滑有暗纹，正面中心刻有宝光，工艺精细，表面涂有金、红两色，宝光最大直径1．75米。原石壁宝光前有石刻大观音像及莲花座等，后均散失。80年代初，石壁被当作楼房隔墙，其表面皆以石灰掺水泥砂浆涂刷。 1982年列为南京市文物保护单位