在橄榄山的山坡上，教堂外形有4个装泪水的瓶子，圣经里有记载，耶稣在橄榄山上遥望圣城，哀哭耶路撒冷将来的毁灭。在现场有发现一世纪的墓葬遗址。

主泣教堂是耶路撒冷最新的教会之一，位于一个古老的遗迹之上。在施工期间，圣殿考古学家发掘出的文物可以追溯到迦南时期，并发现第二圣殿和拜占庭时代的古墓。直到十字军东征时代之前，耶稣哭泣的位置没有记号。从这个时期开始，人们开始纪念该地点。后来一个小礼拜堂建在该位置。1187年耶路撒冷沦陷后，教堂被毁灭。16世纪初期，一座清真寺或伊斯兰学校在原先教堂的位置建立起来，尽管确切的用途仍有争议。