圣母守护教堂始建于1902年，开始为一座石结构的祈祷所，教徒以乌克兰人为主，故曾有乌克兰教堂之称。1922年，中东铁路局出资，在祈祷所的东侧新建了一座较大规模的木结构教堂。1930年，教堂从乌克兰俱乐部迁至东大直街俄国人旧墓地，由俄罗斯有名建筑师尤·彼·日丹诺夫设计，仿照土耳其伊斯坦布尔的圣索非亚大教堂的艺术风格，在木结构教堂的基础上，重新建造了砖石结构的教堂，即现今的圣母守护教堂。