据史料记载，大云寺始建于唐代贞观年间，明初毁于兵燹，清顺治年间建新寺于西门内，光绪年间两任知州大举增修，古牌楼应该建于这一时期，是当时商州西门口第一座牌楼，其对面还曾有一座古戏楼，现已不存在，这座古牌楼是商州城区仅存的一座木质古牌楼，具有较高的文物价值。在查阅清朝罗思文的《续商州志》等资料后，专家得出这座牌楼的年龄至少在250年以上了。

今天大雪纷飞，如今没有香火但是曾经一个四方丛林庙，和商洛博物馆在一起。