寺庙始建于东吴甘露年间（265-266年），故名“甘露寺”，当时建在山下。唐代宝历年间（825~826年），由润州刺史李德裕布施宅地，将甘露寺移到山上。后甘露寺又几经兴废。现在的甘露寺是清光绪十六年（1890年）由镇江观察黄祖络等筹款修建。现在的景区是在此建造的基础上，于2012年扩建而成。