自唐代起，上海地区就建有城隍庙。唐代，上海地区称为华亭县，在当时华亭县的西面建有华亭县的城隍庙。
明永乐年间（1403—1424年），时任上海知县张守约将上海城内供奉金山神主博陆侯霍光的金山神祠改建为上海城隍庙，供奉上海城隍秦裕伯