福严寺是六朝陈代光大元年(567)由高僧慧思和尚创建。当时名叫般若禅寺，又名般若寺。唐朝先天三年，怀让禅师来到南岳衡山，驻锡于此。今天福严寺的山门上有“天下法院”的横额，两边有“六朝古刹”、“七祖道场”的竖联，即是指这一段历史。宋朝时，改名为福严寺，一直沿用至今。当时，寺中有位名叫福严的僧人增修寺院，并栽柏树10株，福严寺因此得名。