福严寺为“六朝古刹，七祖道场”，是由南岳衡山佛教开山祖师、天台宗的三祖慧思大师创建;禅宗“南岳系”在此开派，其法脉演绎出沩仰宗、临济宗而传遍海内外，被誉为“天下法院”。福严寺创建于南朝陈光大二年(568年)，原名般若禅林，请注意发音，应叫“bōrě”,自古为南岳名刹,被誉为“天下法院”。
唐先天二年(713年)，禅宗七祖怀让大师来此，将该寺开辟为禅宗说法的道场，由此开创南岳系，传承鼎盛。宋朝时(1023—1048年)，省贤和尚(又称福严大士)来般若寺任住持，他率众徒多方募化重修寺院，并在寺庙周围种杉树十万株，以作日后寺院修建材料，为纪念福严和尚之功德，后改般若寺为福严寺，宋太宗赵炅赐“福严禅寺”匾额，一直沿用至今。福严寺是禅宗南宗派著名的传法胜地，1983年4月被国务院确定为汉传地区佛教“全国重点寺院”。
福严寺依次由山门、知客堂、岳神殿、大雄宝殿和说法堂、方丈楼等五进组成。常言道：“自古名山僧占多”，寺院多建在名山大川，开门见山，所以寺院的大门称作“山门”。各位请看，山门上有“六朝古刹，七祖道场”的对联。横额为“天下法院”。“六朝古刹”是指此寺庙于六朝时所建;“七祖道场”是指禅宗七祖怀让大师将该寺开辟为禅宗说法的场所;横额“天下法院”是指此处是禅宗南宗著名的传法胜地，不是今天讲的审讯犯人的法院。因为怀让在般若寺开坛说法，开创了南岳系，法徒遍及天下，后来他的弟子创立了“临济宗”、“沩仰宗”，天下南宗弟子都把福严寺当作传法的佛院，可见它在佛教史上的显赫地位。
第二进——知客堂，大门廊柱上刻着：“福严为南山第一古刹，般若是老祖不二法门”的楹联。此联阐明了该寺的历史和地位，同时说明南岳衡山即“寿比南山”之南山。下联的“般若”为佛教语。梵语的译音，意译为“智慧”，大乘佛教称之为“诸佛之母”。大门上悬挂着“五叶流芳”的匾额。“五叶流芳”是指禅宗六祖慧能的“顿悟法门”开创南宗后，又经七祖南岳怀让系和青原行思系的大力弘扬，南宗宗风大振，繁衍特盛。南岳怀让一系经马祖道一形成沩仰宗和临济宗;青原行思一系由南岳石头希迁开始，形成了曹洞宗、云门宗、法眼宗。这样南禅两系共五宗，佛教史上称为“一花五叶”。而“五叶”都源于南岳，法徒遍及天下，其中以临济宗、曹洞宗最盛，素有“临济临天下，曹洞曹半天”之说。而临济、曹洞等五宗都发脉于南岳，南岳是“济洞同源”的圣地，所以禅宗的道场便有“五叶流芳”的赞誉了。知客堂室内竖有“知客”、“僧值”的牌子，意思是僧人如触犯了清规戒律，知客师和值日僧将对违规人员进行执掌，以示惩处。
第三进——岳神殿。殿中供奉着南岳衡山之神--祝融火神。为什么在这里要供奉岳神?因为南岳衡山自古祭祀之主神就是祝融火神，祭祀南岳山神为历朝“国之大事”，民间朝圣主要是朝拜南岳圣帝，非佛非道。佛教要想在南岳发展，必须“顺天意，合民心”，尊重南岳圣帝。因此，慧思在掷钵峰下建般若禅林(今福严寺)时，特地建了岳神殿，长年供奉岳神。陈太建九年(577年)六月，慧思圆寂于般若禅林，建墓塔于掷钵峰前(今三生塔)，人称其为南岳佛教开山祖。岳神后面是护法神韦陀菩萨，手拄着一根降魔杵，负责佛寺的保卫工作。
岳神殿侧旁，有一株传说是出过家的受过戒的古银杏树，据记载，距今已有1400余年的历史了，树主干要三个人才能合抱过来。该树原来参天挺拔，有30多米高，只可惜在1976年时被雷电拦腰劈断了，树的主干多处断裂，两年来不见再生新枝，人们都以为这棵千年古树从此被雷电摧毁了。可说来奇怪的是,1978年,这棵千年古银杏竟然神奇地复活了，现在，它枝繁叶茂，生机勃勃，的确是南岳佛教的活档案!
第四进——大雄宝殿。殿中供奉着佛祖释迦牟尼，左侧供奉的是东方琉璃世界的消灾延寿的药师佛，右侧供奉着主管西方极乐世界的阿弥陀佛，大殿两旁供奉着十八罗汉。这些佛像全都用青铜铸造。三尊佛像的背后供有一尊香樟木雕刻贴金的观音佛像，这尊佛像是泰国华侨黄彰任先生捐赠的。黄先生夫妇在南岳还捐献了两尊纯铜镀金的佛像，其中一尊大的供奉于藏经殿，一尊较小的供奉于南台寺。
第五进是由祖堂和说法堂等组成。祖堂里供奉着本门宗派的各代祖先的神位。说法堂是寺院宣讲佛法戒律集会的地方。
第六进为单独院落方丈楼，除用于方丈修持、起居之外，还是方丈接待重宾、政要与各界名流会晤的场所。
福严寺不但寺古、树古，名僧辈出，而且名气大、影响广。唐太宗曾赐亲书佛经五十卷;南宋高宗曾为福严寺赐诗;清乾隆又赐藏经一部。只可惜现已无存。
寺边的虎跑泉的来历还有一个神奇的传说：当年慧思和尚建设般若禅林后，找不到水源，寺院饮用水，都要到山下去挑，僧众十分辛苦。一天，他召集僧众说：“我按照佛的旨意在此传法，不必担心没有水，会有神来相助的”。说着，举起锡杖朝寺下一处沙地用力一掷，一股泉水便冒了出来，可是水量不大，还是解决不了用水问题。第二天，慧思到寺外去，忽然从树林中窜出一只大老虎，僧众们吓得拔腿就跑，而慧思却镇定自如地说，大家不用怕，这只神虎来帮我找水的。果真这只大老虎彬彬有礼地走到慧思跟前，衔着慧思的锡杖直向寺后这一岩石前走去，于是伸出利爪，朝岩壁使劲乱抓，大吼三声。一会儿，一股泉水从岩底下奔泻出来。老虎随即朝山上跑去，消失在树林中，这便是慧思得神虎相助的虎跑泉的来历。奇怪的是，此井不管是天干还是发洪水，不管多少人汲用，它既不枯竭，也从不溢出，始终保持一定的深度。据说此神虎后来又跑到了杭州西湖畔挖了另一个虎跑泉，西湖景区的导游词也曾说到此事。
虎跑泉前坪有十八棵来自日本的罗汉松，其中最大的一棵树龄在200年以上。佛教中有“十八罗汉”之说，这十八棵罗汉松象征“十八罗汉”驻守南岳福严寺。
