从台怀中心区沿公路南下至杨柏峪村，转向西过清水河，行数百米，就来到南山寺所坐落的山脚下了。南山寺依山而建，海拔一千七百多米，面积九十多亩，计有殿堂楼房窑三百多间。南山寺整个寺院由七层三大部分组成，下三层名极乐寺，上三层名佑国寺，中间一层名善德堂，南山寺是它们的总称。该寺创建于元代，以现存寺内元代至元五年(公元1268年)八月所立石碑为证，当时称“大万圣佑国寺”。清光绪九年再行修建，称为极乐寺。清代末年，有一个皈依佛门的九宫道首领叫普济，是寺院的住持和尚，他同清政府关系密切，慈禧太后亲笔题写“真如自在”木匾赐普济，普济还将其字刻印在石上，供奉起来。民国初年，由东北信徒捐资，普济和尚将原有的极乐寺、佑国寺、善德堂三处合建在一起，称为南山寺。普济死后，寺院修建未停，建筑工程浩大，规模壮观，连续动工二十三年，后因“七七事变”停工未竣。经过大规模的修建，南山寺建筑样式别具一格，多以青石和汉白玉石构成，石雕内容兼有佛、道、儒三家的色彩。
杜牧《阿房宫赋》中描绘阿房宫时说：“五步一楼，十步一阁。廊腰缦回，檐牙高啄，各抱地势，钩心斗角。”五台山南山寺，有着同样的气势和风姿。步入寺内，回栏曲径、亭台楼阁，应接不暇，甬道深处、院落门首，多有石刻题词、对联，特别是各类建筑物上的石雕，题材多样，内容纷繁，游历其中，有步移景换、多姿多彩的感觉。在寺庙中，象这样宏观浩大、微观精细的群体建筑是很少见的。
南山寺建筑依托山势，层次高低分明，错落有致。寺院最下面有一堵大影壁，长十七点三米，高约八米，石彻底座，砖砌壁身，顶部壁檐有砖雕，壁面嵌有汉白玉石，上刻题词和对联。左边的石刻对联是：风化神中梦，迷路天作合。右边的石刻对联是：了道心圆地，真光上明天。中间圆形的石面上也刻有同样内容的字迹。从影壁旁入寺院，首先登一百零八级石台阶。台阶尽头的高台上，立有二座高大的石牌楼，长十二点八米，宽一点六米，高约九米。牌楼下有三个门洞，上分三层楼头，一层比一层内缩，居中的楼头最高，两侧配以对称的分层次的四个楼头。中门洞额的石面上题有“苍松无毁智转云中飞腾万里山水乎”字样。两个边门的外侧和内侧，都刻有楹联。牌楼的背面也有许多石刻题词和对联。
石牌楼后面的建筑是大钟楼。钟楼分两层，下层是敦实的石建筑，上层是重檐木构建筑。下层门洞的拱券和门框上，刻有“八洞神仙”图，边侧刻一副对联。钟楼背面门洞两旁，又有两个小门洞，内砌二十八层台阶，直通楼上。楼上四周围以石栏，围栏上刻有各种花草树木，很简单的勾勒，就把神韵显示出来，足见其刀法的纯熟。高层的本建筑上，涂金着彩，十分华丽。南山寺的大钟楼，石建和木建相结合，石刻人物花卉和石刻题字相结合，石雕和彩绘相结合，很有特点。游人穿过大门洞，登小门洞内的二十八级暗石阶上楼，可凭栏观光。
大钟楼左侧是一个院落，东面有一座小殿，上挂“敕建极乐寺”匾额，殿前立元代石碑—通，清代石碑数通。至此，方显出南山寺的古朴气氛。小径左侧。又有一个门，门旁有砖砌建筑的钟鼓二楼，入内是一个四合大院，大院正西经北向南的就是南山寺现存塑像设置最完整的大雄宝殿。殿内正中为泥塑释迦牟尼佛和阿难、迦叶两个大弟子，再前正中为石雕文殊骑狮像。左侧为石雕送子观音像，观音菩萨慈爱地把小孩放在膝上，一手护抱，一手拉着孩子的小手，观音菩萨的背后，卷起凹石，表示山洞的样子，这座雕像形象十分生动。右侧为木雕普贤菩萨。菩萨伸出的十八臂作出各种姿势，下踩一朵莲蓬，身边眼两头小象，看上去翩翩欲飞。大殿两侧的泥塑十八罗汉，其工艺水平之高，在五台山所有大雄宝殿内同类塑像中首屈一指。罗汉的个性鲜明，有的疾恶如仇，有的泰然自若，有的眉清目秀。有的老态龙钟，一个个栩栩如生。十八罗汉所靠的山墙内壁上有壁画，左侧壁画为释迦牟尼佛传记，右侧壁画为唐僧取经。殿门内额上挂一竖匾，上有慈禧太后题写的“真如自在”四字。
大雄宝殿左侧，有一个窄过道，通人大殿后面的禅堂院，院中立有慈禧太后题写的“真如自在”石刻，字迹与大殿木匾上的一样。
南山寺堪称石雕艺术的宝库。游人到此，如同湖览雕刻艺术的画廊，使您的情感飞向天上人间合为一体的浪漫境界，并受到极大的艺术感染和历史文化知识的教益。