人们通常称之为“南山寺”，是因为此寺的位置在州城的东南方。何以称为“南山教寺”，有人说是在宋朝嘉定时。寺内立戒台，所传是终南山白泉寺僧道宣创立南山宗教法，即律宗，故名“南山教寺”。
寺初建时赐额“护国寺”，宋治平元年（1064）改名“资福禅院”，政和七年（1117）改名“神霄玉清万寿宫”，建炎元年（1127）复为僧庙，名“资福禅寺”，淳熙十年（1183）毁，绍熙间（1190—1194）重建，嘉定（1208—1224）中立戒坛，元至正二十四年（1364）僧主僖重修，明代为祝圣道场，且设僧正司，永乐十八年（1420）铸钟，崇祯五年（1632）重建塔。
南山寺多次改名，经历了佛教——道教——佛教的转变历程。
南山寺的规模，清光绪（1875—1908）以前没有确切的文献记载。光绪《泰州志》有南山寺图一幅，为我们描绘了当时南山寺的概况：寺坐北朝南，前是3个圈门的山门殿，供奉二将；中为前殿，供弥勒、韦陀、四大金刚，另有神仙像8尊。弥勒像柱联“眼前都是有缘人，相近相亲怎不满腔欢喜；世上尽多难耐事，自作自受何妨大度包容。” 韦陀像柱联“玉杵荷灵庥千佛道场频护法，金盔森爱戴三洲感应总随缘。”后有大雄宝殿，供装金大佛和罗汉像，背为观音海岛，殿内东南西南分别配有大钟鼓，钟为永乐十八年造。殿外两侧为僧寮客舍及附属用房，方丈居室联“云窗禅榻静，松影佛堂虚。”建筑结构紧凑。院东曾有大银杏树一棵，院北还建有月台。寺庙地势高敞，环境开阔。
南山寺内现仅存大雄宝殿及东西侧几间附属房屋。大雄宝殿位于高台之上，庑殿重檐，筒瓦屋面，瓦头和滴水上有龙凤图案。正脊高耸，上刻二龙戏珠，两侧装有鸱尾。殿内粗大的圆形金柱、步柱、角柱均为贵重的楠木，内、外柱等高，柱下垫刻有复莲纹的石础。平綦上草袱作，采用插柱造手法。脊桁下用叉手，沿袭元以前建筑手法，斗拱系明式做法，梁枋上彩绘二龙戏珠和唐三藏师徒西天取经以及云彩、花卉和多种动、植物图案，脊檩与金檩的枋下分别有“大明天顺癸未冬拾壹月吉旦……”、“皇清乾隆……”及一九五七年修建的文字记载。殿面阔五间22.15米，进深九檩17.4米，脊檩高11.35米。从整个大殿建筑形式看，保留明代中期建筑特色。整座殿宇，精雕细作，气势不凡，巍然壮观。
庑殿重檐的屋面在我国古代建筑史上属最高等级的屋顶式样，一般用于皇宫、庙宇中的主要大殿，表示特别尊贵。泰州南山寺大雄宝殿庑殿重檐的屋顶和北京的“太和殿”，山东的“岱庙”，属于同一类型。目前江苏只有苏州的文庙和泰州的南山寺是这种形式的古建筑。中国古建专家陈从周教授在泰考察时，赞誉南山寺大雄宝殿为“江浙第一寺”。
在等级森严的我国封建社会，在泰州建这种高规制的庙宇是有其特定的历史背景的。我国隋、唐时代是佛教全盛时期。公元八七三年，唐懿宗兴起唐代第三次崇佛高潮，在长安搞了一次迎佛骨活动。泰州南山寺就是在这次崇佛高潮后的第三年，即公元八七六年建成的。
南山寺周围，历史上一度是古城的文化中心。寺的附近曾有不少建筑。寺东南有八角三层的砖塔，在泮池之右，可登高望远，可朝夕见池中砖塔倒影，为古城八景之一“凤池笔颖”。明凌儒有诗曰“胶庠云拥凤麟游，形胜多从璧水收。峻塔倒成横笔影，清淮分作曲池流。文明此日昌期会，元气终天万古浮。安得回梯还百尺，题名盛继许查周。”该塔，世传为宋泰州知州周孟阳所建，砖上勒有周公塔3字，民间又叫南山寺宝塔，1968年被拆除。
南山寺大雄宝殿于1957年被列为江苏省文物保护单位。省文管会和南京博物院多次来人察看，对此殿十分重视。在省市的共同努力下，自2003年6月至2004年6月，历时一年多，耗资110多万，对大殿和东侧三间附属用房进行了认真维修，随着社会进步，经济繁荣，这座历史久、等级高的南山寺大雄宝殿，将越来越显得珍贵，越来越为人们所重视。
南山寺大雄宝殿是我国古代能工巧匠智慧的结晶，是古城海陵文明历史的见证。
注1明·万历七年任海防兵备的龚大器（湖北大）驻泰时曾作《秋日南山寺访客》：“古寺依南郭，禅房苔藓封。寒云萋白石，灵籁动青松。客思惊秋笛，梵音下暝钟。故人天北至，良夜喜重逢。”
注2清·周虹登塔留诗《登南山寺塔》一首“高塔闲登意自殷，凭栏千里绿氤氲。渡江夜翦南朝雨，压顶朝分北固云。春到上方风渐软，人游古寺日初曛。机心息尽参禅久，钟鼓声声碧落闻。”
（ 李峋）
