南山寺是因此寺的位置在泰州城的东南方；宋朝嘉定时寺内立戒台，传的是终南山白泉寺僧道宣创立的南山宗教法，即律宗，故名“南山教寺”。
始建于唐朝乾符三年（公元876年）距今已有一千一百多年历史。故名“护国寺”，宋沿平元年改称“资福禅院”，政和七年改名“神霄玉清万寿宫”，建炎元年又称“资福禅寺”，至嘉定年间更名“南山教寺”。
现存大雄宝殿及东西侧部分斋寮；大雄宝殿位于高台之上，庑殿重檐，筒瓦屋面，建筑等级最高，寺庙中极为少见。大殿内金柱、前柱和角柱用名贵的南木制成，历史之久，等级之高，堪称“江浙第一寺”。1957年被列为江苏省文物保护单位，2002年时大雄宝殿进行落架大修，并重建殿前月台。
