牛首山上始建寺庙，年代久远。汉书《地理志》记载：始皇三十二年（公元前215年）派大将蒙恬率兵30万，“此筑长成而守藩篱，却匈奴七百里，收复河南地”。并就地取石，筑起烽火台。因山上有泉名曰“神泉”，故叫“神泉障”，成为军事屏障。书中有载：“神泉障，蒙恬所筑。”后战乱平息，佛、道、儒三教信徒便在这里军事要塞上筑盖寺庙，以后逐年修建。

　　据清顺治十八年（1661年）《重建三圣寺碑记》记载：“牛首乃西夏名山古刹故址也，自汉唐宋以来，盖多历年所于兹矣。”清光绪年间《重修滴水寺碑记。说是“创建于唐代贞观，重修于明代万历”。吉祥寺碑文记载：“自汉、唐宋以来，历代修筑。”西夏以前的牛首山寺庙没有文字记载，历史学家范文澜在《中国通史》一书中说，“牛首山寺创建于汉唐”。从以上记载右知，牛首山寺庙的历史相当久远了。

　　说起牛首山西寺庙群，首先要谈牛首寺。它历史悠久，名扬八方。在现存的明清碑文中，都认为牛首寺是西夏古刹。明万历年间，广武游击石栋重修佛阁的碑记标题是《重修西夏牛首山寺佛阁记》。清初湖广提督、广武人俞益谟重修牛首山正顶说法台的碑记称“牛首山为西夏名胜”。《重建三圣寺碑记》载：“牛首乃西夏名山古刹故址也……”

　　明代的牛首寺规模相当宏大，建有12座佛殿，两座宝塔。后来佛殿发展到20多座。寺内还有明太祖朱元璋的十六子朱旃铸造的一尊铁牛。当时住寺的人相当多，山下黄河岸边种寺田400余亩，南面山顶上的大寺坪也是由牛首寺耕种。明嘉靖以后到清康熙年间，曾经受过两次7.25级地震的破坏，后都经过重修，维持采用砖拱结构，荟集宁夏砖雕之精粹，同时，把两个主峰顶上的寺庙分别命名。原来的小西天改名大西天，把原来在文华峰顶的小寺进行扩建，命名为小西天，建筑规模也极宏伟。

　　牛首山上的寺庙众多，以群坐落。如今以所属县份不同习惯上分为东寺和西寺。位于中宁县境内的西寺庙群现有25处之多，以地理位置不同分为四个群组：第一个群组在牛首山主峰顶部及其周围。以大西天，小西天为主寺，另有清凉寺，净西门寺、地藏寺、三圣寺、倒座观音台、三圣宫、药王庙等。这个群组又是整个牛首山寺庙群的主体部分。从山脚沿大寺沟盘旋而上，一般跋涉3个小时左右，即可到达。若走捷径，可走“尖刀岭”，也叫“莲花梗”。此路山陡涧深，崎岖难行，只能独人攀登，需小心谨慎。第二个群组在牛首山主峰西南，有极乐寺、观音台、大弘庵、小弘庵等。第三个群组在牛首山西山坡。有万佛阁、睡佛寺、百子观音洞、滴水寺、金牛寺、净土寺等。第四个群组在牛首山西北的黄河边上，有地涌塔寺、龙王庙、孙家寺、和尚塔寺、姑姑塔寺等。古寺大部分依山势开凿庙台，或建在山顶悬崖上，或建在山腰险峻处，或建在山脚下，或“深山藏古寺”建在幽谷之中。它们枕山面河，前临深沟，背靠青峰。若站在远处仰视，则见云镇青峦，峭壁嶙峋，寺庙隐现于悠悠白云之中，神秘色彩颇浓。若站在山顶鸟瞰沟内，则古寺庙宇参差，草木葱茏，景致十分壮观。

　　寺庙“构木成殿，垒石为垣”，建筑用料多半就地取石为基，以砖为墙。然而在海拔1200至1700米高的悬崖峭壁上建寺庙，所用砖木能少吗？怎样运上去呢？有民谣说：“清凉寺有个和尚仙，能叫六畜上高山。猪背瓦，羊驮砖，牛马在槽也出汗。“智慧无穷的人类，就是利用羊能爬山的本领和佛教善男信女的虔诚，把砖瓦木石运上山去，建成美观的寺庙的。民国年间，重修牛首山寺时，采用了砖拱结构、砖雕贴面的建筑形式。飞檐漫砖，雕梁画柱，以及栩栩如生的泥塑金身，其建筑”殿宇崔嵬，金碧辉煌“，确有独特风格。特别是西寺的砖雕，堪称宁夏砖瓦建筑艺术的精粹。

　　清代中卫知县黄恩锡曾有《登牛首山寺》诗曰：

　　文华武英翠相连，并峙兰峰壮九边。

　　法藏经储千佛阁，禅宗名擅小西天。

　　池留幻迹金牛隐，地涌灵光宝塔悬。

　　览胜不辞登绝献，欲凭愿力洗尘缘。