慈云寺始建于东汉永平七年(公元64年)，是由天竺高僧摄摩腾，竺法兰亲手创建的民间第一寺院，素有“释源”“祖庭”“中华第一寺”之誉。寺院占地面积约60亩，在近两千年的历史中，曾有十余次大规模重修。现在的慈云寺，是在明朝寺院的原址修复和重建，完整保留了当时的建筑格局。
这里四山旁围、一水中流、峰峦联亘、林木掩映、环境十分幽静，是休闲度假的理想境地。
慈云寺始建于汉代，是巩义第一丛林。据寺内碑载：“东汉明帝永平七年（公元64年），有僧摩腾，竺法兰始建白马寺于洛阳城西，既而云游其山，因其山月之秀，遂开慈云禅寺”。所以称慈云，是说佛之慈心广大如云，荫庇整个世界。
慈云寺历经沧桑，或兴或废，一直延续至今，它经受了两千多年的风风雨雨，成了令人遐思的古寺。唐贞观元年至三年（公元—年），唐僧唐三藏玄奘奉敕重修此寺。宋代香火仍然很盛。到了元代，由于战乱和灾荒，曾—度荒废。从明正统九年（公元年）开始，直到清同治五年（公元年），历代都有修葺。极盛时期殿堂栉比，金碧辉煌，僧五六百人，香客如云，纷至沓来。本其形胜之雄，兼之制度之美，即元公之庐山，达摩之少林，无喻此地。
古老的慈云寺，经历了两千多年的岁月沧桑，清末以后逐渐走下坡路。慈云寺现存的碑刻，无论就其艺术价值和历史价值，都可以当作珍贵的旅游资源；加以保护。有一通明碑上刻有“青龙山慈云寺五十三峰呈现境图”，四周群峰，万壑争流，摩腾、竺法兰遥立青龙峰颠。飘飘欲仙，慈云寺平面图线刻在碑的中间，给我们留下了珍贵的历史资料。
这要从中国佛教发展史谈起，自公元前五世纪东亚产生孔子、老子、释迦牟尼三位大思想家之后，儒、道、佛教就逐渐产生，在*权的作用下，儒、佛率先步出国境，而道教也相继发展，并互相影响。据资料记载，佛教已于公元前一世纪（西汉末年）传入中国，只不过是民间形式罢了。正式由官方接持，大约以汉明帝时为最早。最旱受到皇帝礼遇的就是白马寺与慈云寺的奠基者摄摩腾与竺法兰。
古中印度僧人摄摩腾、竺法兰最初在洛阳（今偃师境内汉魏洛阳城翻译《四十二章经》，这已无庸置疑，但“白马寺是中国最早的寺院”就有待商榷了。
首先从年代上讲，二高僧来到洛阳，住的是国家接待外国宾客的官邸鸿胪寺，并非伽蓝，更非白马寺。因为当时中国尚没有寺院。“寺”还是官府机构的名字。为使僧人专心翻译经卷，宫府后来为二僧修了“精舍”，一望而知，“精舍”之意也与“伽蓝”相去甚远。“白马寺”是为了纪念二僧在此处译经，后来才由“封建国家创立的第一座官方寺院”（《洛阳志》第十五卷七页）。据东魏（-年）杨炫之《洛阳伽蓝记》卷一载：“初创的寺位于雍门外，或因其建筑式样和梵文音译而称“塔寺”，或因其教而称“佛寺”，并无白马寺之名称。据考证，大约在西晋时。才有白马寺之名”（参看《洛阳志》十五卷第二节：寺院创立）。而位于汉代洛阳（今偃师境内）东不远处的慈云寺，则是“汉、唐、宋、元敕建重修”“古刹慈云寺号释源……法竺兰、摩腾、三藏宣。后显大唐并宋帝，重修至正、至元年，大明建立如来殿。”（见景泰元年三月，慈云寺住持僧觉顺撰《重修青龙山慈云寺》碑）。其它古碑也多有记载，如“汉明帝永平七年有僧摩腾、竺法兰……云游此山，因其山川之秀。遂开慈云禅寺，故其山满月之形，水曲银河之派……有祖师（指二僧）降蛛之处，二老（指摩、竺）谈经之所……至于唐三藏法师，奉敕重修庄严宝地，自兹以往，或兴或废修置不一……少林同祖，白马同乡”（见天顺四年。赐进士第中顺大夫河南知府，汉中虞廷玺撰，朝议大夫、广东左参议、洛阳杨铭书之《重修青龙山慈云禅寺碑》铭。）青龙山间有古刹名曰慈云大寺“（见大明正德三年《重修青龙山慈云禅寺记》），可见慈云寺建寺开始即以“慈云”为名，比“白马”寺之名字早二百余年。
唐宋以前的慈云寺发展史，文字资料不多，只能根据当时佛教发展的总趋势及慈云寺周围的重大历史事件，结合碑文资料，简作阐述。
东汉时期（碑文载汉明帝永平七年），摩腾、竺法兰草修慈云寺。幽静环境中，二僧结跏跌座。静修悟禅，相互谈经说法，商讨译经中存在的问题和宣扬佛法的办法。并招收信徒宣扬佛教宗义；还斩除了寺院附近结网伤人的大妖蛛。
东汉末年。慈云寺以西的洛阳成为战乱中心，巩县是洛阳的门户，慈云寺附近的虎牢关、旋门关、小关、巩密关、辕辕关等战事频繁，董卓毁灭洛阳后自巳也披刺，埋在慈云寺附近（今董陵村）。数百里内荒无人烟，慈云寺毁灭殆尽。
魏晋时期，建安二十五年曹丕在洛阳称帝后。重新营造宫殿，魏明帝时，崇信佛教，在洛阳及县周围修建伽蓝浮屠。西晋初期又在巩洛一带修建寺庙，慈云寺烟火又盛。但好景不常；“八王之乱”不仅祸及洛阳，慈云寺近处的关隘、小道，也争战频纷。
北魏孝文帝、宣武帝、孝明帝及其母胡后皆崇佛，在洛阳龙门、巩县大力山下凿窟、造像、修复寺院，洛阳内外有佛寺一千三百六十七处，慈云寺日趋兴隆。少林寺也于此时建立起来。因二寺邻近，慈云寺又系祖庭，僧众来往频繁，续焰排字，相互支持，因而至今慈云寺的古碑上仍记有“祖风是务，佛日增光，少林共祖，白马同乡”的铭语。北魏末年的“永熙之乱”，洛阳毁灭几尽，史书记载；洛阳内外的宫寺民居，“存者什二三”，慈云寺位居深山，当时名士又多藏山区，可能侥幸存下来。
隋文帝杨坚与佛教有着不解之缘，他出生于尼姑庵，在庵中生活了十三年，在尼姑智仙抚育下。对佛教产生了非同一般的感情。统一天下后，诏告臣民“任听出家”，并令各地按人口出钱建寺造像。家住巩、偃交界处的官宦子弟陈袆（后来的唐三藏，法名玄奘）就随其兄出家在巩县净土寺（今石窟寺）。在隋炀帝迁都洛阳后举办的大型佛事活动--无遮大会上，经过挑选，“度男女一百二十人为僧尼”，唐三藏被选中后仍在净土寺随师诵经，学业大进。一直到他十九岁，瓦岗*起义攻陷慈云寺附近的洛口仑，才与仲兄陈长捷奔洛阳，又到长安。此时的唐玄奘，对慈云寺已很了解，并十分敬慕，为他后来重修慈云寺奠定了基础。
唐、宋时期是慈云寺最兴盛时期。由于唐太宗、唐高宗、武则天等都重视佛教，尤其唐太宗贞观十九年（）唐玄奘自印度取经回来后，把佛教推向了高潮，唐太宗，唐高宗都为其写了《圣教序》。唐三藏成了皇帝的座上客。唐三藏在洛阳期间，曾奉旨重修慈云寺。并亲自到慈云寺“开演大法，广度迷津”慈云寺名声大振。一直到唐武宗“会昌灭佛”，香火才渐次冷落下来。
赵匡胤陈桥兵变建立大宋后，即在巩县选建皇陵。“昔宋祖因山而陵，远取诸象，故葬于青龙山之阳”宋代佛、道并重，曾在宋陵内外建了许多寺院，如罗汉寺、定香寺、宁神寺、十方院、会圣宫等，请僧人颂经念佛，以超度和庇佑其先人，青龙山是其陵墓的重要龙脉，因而皇帝下令对慈云寺重新修装，使其成为受国家保护的重要寺院。这与碑文中宋代“敕建”相符。金兵入侵，对宋陵大肆盗掘，陵区寺院受到不同程度的破坏。
元兵入主中原，元世祖忽必烈崇奉喇嘛教（中国佛教的一支），禅宗中的临济，曹洞二宗得到一定程度的发展。汉族大量逃逸，有的躲入寺院，“后显大唐并宋帝，重修至正、至元年”、“至正年间宗主广慧清辩大师续后重兴”，可见慈云寺在元代的近百年中，元世祖忽必烈和元顺帝曾两次敕修，仍然灯灯相续，焚呗不断。并于至正、至元（--）作了重修，至今存有两方元代塔铭和部分石刻。元代对出家僧尼采取本寺住持及耆老等保举、即给披度的*策在慈云寺保留了很长时间，现存碑文中屡有记载。
明朝是慈云寺的鼎盛时期。朱元璋十七岁出家于觉寺，建国开始就举办法会扶持佛教，以安定人心。朱元璋以后的明代诸帝大都对佛教采取扶持利用的态度。据慈云寺碑文载，大明正统九年（）二月，英宗朱祁镇皇帝曾下令天下重修梵刹。在施主李普信与云水五德禅师等率领下当年就对慈云寺进行了重修，于“正统（l）十一年成造”。第一次重修为后来的大修奠定了基础。第二次由长沙太守之子、国家最高佛院北京大能仁寺国师弘善妙智的高徒觉顺（号南宗）从北京寻访祖庭于此，经过筹措，进行了一次大修，在朝廷和河南府的支持下。此次大修所筹资金甚巨。几乎牵涉到河南府各州、县、卫，巩县的各个村落，全国的十个省府。从明代宗景泰六年秋（）至明英宗天顺二年夏（）。历时三年多。奠定了慈云寺的基础和规模。
第三次由主持僧德安于明孝宗弘治庚（壬）子（）至明武宗正德二年（）进行重修，又增建了伽蓝殿、祖师殿、两角门、钟楼、方丈、厨库、客舍、僧房和寺周围墙。
第四次重修由寺中主持道科、道增、道悟、道重等四人与归乡耆老杜德仁、赵景春、杨景等负责。全面重修的基础上，又增建了金刚殿、闰罗殿、官亭、斋厨。此次修建时间在明世宗嘉靖四十二年（）之前。
第五次修建也在嘉靖中兴时期，由主持道科发动全寺僧众十方募化，在寺后峰峦上始建地藏十王殿，“栋宇隆起，神像焕赫，凡登游瞻拜者，莫不以为此寺之奇观也。”
第六次重修于明神宗万历六年四月（）至万历九年（）十月，因寺内经常出事，以为风水有碍，将地藏十王殿拆除改建在天王殿东之隙地上。
第七次由僧人永随率领，于万历三十九年（）重修千佛大殿。
第八次由施主郝小泉及侄郝石重出资，于万历四十七年（）重修斋堂五间。
第九次由僧人远逢、永修、福田于崇祯四年（）对水陆殿之三十六轴神像作了彩绘。
第十次由主持僧远逢于崇祯十年（年）创建白衣阁。东西房、格扇门、木梯，修建台阶三十六级，石栏杆廿八根，月台。
慈云寺自正统九年（）至崇祯十年（）的年中，经过大小无数次的创建、增建、重修，已达到“远公之庐山。达摩之少林，未逾此也。”
崇祯六年。（）年，李自成及当地起义*万余人“潜避”慈云寺及其属区内，“营踏遍野，飞鸟难入其中。树木僧房烧毁一空，甚至人马作秽。粪有尺余，其残破景象大不堪观矣！”
清代是佛道衰落期，但在官、僧、俗的努力下，顺治至乾隆时，又进行了十多次修补。其中以乾隆四十八（）年动工时间延续达十多年，工程较大。光绪三十一年（）在黑石关建高级小学，附设建成师范科，提慈云寺资产（香火地七顷）作为经费（此校后改为蚕桑中学、县立中学等）。但寺院尚有一定资产。佛寺香火一直延续到清末。其中最有意思的是第一次修补与最后一块塔铭。第一次是大清立国后的第一个年头，（顺治三年年），按院承差李胤兰招募慈云寺僧人时，正殿前面忽然倾倒，后由僧众捐钱若干买草数十担对大殿进行了补茸，“不数日而成焉。”就在纪念这一次《草修正殿记》中，却对慈去寺自东汉至明末的发展作了一次全面总结。最后一块宣统元年（）的“上自下彦和尚塔铭”，通过一个归俗和尚牛护兰之笔，将慈云寺画上了最后一个句号。铭文所记“光绪丙午（），朝廷变法。寺产归学堂十分之七，并迫身归俗。遗师独苦，口异常在，光绪戊申（）乃圆寂焉。身廑为殓殡并泐绪石，以志半僧师徒之情，云是为序。”其情至深，其意极明，不仅是慈云寺夕照中的最后一笔，恐怕也是整个中国佛教的最终总结。
传说牛护兰之后，慈云寺还有一个叫了太的僧人，民国初年去十方院存身。从此，慈云寺渐趋荒芜。民国十七年（）提倡破除迷信，寺中许多佛像被捣毁；民国二十年（）以后，原由归黑石关蚕桑学校的慈云寺庙产权交归新心中学。民国二十三年（）。冯玉祥下令拆寺建学，寺院殿堂的砖瓦木料被拆运至北山口建新心中学用，尤为可惜的是，寺中一棵与慈云寺同年的、大有十圈、遮荫数亩的大白果树，也被伐掉，运往北官庄学校，建了一座三层高每层八间的教学楼。使这棵华北之最从此泯灭。