相传觉山寺始建于汉，重建于唐，兴盛于宋，迄今约2000余年，历代帝王名臣屡有朝佛礼拜之举，敕加封号，赏赐重金，增建殿堂，拓宽规模。诸大德高僧在此苦修，铸成正果，世代传颂。近代伟人朱德总司令也曾到觉山寺进行过考察，觉山寺也曾为解放战争的胜利发挥过积极的作用。觉山寺是太行山一带最早的佛教重地之一。