和銅元年(708)、奈良の僧・恵命、恵照がインドのアショカ王の仏舎利を携えて当地に草庵を結んだことに始まり、神亀3年(726)に行基菩薩が聖武天皇の勅願により堂宇を建立。十一面観音菩薩像を刻んで本尊としたと伝えられています。アショカ王の仏舎利宝塔を祀っており、日本三石塔寺のひとつと呼ばれています。
仁寿元年(851)には慈覚大師が七堂伽藍を整備して、天台宗比叡山延暦寺末寺として隆盛を極めました。
文明19年(1487)、野盗による失火でお堂や僧坊がことごとく焼失。当地の豪族である丸氏や里見氏の援助により、永正10年(1513)に現在地にお堂が再建されたとのこと。
織田信長による比叡山焼き討ちの元亀2年(1571)には、退山した僧が天台大師真影を護持して当寺に訪れ、寛政2年(1790)に比叡山に還座するまでの200年もの間、供養をされていました。その功によって総本山直末本山格となり、現在に至っています。
山麓の仁王門をくぐると石段があり、登りつめると本堂が。
いまからおよそ500年前の室町時代の建築と推定される本堂は、国の重要文化財に指定されたもの。本尊の十一面観音菩薩像、堂内の厨子、多宝塔、薬師堂客殿に安置されている波の伊八の彫刻は、いずれも国指定の重要文化財。まさに国宝級文化財の宝庫といえます。
多宝塔は天文14年(1545)の建立。江戸時代以前の多宝塔は、関東では珍しいものです。
そのほか、県指定や市指定の文化財も多数。本堂の奥には江戸中期の古民家・尾形家や梅園があり、山に登れば展望台で風景を楽しめます。まさに見どころ満載のお寺といえるでしょう。