延宝年間、現観音堂に達磨像（一了居士が彫った）安置された事で近隣に達磨出現の霊地”「少林山」と呼ばれていました。その頃の領主・酒井雅楽頭忠挙公さかいうたのかみただたかが当地視察の際、厩橋城（前橋城）の裏鬼門を護る寺として、水戸光圀公が帰依された中国僧・東皐心越禅師とうこうしんえつを開山と仰ぎ、弟子の天湫てんしゅう和尚を水戸から請じて、元禄十年（1697）少林山達磨寺（当時：曹洞宗寿昌派）として開創しました。