Постепенно св. Иоан отпвравлялся все глубже в недра Рилы. Жил в дупле одного дуба, то в одной пещере. Питался нутом /турецкий горох/ и травами. Однако, уединение св. Иоанна не продолжилось долго. Видно, так было Богу угодно, потому что благодатный свет, носимый св. Иоаном, разпостранился по всей болгарской земле.
Сперва на него попали пастухи, пасшые стада в горах. Потом изцелил одного бесноватого, которого привели к нему. И так началось его служение людям. Слава рильского отшельника постепенно разпостранялась по всей болгарской земле. Сам царь Петр, который был благочестивым, хотел увидеть и поклониться св. Иоанну. По преданию, царь Петр со своей свитой достигли до вершины горы, которая сейчас называется ”Царская вершина” /”Царев връх”/ /югозападней монастыря/. Далее из-за непреступности местности, царь не сумел пройти. Он послал к св. Иоанну несколько солдат с дарами. После долгих поисков, солдаты нашли св. Иоанна и передали ему высланные царем фрукты и бокал полный золотом. Св. Иоан принял фрукты, так же и бокал на память о встрече, а золото вернул и сказал что царю оно нужнее для государства, чем ему в пустыне. Так же сказал солдатам передать царю, что местность пустынная и оброзшая кустарником, трудно проходимая и лучше цярю остаться там, где сейчас находится, а св. Иоан зажжет костер и так издали поздравят друг друга. Так они и сделали.
После этого случая к св. Иоанну начали приходить люди, которые тоже искали уединение и жизнь посвященая Богу. Святой не отгонял их и они заселялись возле него, построили маленький монастырь и маленькую церковь, а св. Иоан стал их игуменом. Но при всеже он продолжал искать уединение. В 941г. / 5 лет до своей кончины/ св. Иоан оставил за себя одного из братьев, некоторого Григория, а сам оттошел в пещеру. Та самая пещера, которая находится при так называемой „Старой келью отшельника” /”Стара постница”/ или „Гроб” св. Иоанна.
Тум он написал и свое завещание – „завет” для своих учеников. В нем он наставляет как нужно жить монашескую жизнь, чтобы была угодна Богу.
Св. Иоан окончил земную жизнь в 946г. и был похоронен в пещере.