За порадою одного старця, преподобний Іоанн ще у досить юному віці усамітнився в єгипетській пустелі. Жив святий у спорожнілому колодязі, попередньо молитвою вигнавши звідти зміїв і скорпіонів. Їжу праведникові приносив ангел.
Переборовши безліч спокус, преподобний Іоанн пустельник став одним з багатьох іноків, що прославилися подвигом високого аскетизму в єгипетській пустелі.