По краткому рукописному его житию не видно, кто он и откуда пришел в Ростов. Преосвященный Филарет предполагает, что Иоанн был знатного рода и человек образованный (знал латинский язык). Но по обстоятельствам времени царя Иоанна IV Грозного весьма вероятно, что он скрылся из Москвы от ужасов, чтобы в тиши и неизвестности служить Господу. В Ростове блаженный Иоанн принял на себя подвиг юродства, терпя нужды и скорби. Он не имел постоянного пристанища и лишь изредка отдыхал в доме своего духовника, священника Всесвятской церкви, или у одной престарелой вдовицы. Он имел «власы на главе велики», почему и назывался Власатым. Живя в смирении, терпении и непрестанной молитве, он духовно окормлял многих людей, в том числе и преподобного Иринарха, затворника Ростовского (память 13/26 января). Скончался блаженный Иоанн после долгих подвигов, перенеся много скорбей, в глубокой старости 3 сентября 1580 (1582) года и, согласно завещанию, был погребен за алтарем церкви святого Власия.

Погребение блаженного Иоанна ознаменовано было, по преданию, страшной бурей, молнией и громом, что произвело на всех удручающее впечатление. Благочестивые люди со времени погребения блаженного приходили на его могилу и брали землю; многие по вере получали исцеления и потому прозвали святого Иоанна Милостивым, отождествляя его со святым Иоанном Милостивым, Александрийским патриархом, память которого 12/25 ноября. В числе исцелившихся был Ростовский митрополит Кирилл, лишившийся в старости руки и ноги, а потому оставивший управление епархией. После усердной молитвы над гробницей блаженного Иоанна престарелый святитель, принесенный в церковь на руках, получил внезапное облегчение от своего недуга, так что уже мог сам идти в архиерейский дом, и впоследствии не только совершал богослужения, но и снова управлял епархией во время плена знаменитого своего преемника Филарета Никитича Романова (Патриарха Всероссийского).

Над могилой блаженного Иоанна вместо прежней деревянной Власиевской церкви была построена каменная церковь в честь Толгской иконы Божией Матери с приделом святого Власия.

Память блаженного Иоанна Власатого, Христа ради юродивого, Ростовского чудотворца, празднуется в день его кончины — 3/16 сентября и вторично — 12/25 ноября в память святого патриарха Александрийского Иоанна Милостивого, имя которого он носил.

Явился еси во граде яко в пустыне, в смиренномудрии, чистоте и в трудех и подвизех, и в терпении мнозе, преблаженне отче Иоанне. Взем бо Крест Христов последовал ему и бе в молитвах и псалмопении день и нощь, иноязычнаго речения о спасении всего мира христианского рода и преселился еси к Невечернему Свету. Ныне же ко гробу твоему вернии приходящи, моляся Господеви, Богородице и Предтечи, приемлют исцеления молитвами твоими. Но присно за ны молися, блаженне отче Иоанне, спастися душам нашим.

Явился еси во граде, яко в пустыне, смиренномудрием и чистотою, и взем Крест Христов последовал ему в трудех и подвизех, и в терпении мнозе, преблаженне отче Иоанне. И ныне моли о нас, совершающих память твою, и усердно притекающих к раце мощей твоих, избавитися от бед, и душам нашим подати велию милость.

Христовою любовию уязвися, отче Иоанне блаженне, вышния красоты желая, земная же презре и нивочтоже вмени. И на земли ангельское житие препроводи, в вечный покой достиже, идеже глас празднующих, с нимиже молися за ны. И душам нашим прощение, и телесем исцеление даруй.

Христовою любовию уязвися, отче Иоанне блаженне, вышния красоты желая, земная же вся презре и нивочтоже вмени, и на земли ангельское житие имея, преселился еси в вечный покой, идеже предстоя Христу Богу, моли спастися нам и всему христианскому роду, яко да зовем ти: радуйся, преблаженне отче Иоанне.