Первая церковь была заложена во имя всех преподобных Афонских в 1881 году, и постройка ее производилась на монастырские средства, получаемые от старца отца Иеронима. За порядком при постройке наблюдал иеродиакон Прокл, к этому времени ставший уже иеромонахом Уриилом.

Являющиеся сиромахи нарушали безмолвие отца Уриила, и он оставил это место у моря и перешел в дальнюю пустынь, где построил три каливки в разных местах. В это самое время из монастыря, с благословения старцев, прибыл в пустынь Фиваиду новый эконом монах отец Нон (впоследствии иеро монах) и вскоре по прибытии начал себе строить большую каливу близ моря.

В 1882 году по благословению старца архимандрита Макария и иеросхимонаха Иеронима вблизи строящейся церкви преподобных Афонских был заложен двухэтажный корпусок с предназначением поместить в нем в верхнем этаже параклис во имя Вознесения Господня, небольшую гостиную, несколько братских келий, а в нижнем этаже синодичную комнату и общую братскую гостиную (архондарик) для отдыха пустынников, когда они приходят для бдений. Ктитором Вознесенской церкви и корпуса был схимонах Михаил из казаков, живший на Капсале близ Андреевского скита в своей келье. На постройку эту отец Михаил пожертвовал 1000 рублей и ковчег со святыми мощами.

В том же 1882 году Вознесенская церковь окончена и освящена архимандритом Макарием. Церковь же преподобных Афонских, построенная как простая четырехугольная комната, оказалась очень тесной и мало удобной: в алтаре престол был при восточной стене без обхода, в церкви же не было места для клиросов, посему архимандрит Макарий отложил до времени освящение сей церкви. Почтенный гость пустыни ростовский купец Василий Афанасьевич Калигаев, бывший при освящении Вознесенской церкви в качестве поклонника, тогда же выразил архимандриту Макарию свое усердное желание расширить церковь преподобных Афонских – приделать к ней пристройки для клиросов и алтаря, вследствие чего церковь получит вид подобающей крестообразной формы. Почтенный Василий Афанасьевич для этого дела предложил достаточную сумму, которую архимандрит Макарий с удовольствием принял, поблагодарив его за благодеяние, и тут же сделал распоряжение о расширении церкви. В то время на Святой Горе в качестве паломника был сербский митрополит Михаил, и его просили освятить оконченную церковь. Известнейший архипастырь, исполненный любви, не отказал в просьбе и 18 августа 1883 года освятил церковь в сослужении игумена Макария и пяти иеромонахов. Своим посещением владыка утешил новособранную семью пустынножителей и, уезжая из пустыни, отечески благословил иноков и пожелал им Божией помощи на предлежащий подвиг – с подобающим терпением понести иноческие скорби. Любвеобильный старец духовник отец Иероним для новоосвященной церкви всех преподобных Афона в утешение братству пожертвовал от себя замечательной живописи храмовую икону всех преподобных Афонских и два ковчега святых мощей с собственноручной подписью на обороте.

В следующем году старцем духовником отцом Иеронимом был составлен Устав для пустыни Новая Фиваида и утвержден и подписан игуменом архимандритом Макарием.