2 ноября 1837 года в семье сельского головы Ефима Литовкина и его жены Марии родился сын. При святом крещении мальчика нарекли Иваном.

В марте 1861 года по благословению старца Амвросия Иван был принят в Оптину пустынь. Ему пришлось перенести многие скорби и тяготы в монастыре. Испытания закалили душу подвижника. В 1872 году он был пострижен в мантию с именем Иосиф, в 1877 году — рукоположен в иеродиакона, а 1 октября 1884 года за литургией в честь торжественного открытия Шамординской женской обители отец Иосиф был рукоположен в иеромонаха.

14 февраля 1888 года, по благословению старца Амвросия, пострижен в схиму.

Старец Иосиф был строгим постником, крайне мало спал, носил старую и бедную одежду. Он стяжал от Господа полноту духовных даров, и многие испытали на себе его дар прозорливости и исцелений. Многих верующих, обращавшихся к нему за советом, поражало его умение в нескольких словах выразить самое главное, наставить и утешить. Рассказы о силе его благодатной молитвы приводили в скит страждущих, ищущих исцеления и утешения.

Старец Иосиф в течение двенадцати лет был духовником братии. Слабея физически, старец возрастал духовно. Во время молитвы он преображался: вокруг старца возникало удивительное свечение.

Старец Иосиф отошел к Господу 9/22 мая 1911 года.

Кто победил страсти и стяжал разум духовный, тот без образования внешнего имеет доступ к сердцу каждого.

Наложенное правило всегда трудно, а делание со смирением еще труднее.

Что трудом приобретается, то и бывает полезно.

Если видишь погрешность ближнего, которую ты бы хотел исправить, если она нарушает твой душевный покой и раздражает тебя, то и ты погрешаешь и, следовательно, не исправишь погрешности погрешностью — она исправляется кротостью.

Что легко для тела, то неполезно для души, а что полезно для души, то трудно для тела.

Спрашиваешь: «Как сделать, чтобы считать себя за ничто?» Помыслы высокоумия приходят, и нельзя, чтобы они не приходили. Но должно им противоборствовать помыслами смиренномудрия. Как ты и делаешь, припоминая свои грехи и разные недостатки. Так и впредь поступай и всегда помни, что и вся наша земная жизнь должна проходить в борьбе со злом. Кроме рассматривания своих недостатков, можешь еще и так смиренно мудрствовать: «Ничего доброго у меня нет… Тело у меня не мое, оно сотворено Богом во чреве матернем. Душа дана мне от Господа. Потому и все способности душевные и телесные суть дары Божии. А моя собственность — только одни мои бесчисленные грехи, которыми я ежедневно прогневлял и прогневляю милосердного Господа. Чем же мне после этого тщеславиться и гордиться? Нечем». И при таких размышлениях молитвенно проси помилования от Господа. Во всех греховных поползновениях одно врачевство — искреннее покаяние и смирение.

Скорби — наш путь, будем идти, пока дойдем до назначенного нам отечества вечности, но только то горе, что мало заботимся о вечности и не терпим и малого упрека словом. Мы сами увеличиваем свои скорби, когда начинаем роптать.