Скит Василия Великого монастыря Хиландар

Незадолго до смерти старец Ефрем переехал в скит Василия Великого. После его смерти старец Иосиф стал лидером общины. Оставшись одни, монахи продолжили путь к Святой Горе, возвращаясь к своей каливе только на зиму. Тогда они решили жить там постоянно, занимаясь резьбой по дереву.

Старец Иосиф вспоминал, что этот период его жизни был связан с особенно жестокими искушениями. Однажды перед ним появилась длинная вереница монахов, готовящихся к борьбе с демонами. Военачальник предложил ему встать в первых рядах бойцов. За этим видением последовал жестокий духовный упрек, который длился 8 лет. В результате старец, по его словам, «вошел во все прибежища врага и после жестокой борьбы вышел из них по милости Бога». Особое место в жизни Иосифа Исихаста занимает обретение духовника - старца Даниила, безмолвного и почти полного отшельника, который был монахом в келье Петра Афонского в ​​окрестностях Великой Лавры. От своего духовника он унаследовал правило есть пищу (1 мера хлеба и немного овощей) только один раз в день, без исключения во время великих праздников.

В скиту святителя Василия Блаженного вокруг старца Иосифа образовалось небольшое монастырское братство: к нему присоединились его брат Афанасий, отец Иоанн Албанский и отец Ефрем. Знаменитый монах-подвижник Герасим (Менайас) тоже некоторое время был послушником старца. Постепенно старец Иосиф стал очень известен, и за советом к нему приходило большое количество посетителей, что нарушало уединение монахов и заставляло их искать новое место для монашеских подвигов.

В 1929-1930 гг. старцу Иосифу пришлось на время покинуть Святую гору, чтобы остричь в монахини свою матерь и основать женский монастырь недалеко от города Драма. В 1933 году он вернулся на Афон, но сам посредством переписки руководил пятью монахинями.