Младият монах изпълнявал с усърдие всички манастирски задължения. Проявил пълно послушание, прекарвал времето си в труд и молитва и четене на словото Божие. Всички братя го обикнали за неговия благочестив живот и се удивлявали на голямата му мъдрост. След известно време в Солун дошъл св. Григорий Декаполит. Той се запознал с младия Йосиф – вече свещеник, и много го обикнал.
Когато императорът Лъв Армянин възобновил гонението срещу почитателите на светите икони, той ги подлагал на тежки наказания и отстранявал от служението, а на тяхно място поставял еретици – иконоборци.
Гонението все повече се засилвало. Наказанията взимали масов характер и ставали все по-тежки и по-жестоки. Православните изнемогвали. Тогава св. Григорий решил да изпрати Йосиф в Рим при папа Лъв ІІІ с молба за помощ. Йосиф знаел, че това е трудно, но приел тази опасна мисия. Качил се на един кораб и се отправил за Рим. В морето обаче корабът бил спрян, Йосиф бил заловен и затворен в тъмница на остров Крит. Там имало и много други затворници. Окован в тежки вериги, Йосиф непрекъснато ги ободрявал, утешавал и съветвал с търпение и мъжество да се покорят на Божията воля.
Цели шест години престоял Йосиф в тъмница. След смъртта на Лъв Армянин гонението срещу почитателите на светите икони се прекратило. Преданието разказва, че св. Николай Чудотворец се явил на Йосиф в тъмницата и му съобщил за смъртта на императора, а след това по чудесен начин го избавил от тъмницата. Йосиф веднага заминал за Цариград, но там с огорчение узнал, че св. Григорий Декаполит не е вече жив. Йосиф построил църква на името на св. Николай, пренесъл в нея тялото на св. Григорий, а наблизо издигнал и манастир, в който скоро се събрали много монаси.
Още когато бил в Солун, Йосиф получил от един благочестив човек частица от светите мощи на апостол Вартоломей. Той пазел тази придобивка като голямо съкровище. Сега той съградил църква в памет на апостол Вартоломей, в която поставил мощите му. Йосиф много искал да състави и хвалебна песен за ап. Вартоломей, та празникът му да се чества по-тържествено. В навечерието на празника Йосиф, вдъхновен от Божия Дух, Йосиф започнал да пише хвалебни песни за прослава на светиите и на Божията Майка. Тези вдъхновени песни, известни под името канони, и до сега се четат през време на богослужението.
Доживял дълбока старост, преподобни Йосиф насън бил известен от Бога за близката си смърт. Той скоро заболял и спокойно дочакал края на земния си живот.
