Иван Михайлович Ковшаров был мещанином, уроженцем Одессы. Дед его был известным иконописцем и оформителем интерьеров. Сам же Иван изучал церковное право в местном университете и затем служил помощником присяжного поверенного. В 1906 году он переехал в Санкт-Петербург, где занялся адвокатской практикой, а с 1912 года был помощником юрисконсульта Александро-Невской лавры.

Вскоре после драматических событий 1917 года Иван Михайлович был избран членом Духовного собора и ко­мис­са­ром по епар­хи­аль­ным де­лам «для пред­ста­ви­тель­ства и за­щи­ты об­щих прав и ин­те­ре­сов» Пет­ро­град­ской епар­хии. Ранее защищавший на процессах революционеров, теперь он защищал интересы Церкви перед новой безбожной властью – в частности, препятствуя закрытию храмов. Это не могло остаться без последствий: в 1922 году профессиональный юрист был арестован по сфабрикованному делу «о сопротивлении изъятию церковных ценностей». На суде он детально разбирал доводы обвинения, аргументируя их безосновательность, и виновным себя не признал. По приговору трибунала Иван Ковшаров вместе с Юрием Новицким, митрополиттом Пет­ро­град­ским и Ла­дож­ским Ве­ни­а­мином и ар­хи­манд­ритом Сер­гием (Ше­иным) был приговорен к расстрелу. Приговор привели в исполнение ночью, на окраине города; место захоронения невинно убиенных было тщательно скрыто.

Иван Михайлович Ковшаров в 1990 году был посмертно реабилитирован постановлением Президиума Верховного суда РСФСР. На Архиерейском соборе Русской православной церкви 1992 года Иоанн Ковшаров был прославлен как новомученик.

На иконах мученик Иоанн Ковшаров изображается в гражданском костюме начала ХХ веке – в том виде, в котором он, как адвокат, принимал участие в судебных процессах – а также с мученическим крестом в руке. Известен и другой его образ, более традиционного написания, на котором он предстает в алой накидке, указывающей на принятый им мученический венец.