Поездки в Ригу давали о. Тавриону возможность познакомиться с религиозной жизнью Латвии. Вместе с вл. Леонидом они служили в латышском Вознесенском приходе, в качестве гостей бывали на Рождественских богослужениях в католическом соборе. Приглашал их туда архиепископ, впоследствии кардинал Юлиан Вайводс. О. Таврион уважительно относился к католичеству, поддерживались и личные отношения с католическим духовенством. К Рождеству и Пасхе посылались взаимные поздравления. В гостях в Пустыньке бывал упомянутый архиеп. Ю. Вайводс и декан елгавского католического прихода А. Булиньш. Не касаясь различий в вероучении Церквей, о. Таврион подмечал достоинства католической церкви-сестры и стремился использовать этот положительный опыт в своем священническом служении. Достоинствами католичества он признавал богатый миссионерский опыт, церковную дисциплину. Ему, как монаху, близко было и несемейное духовенство католиков. Были у батюшки и некоторые внешние заимствования, например в украшении алтаря.

Проблема разделения церквей волновала о. Тавриона. Считая разделение исторической ошибкой, он радовался всякому взаимному сближению церквей. Над его рабочим столом в келье висели фотографии встречи Вселенского патриарха Афиногора и папы Римского Павла VI и заседания Второго Ватиканского собора. Для него был ценен дух тех инициатив, которые были проявлены в этих исторических событиях. В условиях Латвии ему, как священнику, часто приходилось встречаться с ситуацией сосуществования, сотрудничества людей разного вероисповедания в коллективах, семьях. Примером может служить и наша семья, где отец был католиком. Он был верующим человеком, на большие праздники ходил в костел, но с начала семейной жизни не мог причащаться по правилам Католической церкви, так как брак был не венчан (мать не согласилась на переход в католичество, что тогда требовалось для венчания).

Личность о. Тавриона привлекла и моего отца. Он начал приезжать в Пустыньку, бывать на службах, а впоследствии исповедаться и причащаться. Наконец, настал радостный для нас день, когда старец повенчал родителей. Совершено это было негласно в келье батюшки. При этом никакого формального перехода в Православие не было, но в дальнейшем отец жил православной церковной жизнью. Лишь в последние годы его жизни неосторожность одного священника, потребовавшего формализации в этом вопросе, смутила отца, и он года 3—4 не причащался. Для нас, детей, это было скорбно. Ко мне как священнику идти на исповедь отцу было трудно. Отпевал его я по православному чину. (ИЗ "ВОСПОМИНАНИЙ ОБ ОТЦЕ ТАВРИОНЕ (БАТОЗСКОМ)) 

В своей книге свящ. Владимир Вильгерт даже пытается объяснить конфликт очевидной сплетней: «...в Глинской пустыни имела место и попытка покушения на жизнь настоятеля со стороны молодых, озлобленных насельников» (с. 24). Подобным «объяснением» о.Владимир возводит откровенную хулу на братию Глинской обители.

о. Таврион призывал служить «с чувством, с толком, с расстановкой», используя переводы частей богослужения на русский язык. На службах о. Тавриона русский язык был удивительно органичен: он использовал  русифицированные воскресные каноны, читал по-русски покаянный канон и воскресные каноны Утрени (в переводе И. Ловягина)... (сказано на церковно-практической конференции в Православном Свято-Тихоновском гуманитарном университете, в которой приняли участие преподаватели и студенты Свято-Филаретовского православно-христианского института13 августа 2008 г.)