Основной заботой владыки на новом месте служения было восстановление нарушенной в годы войны церковной жизни. Он попытался открыть в Риге пастырско-богословские курсы. Но этому воспротивился местный уполномоченный Совета по делам РПЦ. В дальнейшем митрополит Вениамин все больше втягивался в конфликты с властями. Побывав в Москве на встрече с заместителем председателя Совета С. К. Белышевым, владыка прямо сказал ему: «Когда я ехал из Америки сюда, то у меня было убеждение о том, что в СССР действительно имеется какая-то свобода в отношении к Церкви. Однако, побыв здесь три года, я пришел к твердому заключению, что такой свободы здесь нет, а, наоборот, имеются гонения на Церковь». По требованию властей он был перемещен с Рижской кафедры в Ростовскую епархию. Там митрополит Вениамин столкнулся с нехваткой священнослужителей, он искал и рукополагал достойных кандидатов, уделяя особое внимание повышению уровня богословской грамотности духовенства. В 1955 году владыка был опять переведен на новое место служения — в Саратов. Во время развертывания хрущевских гонений на Церковь он открыто выступал против вмешательства государства во внутреннюю жизнь Церкви, неоднократно в проповедях критически отзывался о действиях властей. В Совет по делам РПЦ поступали многочисленные доносы на митрополита, а в конце 1956 года даже решался вопрос о возбуждении против него политического дела, но благодаря вмешательству патриарха Алексия I эта кампания была прекращена.
В 1958 году митрополит Вениамин был уволен на покой по состоянию здоровья. Местом пребывания престарелого владыки был определен Псково-Печерский монастырь, где, несмотря на физические немощи, он часто служил, проповедовал и работал над своими трудами и воспоминаниями. Преставился владыка 4 октября 1961 года и был погребен в пещерах монастыря рядом со многими святыми и угодниками Божьими.
Алексей Савельев