Mindszenty bár azt kérte, addig ne hozzák haza hamvait, amíg szovjet csapatok vannak az országban, újratemetése még az utolsó szovjet katona távozása (1991. június 19.) előtt, 1991. május 4-én megtörtént.
     Esztergomi sírfelirata így hangzik: „Az élet megalázta – a halál felmagasztalta. A Szent Római Egyház és a Coelius-hegyi Szent István templom presbiter-bíborosa, Magyarország utolsó hercegprímása, esztergomi érsek, az üldöztetés idején a leghűségesebb pásztor MINDSZENTY JÓZSEF 1892. márc. 29. – 1975. máj. 6.
A háború viharában szilárdan helytállt, a zsarnoki hatalom megkínozta és börtönbe zárta. Hazájának száműzöttje lett. Az Anyaszentegyház engedelmes fia volt. Hőn szeretett hazájának becsületét mindhalálig erősítette. Máriacellben temették el, halála után 16 évvel hazahozták. Itt békében nyugszik.”
     (A képen: II. János Pál pápa Mindszenty esztergomi sírjánál 1991-ben.)

1975. május 15-én – kérése szerint, ideiglenesen – Mariazell-ben temették el.
Sírfelirata magyarul így szólt: „Ez a márványkő fedi most – míg a felszabadult haza földjébe megtérnek – földi maradványait Mindszenty Józsefnek, aki Csehimindszenten született 1892. március 29-én; pappá szentelték Szombathelyen 1915-ben, négy év múlva Zalaegerszeg plébánosa, 25 évre rá veszprémi püspök; 1945-ben esztergomi érsek, Magyarország bíboros hercegprímása. Helytállva Istenért, egyházért és szenvedő népéért, az elnyomó hatalom kétszer vetette fogságba; 1949-ben pedig életfogytiglani börtönre ítélte. Rabságából 1956-ban a szabadságharc kiszabadította, de miután a szovjet erőszak leigázta az országot, 15 éven át az Amerikai Egyesült Államok budapesti követségén kapott menedéket. Engedelmességből vette magára a számkivetés nehéz keresztjét s aggastyánként lett a világban szétszórt magyarság hű pásztora és igaz atyja. Meghalt Bécsben 1975. május 6-án. Mindszenty József bíboros Magyarország prímása 1892–1975. Élt és éljen a Szent Pannóniáért!”

Élete utolsó napjait az Irgalmasok bécsi kórházában töltötte. Kérésére ágyát úgy állították, hogy lássa a Stephansdom tornyát. Az egészségügyi személyzet beszámolója alapján 1975. május 6-án 14.15 perckor úgy halt meg, mint egy szent. Bécsben a Stephansdomban ravatalozták fel.