Április 28-án bevonult az Irgalmasok kórházába, ahol különböző vizsgálatok után a műtétre alkalmasnak találták, bár a szívét erősíteni kell – állapította meg Bianchi. Május 6-án megműtötték. Mészáros titkár ellenezte a műtétet, hiszen tudta, hogy a prímás akkor is teljes erőnlétet tud mutatni, ha alig áll a lábán. Ez téveszthette meg az orvosokat is, akiket Mindszenty sürgetett, sok teendőjére hivatkozva. A műtét előtt ismét elhangzott a két szó, amelyet immár harmadszor, és egyben utoljára mondott ki: Sum paratus…
Az operáció 7-től fél 11-ig tartott, de a magyar hercegprímás többé nem tért magához. És bár a beavatkozás sikeres volt, az idős, sokat kibírt szív nem bírta tovább… A műtét sikerében való reménykedés, majd a nagy tragédia közepette egyetlen dologról feledkezett meg mindenki: Esztergom érseke a betegek szentsége nélkül költözött Isten országába.
„1975. május 6-án 14.15-kor megkondult a bécsi Szent István dóm nagyharangja, a Pfummerl, ahogy a nép kedvesen becézi, jelezve Mindszenty Józsefnek, Magyarország utolsó hercegprímásának, a hitvalló bíborosnak, a huszadik század egyik legnagyobb magyarjának és fehér mártírjának elhunytát. A bécsi rádió megszakította műsorát, s megemlékezéseket, gyászzenét közvetített. A nagy bíborost az osztrák katolikusok saját halottjuknak tekintették. A gyönyörű gótikus katedrálisban ravatalozták fel. Ez a tiszteletadás - éppúgy, mint a Pfummerl kondítása - csak Bécs érsekének, bíborosának jár ki.
A prímás környezetében lévők hozzákezdtek az ilyenkor szokásos teendők elvégzéséhez. Már a gyászjelentés szövegezésénél véleménykülönbség adódott. Mészáros Tibor ragaszkodott ahhoz, hogy Mindszenty neve alatt ott legyen: bíboros, esztergomi érsek, Magyarország prímása... König bíborosnak kell aláírnia a gyászjelentést. Csodálatosképpen kis habozás után belemegy... ez egyenesen a pápa intenciói ellen van. König azonban okos ember. Mindszenty halott, sok bajt nem okozhat. A megfosztott címét már nem viselheti, legföljebb a sírkövön állhat. A gyász kifejezéseként König bíboros e szavakkal emlékezett meg nagy kortársáról: Defunctus adhuc loquitur – Holtában is beszél...” (Nagy Lajos)
Mártír volt azon testi és lelki szenvedések alapján, melyeket az egyház és népe miatt hősiesen elszenvedett. Korunk mártírja lett, egy időszaké, amely a vallásszabadság ideológiai és politikai elnyomásával a vértanúk új típusát teremti.
A magyarországi katolikus és világi sajtóban mindössze öt sorban adták a katolikus magyarság tudtára, hogy Esztergom érseke halott.
Hamvai fölött május 10-én, szombaton a bécsi Szent István dómban Franz König, bécsi érsek-bíboros tartott Requiemet, A ravatal díszhelyét is átadta e gyászos szertartás idejére a magyar vértanúnak. Ez a hely csak az uralkodót és a bécsi érseket illeti meg, de König bíboros Mindszenty iránti tisztelete jeléül helyezte ide a magyar bíboros ravatalát.
A temetésen Magyarországról senki nem volt ott hivatalosan, de az akkor még szabad világnak nevezett Nyugat-Európában, és a világ más fölrészein élő magyarság sok ezer fővel képviseltette magát. Franz König celebrálta a gyászszertartást.
Mindszenty félméteres, színes arcképét helyezték a koporsó elé. Gyertyát is állítottak. Azt, amelyet a németországi Bambergben kapott a magyar fiataloktól. A gyertyán a szentkoronás magyar címer. Egyetlen koszorút helyeznek csak el. A koporsó oldalához támasztják. A testvérek megigazítják a fehér szalagot. Rajta arany nyomással három szó:
„Hűséges magyar néped.
Hatalmas tömeg imádkozik a bíboros lelki üdvéért.
Ősz hajú pap, a bíboros régi, hű papja, Közi Horváth József szava szól:
– Gyémántmise helyett requiemre jöttünk. Fáj búcsút mondani ennek a nagy és nemes főpapnak, akit valaki találóan a magyarság lelki fejedelmének, összefogó, erősítő, bátorító vezérének nevezett. Mégis azt hiszem, sokkal helyénvalóbb, ha innen, koporsója mellől nem a circumdederunt panaszával, hanem a Te Deum hálaadásával fordulunk az Egek Urához. A köszönet szavával, hogy Mindszenty Józsefet magyarnak teremtette és 60 esztendőn keresztül segítette a magyar haza és nép szolgálatában. Egyháza és nemzete szolgálatát, mint a Vas megyei Felsőpaty falu káplánja kezdte el, és mint a világ apostola fejezte be...
König kardinális hangja is betöltötte a dómot:
– Búcsúzunk Mindszenty bíborostól, most, mikor elindul utolsó zarándokútjára, Máriacellbe... Ajka immár néma, de szavai tovább csengenek. Hazája történetéből merítve, híveit mindenkor fellelkesítette. Jól tudta, az élő egyház azzal teszi a legnagyobb szolgálatot az otthonnak és hazának, ha a vallásra alapított értékrendet hirdeti, ha az Evangélium üzenetét, mint a megengesztelődés és a béke üzenetét közel viszi az emberek szívéhez. Áhítattal és tisztelettel hajlunk meg korunk e hitvallója és mártírja előtt. Jó harcot harcolt meg. Pályáját végigjárta. Hitét megőrizte. Most az igazságosság győzelmi koszorúja várja. Élete végén az Örök Bíró e szavakat írja neki: „Jó és hűséges szolga, menj be Urad örömébe!”
A római Szent Péter-bazilikában, zarándokok tömege előtt a pápa, VI. Pál beszélt:
– A halál olyan lángot oltott ki a földön, amely ragyogó fényével bevilágította az Egyház útjának utolsó évtizedeit. Beszédében a pápa Mindszentyt „páratlan, égő hitű' papnak mondotta, aki rendíthetetlen volt abban, amit kötelességének és jogának érzett. A Gondviselés úgy rendelkezett, hogy hazájában a bíboros egyik főszereplőként élte át az Egyház ezeréves fennállásának egyik legnehezebb és legbonyolultabb korszakát. Aztán arról beszélt VI. Pál, hogy Mindszenty a tisztelet tárgya volt, de erőszakos támadások és olyan bánásmód szenvedő alanya is, ami fájdalmas megrendüléssel töltötte el a közvéleményt. Ha majd lecsillapul a szenvedélyek kavargása, a történelem megadja személyének azt a helyet, amely megilleti – mondta VI. Pál.
A Fehér Házban az amerikai elnök, Gerald Ford emlékezett meg a bíborosról: „Szembeszállt a zsarnoksággal, mindenütt, ahol beléje ütközött. Mindszenty ihletet adott, nemcsak a magyar népnek, melyet szeretett és szolgált, hanem szerte a világon mindazoknak, akik értékelik az erényt, a lelki erőt és az igazságot. A heroizmus jellemezte ezt a férfiút, a szabadság keresztes vitéze volt és az elmélkedés embere. Mindszenty bíboros hiányozni fog. Nem felejtjük el.”
A Pázmáneumban pedig a szürke ruhás testvérek ezt mondták: „Amikor hazajöttünk a dómból a ravatal mellől, akkor csak néztünk körül, melyik ajtóból lép ki és kér valamit tőlünk, vagy ad utasítást. Szóval, olyan hirtelen jött ez a halál, hogy szinte nem is tudtuk napokig... napokig nem tudtuk elhinni. És nem ijedtünk volna meg, hogyha egyszer megjelenik és szól hozzánk. Mert olyan természetes lett volna...”
(Stoffán György: Sum paratus című könyvéből)