Das lange Zeit externe Bistum Ermland wurde mit dem Preußenkonkordat von 1929 dem Erzbistum Breslau zugeordnet. Seither umfaßt die Diözese die gesamte Provinz Ostpreußen.

Im Jahre 1940, noch bevor die großen Bevölkerungsverschiebungen durch Evakuierung und Vertreibung der Deutschen stattfinden, zählt die Diözese Ermland etwa 380 000 Katholiken.

Im Herbst 1944, nach der großen sowjetischen Gegenoffensive, verpflichtet der ermländische Bischof Maximilian Kaller seine Geistlichen in einem Rundschreiben, in ihren Gemeinden zu bleiben und sich nur im Falle eines Evakuierungsbefehls zusammen mit den Gemeindemitgliedern auf die Flucht zu begeben. Doch der Evakuierungsbefehl durch Gauleiter Koch kommt für viele zu spät.

Bis Anfang Februar 1945 bleibt Kaller in seiner bischöflichen Residenz in Frauenburg. Dann wird er durch die Gestapo verhaftet. In einem Brief an den Breslauer Erzbischof Kardinal Bertram erinnert sich Kaller: "Am 7. II. wurde ich im Keller von drei Mann des Sicherheitsdienstes der Gestapo, die mit Maschinengewehrpistolen angerückt waren, überrascht, aufgefordert, sofort Frauenburg zu verlassen, da das Haus geräumt werden müsse. Wenn ich nicht ginge, wären die anderen nicht zu bewegen, sich evakuieren zu lassen. Als ich wiederholt mit aller Bestimmtheit erklärte, auf keinen Fall freiwillig zu gehen, nahm man mich in ,Schutzhaft‘. …". So wurde Kaller zunächst auf die Nehrung, dann außerhalb seines Bistums, nach Danzig verbracht.

Seit dem 7. Februar 1945 ist daher Generalvikar Aloys Marquardt Leiter der Diöszese Ermland, der allerdings schon drei Tage später selbst verhaftet wird und erst am 11. Juni wieder freikommt. Zu diesem Zeitpunkt befinden sich bereits viele Polen im Land. Frauenburg ist fast vollkommen zerstört, und so beschließt man, den Sitz des Bistums nach Allenstein zu verlegen. In Allenstein residiert zu diesem Zeitpunkt bereits die polnische Zivilverwaltung für das südliche Ostpreußen. Von hier aus ist man bestrebt, das deutsche Element in diesem Land zielstrebig auszulöschen.

Am 23. Juli 1945 ist die Polonisierung des Landes schon im vollen Gange. An diesem Tag erreicht Generalvikar Marquardt ein Brief der Wojewodschaftsverwaltung, in dem die Polonisierung der Kirchen und des Gottesdienstes gefordert wird. Bereits wenige Tage später wird er aufgefordert, "Polen innerhalb von drei Tagen zu verlassen". Marquardt war von einem vom polnischen Landrat in Marienburg eingesetzten "politischen Pfarrer" (!) namens Majewski angeschwärzt worden. Der so titulierte Johannes Hanowski, der daraufhin zum Kapitularvikar gewählt wird, ist Pole und, wie sich ein deutscher Geistlicher erinnert, ein Nationalist, dem die Sorge um seine deutschen Schäfchen keine Herzensangelegenheit war.

Unterdessen war Bischof Kaller in Halle an der Saale angekommen. In mehreren Briefen hat er sich seither von dort an Papst Pius XII. gewandt, um ihm die Not seines Bistums zu schildern. Er bittet ihn: "… Vielleicht ist es doch möglich, in Ermland auch weiterhin als Bischof tätig sein zu dürfen, wenn auch die Bevölkerung eine andere (polnische) geworden ist. Ich beherrsche das Polnische so weit, daß ich ohne Mühe polnisch predige und mich polnisch unterhalte. Für den Fall der völligen Aussiedlung der deutschen Bevölkerung nach dem Osten, z. B. nach Sibirien, und der Unmöglichkeit für mich, in Ostpreußen zu verbleiben, könnte ich mich auch aussiedeln lassen und versuchen, die Aussiedelung so zu beeinflussen … Ich würde dann wenigstens bei den Menschen meiner Diözese bleiben …" Am 26. Juli 1945 macht sich Kaller auf den Weg in seine Diözese; weite Strecken legt er zu Fuß zurück. Am 10. August trifft er in Allenstein ein. Das Mandat des Polen Hanowski erlischt damit automatisch. Der Wojewode von Allenstein ist natürlich nicht begeistert. Kaller entwirft sofort ein Aufbauprogramm für sein Bistum. Er will polnische Priester in die Arbeit einbinden, um so auch für seine Deutschen Gemeindemitglieder wirken zu können. Doch der polnische Nationalismus hat auch den Klerus ergriffen. Kaller schreibt: "Soweit ich gemerkt zu haben glaube, macht sich der nationale Geist vorläufig ungebührlich stark bemerkbar. Wir müssen ihn auf das tragbare Maß bringen und sehr stark daneben den Geist der hl. Kirche stellen." Am 11. August trifft ein Telegramm des polnischen Primas Kardinal Augustyn Hlond aus Posen in Allenstein ein. Es ist an Marquardt gerichtet. Kaller öffnet es und liest: "Bitte um ein Treffen mit mir in Pelplin, wo ich am 16. August um 12 Uhr eintreffe." Hlond ist seit 1926 Erzbischof von Gnesen und damit Primas von Polen. Auch er ist glühender polnischer Nationalist und versucht nach der militärischen Niederlage Deutschlands den deutschen Klerus umgehend aus seinen Positionen zu vertreiben. Er fordert für die "neuen polnischen Westgebiete", wie er sie bezeichnet, von Rom umgehend neue Administratoren.

Roms Antwort sind neue Vollmachten für Hlond, die sich allerdings nur auf das Gebiet des polnischen Konkordats von 1925 beziehen, also Ostdeutschland nicht umfassen. Hlond "überliest" diese Passagen, wie er später behauptet. Die Folgen sind fatal: Unter dem Vorwand, Rom wünsche die Absetzung des deutschen Klerus, geht er von einem Bistum zum nächsten und erzwingt so unter falschen Behauptungen den Rücktritt der deutschen Geistlichkeit.

Kurz vor dem Treffen in Pelplin, auf dem Hlond den deutschen Klerus in Ermland "abzuwickeln" gedenkt, ist er am 12. August in Breslau. Nach dem Tod von Kardinal Bertram versucht Hlond, den Kapitularvikar Dr. Ferdinand Piontek zum Rücktritt zu bewegen. Hlond versichert ihm wahrheitswidrig, dies sei der Wunsch des Heiligen Vaters. Piontek ist entsetzt, aber er tritt daraufhin zurück. Auf den Gedanken, der Kardinal könnte ihm die Unwahrheit gesagt haben, kommt Piontek gar nicht.

Für den 16. August war eigentlich ein Gespräch zwischen Kardinal Hlond und dem Danziger Bischof Splett vorgesehen. Splett war jedoch einige Tage zuvor von den polnischen Behörden verhaftet worden. Es kommt aber am selben Tag zu dem denkwürdigen Treffen zwischen Bischof Kaller und Hlond in Pelplin. Ein Augenzeuge, Farciszek Jank, beschreibt die Zusammenkunft: "Dagegen fand sich unerwartet Bischof Maximilian Kaller von Ermland ein, oder war vielmehr durch den Vorsitzenden der gesellschaftspolitischen Abteilung der Wojewodschaft Allenstein herbeigeschafft worden … Sie fuhren an demselben 16. August 1945 in zwei Wagen gegen 11 Uhr vor der Pfarrei in Pelplin vor, in der damals Prälat Sawicki wohnte, und dort lieferten sie Bischof Kaller zusammen mit Borowiec ab … Nach dem Dankgebet wandte sich der Kardinal an Bischof Kaller: "Exzellenz gestatten, mit mir zu kommen", und sie gingen zusammen in die für den Kardinal vorbereiteten Zimmer. … Ungefähr nach zehn Minuten sah ich auf den Flur hinaus und erblickte Bischof Kaller einsam vor dem Haupteingang stehend. Ich ging zu ihm hin und er weinte." Kaller selbst schreibt darüber später an den Papst: "Da aus den Ausführungen des Herrn Kardinals klar hervorging, daß Eure Heiligkeit selbst meinen Rücktritt … verlangen, habe ich mich gefügt, mit dem Bemerken, daß mir der Wille des Hl. Vaters über alles gehe. … Da Herr Kardinal (Hlond) erklärte, daß ich Ostpreußen verlassen müsse, reiste ich am 19. 8. ab." Hlond hatte also erneut mit seinem Täuschungsmanöver Erfolg gehabt, denn natürlich hatte der Papst einen entsprechenden Rücktritt keineswegs gefordert. Kaller hält sich daraufhin in Diözesen in Mittel- und Westdeutschland auf. Noch einmal, Anfang September 1945, versucht Kaller, über Königsberg, das ja auch zu seiner Diözese gehört und wo jetzt die Russen sich eingerichtet haben, nach Ostpreußen zurückzukehren. Doch der Plan zerschlägt sich und wird im März 1946 endgültig abgelehnt. Kaller wird sich nun schwerpunktmäßig um die vertriebenen Gläubigen und Priester kümmern. Pius XII. bietet ihm im Juni 1946 das Amt eines Päpstlichen Sonderbeauftragten für die katholischen Ostflüchtlinge an. Unterdessen verteidigt Kardinal Hlond in Rom seine Vertreibung deutscher Geistlicher: "Wie ich erst einige Monate später feststellen konnte, hatte ich damals diese Worte falsch verstanden …" Monate später. Doch die Fakten sind bereits geschaffen – wie geplant.

Kaller organisiert derweil die Vertriebenenseelsorge in West- und Mitteldeutschland und fragt um Geistliche an. Im Januar 1947 ernennt Kaller sogar einen Generalvikar des russischen Anteils von Ostpreußen und der Freien Prälatur Memel. Er wird bereits Ende November aus Königsberg wieder ausgewiesen werden.

Am 7. Juli 1947 stirbt Kaller in Frankfurt am Main. Neuer Kapitularvikar der Diözese Ermland wird der Propst und Dekan von Elbing, Arthur Kather, der dieses Amt bis 1957 innehaben wird. Der Limburger Bischof Dirichs wird zum neuen Päpstlichen Sonderbeauftragten für die Seelsorge an den Heimatvertriebenen ernannt.

Inzwischen drängt der polnische Staat, in dem inzwischen die Kommunisten das Sagen haben, die kirchlichen Grenzen den neuen politischen Gegebenheiten anzupassen. Das alte polnische Konkordat von 1925 wird vom polnischen Staat völkerrechtswidrig gekündigt. In den Jahren 1950/51 schließt das kommunistische Polen mit der DDR Verträge ab, die die Oder-Neiße-Linie als "endgültige" deutsch-polnische Grenze festlegen. Der Staat selbst löst die Apostolischen Administraturen auf.

Als Kardinal Hlond 1951 stirbt, wird Primas Wyszynski sein Nachfolger. Auch bei ihm ist das polnische Nationalgefühl stark ausgeprägt. Auch er versucht wie sein Vorgänger die Reste der deutschen Kirchengeschichte in Ostdeutschland planmäßig zu eliminieren.

Im Jahre 1955 kehrt der lange totgeglaubte Generalvikar des Bistums Ermland, Marquardt, aus der russischen Kriegsgefangenschaft zurück. Damit umfaßt das ermländische Domkapitel in Westdeutschland wieder zwei Mitglieder. In der Zwischenzeit ist viel passiert: 1950 haben die Vertriebenen ihre berühmte "Charta" unterzeichnet, in der sie auf Rache und Vergeltung, nicht jedoch auf ihr Recht auf Heimat, das heißt auf ihr Recht auf Rückkehr verzichten.

Die folgenden Jahre sind geprägt durch die Bildung von zwei parallel existierenden ermländischen Domkapiteln – eines in Westdeutschland, eines in Allenstein. Zwei Domkapitel für dasselbe Bistum, das ist kirchenrechtlich ein Unding. Und so versucht nun jedes Kapitel einen Alleinvertretungsanspruch durchzusetzen. 1963 wird dem deutschen Kapitel das Recht eingeräumt, selbst Domkapitulare zu ernennen. Rom verlangt jedoch, daß dieser Entschluß geheizuhalten sei, damit Primas Wyszynski nicht verletzt werde. Sechs Domkapitulare werden daraufhin von dem deutschen Kapitel geheim ernannt. Doch bereits einen Monat später soll das deutsche Kapitel auf seinen Anspruch "zugunsten der Situation in Polen" verzichten.

Schließlich bringen die Ostverträge der Regierung Brandt/Scheel die endgültige Wende: Zwar läßt der päpstliche Nuntius Bafile noch 1971 verkünden: "Der Heilige Stuhl vertritt grundsätzlich die Ansicht, daß die Bistumsgrenzen in einem Land nur geändert werden …, wenn die poltischen Grenzen einwandfrei festgelegt und allgemein anerkannt sind. Bei den ehemals deutschen Gebieten jenseits von Oder und Neiße ist diese Bedingung nach Ansicht des Heiligen Stuhls bis heute nicht erfüllt." Doch schon ein Jahr später wird das Bistum Ermland endgültig dem Warschauer Metropolitansitz "auf ewig unterstellt". Das Bistum Ermland gehört damit nicht mehr zum Geltungsbereich der deutschen Konkordate. Weihbischof Józef Drazazga wird Bischof von Ermland inklusive des zur Sowjetunion gehörigen Teils der Diözese, dem nördlichen Ostpreußen.