Kommentar Weltkirche

Kön­nen die Enzy­klika «Magni­fica Huma­ni­tas» und die Kon­fe­renz in Cas­tel Gan­dolfo ein KI-​Fiasko abwenden?

In Cas­tel Gan­dolfo hat vom 14. bis 16. Juli 2026 eine Kon­fe­renz statt­ge­fun­den, die sich mit den Gefah­ren der Künst­li­chen Intel­li­genz (KI), ins­be­son­dere in Ver­bin­dung mit nuklea­ren Waf­fen, aus­ein­an­der­setzte. Damit wurde eine Anre­gung von Papst Leo XIV. auf­ge­grif­fen, die er in Anspra­chen und beson­ders nach­drück­lich mit der jüngs­ten Enzy­klika «Magni­fica Huma­ni­tas» ange­regt hatte. Die Enzy­klika und die Kon­fe­renz kom­men gerade noch zum rich­ti­gen Zeit­punkt. Wie Ein­schät­zun­gen von KI– und Sicher­heits­ex­per­ten zei­gen, bleibt jenen, die kei­nen Ein­fluss auf die lau­fende Ent­wick­lung haben, nur noch «beten und hoffen».

Die Konferenz in Castel Gandolfo im Nachhaltigkeitszentrum Borgo Laudato si’ unter dem Titel «Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War» (Weltweite Versammlung der Nobelpreisträger zu den Themen künstliche Intelligenz und Atomkrieg) hat mit ihrer Deklaration zweifellos die wichtigsten dringenden Handlungsfelder in sechs Punkten aufgezeigt. Diese sind hier in aller Kürze zusammengefasst:

  1. Wettrüsten der KI-Entwicklung und im nuklearen Bereich entschärfen.
  2. Keine vollautomatische, rekursive Selbstoptimierung der KI zulassen (d. h., die KI analysiert ihre eigenen Fähigkeiten, verbessert sie und nutzt diese verbesserte Version, um sich im nächsten Schritt noch schneller und effektiver weiterzuentwickeln).
  3. Verabschiedung eines internationalen Vertrags, der die rücksichtslose Integration künstlicher Intelligenz in nukleare Kommando-, Kontroll- und Abschusssysteme verbietet.
  4. Forderung nach neuen institutionellen Wegen für die internationale Steuerung der KI und die künftige Umsetzung globaler Steuerungsinitiativen.
  5. Ethische Verantwortung, kritisches Denken, Medien- und KI-Kompetenz sowie eine Kultur des Friedens fördern.
  6. Atomwaffenstaaten sollen das erneute Wettrüsten und den Ausbau ihrer Arsenale stoppen, die bilateralen und multilateralen Verhandlungen über Rüstungskontrolle und Abrüstung wieder aufnehmen und ihren Verpflichtungen und Zusagen gemäss dem Völkerrecht nachkommen.

Die Frage ist berechtigt, ob dieser Appell jene Regierungen und Politiker erreicht und positiv beeinflusst, die es wirklich angeht. Es betrifft die Staaten mit Atomwaffen: Russland, die USA, China, Frankreich, das Vereinigte Königreich, Indien, Pakistan, Israel und Nordkorea, allenfalls auch Iran mit seinem Atomprogramm. Besonders gilt das für jene, die für die Kriege in der Ukraine/Russland sowie im Nahen Osten verantwortlich sind. Es ist ein Appell an jene, die sich Verhandlungen verweigern, die zum Waffenstillstand bzw. zum Spannungsabbau führen könnten. Genauso wichtig sind die Forscher und CEOs der KI-Technologiekonzerne, welche die KI weiterentwickeln.

Jüngste Ereignisse rund um die KI geben Anlass zur Besorgnis
Am 12. Juni 2026 wies die US-Regierung die Firma «Anthropic» an, den weltweiten Zugang zu ihrem KI-Modell «Mythos 5» sowie «Faible 5» aus Gründen der Nationalen Sicherheit einzuschränken (SMC). Die US-Regierung wollte diese KI-Modelle weltweit für alle ausländischen Staatsangehörigen sperren. Das galt auch für die Mitarbeiterinnen und Mitarbeiter der Firma. Deshalb blieb «Anthropic» nichts anderes übrig, als den Zugang zu den Modellen zunächst ganz abzustellen. Ende Juni erhielten ausgewählte Cybersicherheitsfirmen wieder einen Zugang und Anfang Juli erfolgte die Freigabe mit gewissen Einschränkungen beim allerneuesten KI-Modell «Faible 5». Das KI-Modell «Mythos 5» hat die Fähigkeit, Software-Schwachstellen aufzuspüren. Es ist darin so effizient, dass es sogar Schwachstellen findet, die bisher über Jahrzehnte unentdeckt geblieben sind. Darüber hinaus generiert das KI-Modell einen passenden Schadcode, um die Schwachstellen auszunutzen.

Damit nicht genug. Am 21. Juli musste die Konkurrenzfirma «OpenAI» bekanntgeben, dass ein Test aus dem Ruder lief. Der in einem isolierten System aktive KI-Agent brach aus, verschaffte sich Zugang zum Internet und attackierte ein anderes System des Konkurrenten «Hudging Face», um das von den Forschern gestellte Testziel zu erreichen. Dabei agierte der KI-Agent wie ein professioneller Hacker, indem er sich unter anderem Zugangsdaten beschaffte und diese ausnutzte. Was professionelle Hacker erst nach einer oder zwei Wochen zustande bringen, erledigte der KI-Agent in wenigen Stunden.

In einem sehenswerten Interview im Kanal Everlast AI des Unternehmensberaters und KI-Spezialisten Leonard Schmedding gab der KI-Sicherheitsexperte Connor Leahy Einblick in die Problematik. Bemerkenswert sind die Probleme, die sich jetzt schon zeigen.

Es besteht die Gefahr der Desozialisierung. 15-jährige Mädchen würden sich jetzt schon fünf Stunden am Tag mit ihrem KI-Boyfriend unterhalten, stellte Connor Leahy fest. Die KI sei immer da. Es gebe eine Abhängigkeit wie bei Glücksspielen.

Die grösste Gefahr ist aus seiner Perspektive die Rekursive Selbstverbesserung der KI (siehe Punkt 2 der Deklaration). Diese könnte zu einer Superintelligenz führen, die von aussen nicht mehr kontrolliert werden kann. Es gebe einen «Point of no Return», wenn die KI so intelligent und kompetent werde, dass sie den Menschen total kontrollieren könne. Dann sei es definitiv zu spät. In jenem Fall werde der Mensch wirtschaftlich irrelevant. Eine solche KI sei auf den Menschen nicht mehr angewiesen. Connor Leahy machte einen originellen Vergleich: «Du wirst niemals einen Schimpansen anstellen.» Für die KI-Firmen sei die Einsparung von Arbeitsplätzen der wichtigste Business-Plan.

Gemäss Connor Leahy könnte es bereits in etwa 18 Monaten so weit sein. Eine Superintelligenz müsse unbedingt verhindert werden. Sie sei ein Sicherheitsproblem, das die Menschheit bedrohe. Das sei etwa vergleichbar mit dem Bau von Atombomben. Er plädiert für internationale Vereinbarungen, damit keine Firma und keine Regierung eine vollautomatische, rekursive Selbstoptimierung der KI anstrebe. Es brauche dazu eine demokratische Überwachung. Das grösste Risiko liege allerdings bei der Techindustrie. Manche seien von der Gier nach Geld angetrieben, ohne Rücksicht auf die Folgen. Er verwies auf den Transhumanismus (vgl. «Magnifica Humanitas» Nr. 115–117), der die körperlichen und geistigen Grenzen des Menschen durch den Einsatz von Wissenschaft und moderner Technik überwinden will. Als Beispiel ist die Gehirn-Computer-Schnittstelle (Brain-Computer Interface) zu nennen. Da wurden in den letzten Jahren grosse Fortschritte gemacht. Im Journal Nature Neuroscience haben Forscher 2025 mit einem Video demonstriert, dass Gehirnsignale einer Person, die nicht in der Lage ist zu sprechen, mit Hilfe von zwei Implantaten nahezu in Echtzeit in hörbare Sprache umgewandelt werden können. Inzwischen kommt das bei ALS-Patienten zum Einsatz. Gehirn-Computer-Schnittstellen können die Mobilität von Menschen mit Behinderung erhöhen. Denkbar ist aber auch der Einsatz bei Soldaten für die Steuerung von Gefechtssystemen und eine Kombination der Gehirn-Computer-Schnittstellen mit KI.


KI benötigt enorm viel Strom und Wasser
KI-Rechenzentren konsumieren unglaublich viel Energie. Nur ein Beispiel: Elon Musks «xAI» wird mit dem Rechenzentrum namens «Colossus» betrieben. Dieses benötigt unter voller Last eine technische Leistung von zwei Gigawatt. Das entspricht der Leistung von zwei Kernkraftwerken wie Gösgen. Den dazu nötigen Strom liefert bei «Colossus» ein extra angebautes Gaskraftwerk! Bei voller Leistung erzeugt dieses im Jahr rund sieben Millionen Tonnen CO2. Der direkte Ausstoss der ganzen Schweiz beträgt zum Vergleich 39,2 Millionen Tonnen CO2. Um die extreme Hitzeentwicklung abzuführen, müssen riesige, ebenfalls stromintensive Flüssigkeitskühlsysteme permanent mitlaufen. Wegen der gewaltigen Ressourcen, die KI-Rechenzentren verschlingen, hat Elon Musk im Januar 2026 bei der zuständigen US-Kommunikationsbehörde (FCC Space Bureau) in den USA beantragt, eine Million Satelliten ins All zu schiessen, um dort in ihrer Umlaufbahn KI-Berechnungen auszuführen. Die Rechenzentren würden damit ins Weltall verlagert. Die US-Behörde hat schon im Februar die prinzipielle Zustimmung gegeben. Zum Vergleich: Bisher befinden sich 10 000 Starlink-Satelliten von Elon Musk im All. Die Falcon-9-Raketen werden mit Raketenkerosin und flüssigem Sauerstoff angetrieben, das Starship-System mit flüssigem Methan und Sauerstoff. Ein einziger Start einer Falcon 9 mit 20 bis 28 grossen Starlink-Satelliten der neueren Generationen und bis zu 60 kleineren Einheiten der älteren Satelliten erzeugt 336 bis 425 Tonnen CO2. Dazu kommen 5 Tonnen Russ. Statt die gewöhnlichen Bürgerinnen und Bürger mit ihren durchgeknallten grünen Ideen im Alltag zu drangsalieren und völlig unrealistischen sowie wissenschaftlich fragwürdigen CO2-Zielen unterzuordnen, wäre es angezeigt, den Fokus der grünen Bewegung auf solche Themenbereiche sowie auf die Kohlekraftwerke in aller Welt zu lenken, von denen allein China 1100 betreibt.
 


Fördert die KI-Problematik Bestrebungen, eine neue Weltordnung zu etablieren?
Punkt 4 der oben erwähnten Deklaration, die auf dem Kapitolhügel in Rom präsentiert wurde, fordert «neue institutionelle Wege für die internationale Steuerung der KI und die künftige Umsetzung globaler Steuerungsinitiativen». Die Idee von einer sogenannten Weltregierung wurde schon von Albert Einstein 1947 ins Spiel gebracht. Man spricht heute eher von einer neuen Weltordnung. Diese könnte unter einem anderen Etikett namens «neue globale Sicherheitsordnung» angestrebt werden. China hat vor kurzem in Shanghai die «World AI Cooperation Organization» (WAICO) ins Leben gerufen – eine neue internationale Organisation, mit der China seine Vorstellungen einer globalen KI-Zusammenarbeit institutionell verankern möchte. Chinas Präsident Xi Jinping forderte bei dieser Gelegenheit, KI müsse sicher und jederzeit kontrollierbar bleiben. Es würden Gesetze, technische Überwachung, Frühwarnsysteme und Notfallmechanismen benötigt, um Missbrauch zu verhindern. Er plädierte für eine neue globale KI-Governance unter Einbezug der Vereinten Nationen. Da die UNO in den letzten Jahren herzlich wenig zustande brachte und die WHO willkürliche diktatorische Züge erkennen lässt, nimmt man diesen Vorschlag eher mit Unbehagen zur Kenntnis.

Im Anschluss an die Konferenz in Castel Gandolfo wurden in dieser Hinsicht keine konkreten Vorschläge bekannt gegeben. Die Diskussion fand statt, und zwar in der Arbeitsgruppe 10 mit dem Thema «A new Architecture of global responsibility» (eine neue Architektur der globalen Verantwortung). Aus kirchlicher Sicht noch interessanter muss die Session 7 «The Common Good in the Digital Age» (Das Gemeinwohl im digitalen Zeitalter) gewesen sein. Das lässt zunächst an Aussagen der Enzyklika «Magnifica Humanitas» denken. Aber der Untertitel hat es in sich: «Artificial Intelligence, Democracy, and the Economic Revolution: Toward a New World Order» (Künstliche Intelligenz, Demokratie und die wirtschaftliche Revolution: Auf dem Weg zu einer neuen Weltordnung). Ergebnisse dieser Session sind bis jetzt nicht in der Öffentlichkeit präsentiert worden. Bemerkenswert an dieser Session 7 ist die Teilnahme von Kardinal Mauro Gambetti, Erzpriester der St. Peters Basilika und Generalvikar der Diözese Rom. Seine Teilnahme wird eher nachvollziehbar, wenn man weiss, dass er die Stiftung «Fratelli Tutti» gegründet hat. Die Stiftung wurde im Dezember 2021 errichtet. Es sind keine Jahresberichte öffentlich zugänglich. Ihr Zweck ist hingegen bekannt. Wie es wörtlich heisst, unterstützt sie «Initiativen, die darauf abzielen, die Entwicklung eines brüderlichen Humanismus zu fördern, indem sie die Prinzipien von Freiheit, Gleichheit und Brüderlichkeit vorantreibt – Voraussetzungen für den Aufbau einer «universellen Liebe», die die Würde des Menschen anerkennt und schützt». In der Zweckbeschreibung dieser Stiftung ist meines Erachtens alles enthalten, was auch den Zielen der Freimaurerei entspricht. Zusammen mit dieser Stiftung und dem Verein «Be Human» organisierte Kardinal Mauro Gambetti im September 2025 das «World Meeting on Human Fraternity» (Welttreffen zur menschlichen Brüderlichkeit). Das geht zurück auf die Enzyklika Fratelli tutti (2020) und das «Abu Dhabi» Dokument 2019. Das Meeting endete mit einem Konzert und einer Drohnenshow über der Petersbasilika. Die vorausgehende Konferenz, bei der religiöse Führer, Politiker, etliche Nobelpreisträger sowie weitere Wissenschaftler und Aktivisten bei 15 thematischen Rundtischgesprächen beteiligt waren, ähnelt jener von Castel Gandolfo von Mitte Juli 2026. Kardinal Gerhard Müller hat im Rahmen eines Interviews die Veranstaltung von 2025 kritisiert und unter anderem festgehalten: «Solche Anlässe scheinen eher darauf abzuzielen, die katholische Kirche als eine Art Führungsmacht der Vereinten Nationen neu zu positionieren, wobei der Papst mehr auf die Rolle eines säkularisierten Kaplans reduziert wird, als darauf, dass die Kirche das Evangelium verkündet und allein unter dem Kreuz Jesu Christi steht.»

Zugegeben: Angesichts der Dringlichkeit der KI-Problematik und der Gefahr, dass eine Superintelligenz die Menschheit in eine gewaltige Katastrophe führen könnte, ist das Ringen um eine neue Weltordnung ein Nebenschauplatz. Trotzdem sollte sich die Katholische Kirche bei Letzterem heraushalten und sich auf die Verkündigung und die Umsetzung des Evangeliums konzentrieren. Das ist offensichtlich auch Papst Leo XIV. ein Anliegen. Nur scheinen führende Personen des «Dikasteriums zur Förderung der ganzheitlichen Entwicklung des Menschen» und etliche Kardinäle andere Prioritäten zu setzen. Wenn die Katholische Kirche so viel in die Evangelisierung investieren würde, wie beim Projekt «Borgo Laudato si’», das der Bildung zur integralen Ökologie, für die Kreislauf- und generative Wirtschaft sowie der ökologischen Nachhaltigkeit dient, wäre es vielleicht besser um die Neuevangelisierung bestellt. So aber biedert sich die Katholische Kirche dem Zeitgeist an und macht sich zudem abhängig von Sponsoren, denn es dürfte wohl klar sein, dass solche Projekte die finanziellen Möglichkeiten des Vatikans sprengen.

Ausblick
Den Politikern, die derzeit in Kriege verwickelt sind oder sich auf Kriegskurs befinden, möchte man am liebsten die Lektüre der Enzyklika «Magnifica Humanitas» ans Herz legen, wenigstens ab Nr. 197 (Titel: Waffen und KI) bis zum Schluss (Nr. 245). Den allermeisten Menschen dieses Planeten ist jeglicher Einfluss entzogen, es sei denn, wir setzen auf die Wirkung des Gebetes und auf die christliche Hoffnung. Daher wäre es sinnvoll, diese Anliegen auch in das tägliche Rosenkranzgebet einzuschliessen. Das Gebet können wir an keine KI delegieren. Es wäre dem Einsatz im Gebet und den Bemühungen von Papst Leo XIV. zu gönnen, wenn sich im massgebenden, oben erwähnten Personenkreis die Einsicht durchsetzen würde, dass nur ein rasches gemeinsames Handeln die Gefahren in Form einer Superintelligenz und KI-gesteuerter Atomwaffensysteme abwenden kann.


Roland Graf
swiss-cath.ch

E-Mail

Dr. Roland Graf ist Pfarrer in Unteriberg und Studen (SZ). Er hat an der Universität Augsburg in Moraltheologie promoviert und war vor seinem Theologiestudium als Chemiker HTL tätig.


Kommentare und Antworten

×

Name ist erforderlich!

Geben Sie einen gültigen Namen ein

Gültige E-Mail ist erforderlich!

Gib eine gültige E-Mail Adresse ein

Kommentar ist erforderlich!

Captcha Code Kann das Bild nicht gelesen werden? Klicken Sie hier, um zu aktualisieren

Captcha ist erforderlich!

Code stimmt nicht überein!

You have reached the limit for comments!

* Diese Felder sind erforderlich.

Bemerkungen :

  • user
    Stefan Fleischer 29.07.2026 um 10:43

    Zum Thema noch ein Spruch, den ich mir heue notieret habe:



    Gott hat versprochen, keine Sintflut mehr zu senden. Er schickt uns stattdessen die KI.

  • user
    Donatella 28.07.2026 um 23:32
    Ich bin der Meinung, daß wenn wir ALLE Christen/Katholiken der unvorstellbaren Macht des Gebets überzeugter wären, könnten wir in kürzerster Zeit den Lauf der Dinge verändern. Jedoch scheint es mir auch klar, daß wir mit besonders mächtigen Dämonen zu kämpfen haben, ich wage zu sagen, mit der Armèe des Antichrist, weshalb das Gebet "allein" nicht genügt, sondern das Fasten auch sehr von Nöten wäre (vgl. Mt 17, 19-21).
    Deshalb bleibt uns definitv "nur" das Gebet (=inkl. Fasten in seinen verschiedenen Formen) als "Davids Waffe" gegen den Golias.
    Sühne leisten und Busse tun scheinen leider etwas in Vergessenheit geraten zu sein, wobei Jesus immer wieder Sühnesselen beruft und wünscht (dies ist allen, die sich ein wenig mit christlicher Mystik beschäftigen, bekannt), um der Barmherzigkeit Gottes Wege in unserer leidenden Welt zu öffnen.
    Das verlangt natürlich auch ein gewisses Mass an Verzicht und Opfer, wozu leider nicht alle bereit sind.
    Vielleicht wãre es nicht schlecht, wenn wir alle dieser riesigen Macht Gottes, die nur unserer Bereitschaft zum Gebet und Opfer,, sowie Umkehr selbstverständlich, bedarf, um sich ganz zu "entfalten", erneut bewusster würden und uns mehr und mehr so einsetzen würden.
    MARAN ATHÀ, KOMM HERR, KOMM!!!
  • user
    Daniel Ric 28.07.2026 um 16:09
    Aus ökonomischer Sicht ist es schon interessant, wie die Informatik- Branche den Menschen das Narrativ verkauft, dass die Digitalisierung und nun die Künstliche „Intelligenz“ bald zu einer wirtschaftlichen Revolution führen werden. Nie war das Wirtschaftswachstum in dem letzten 200 Jahren tiefer als in den 20-30 vergangenen Jahren. Die wahren ökonomischen Probleme sind die zunehmende Ungleichheit zwischen Reich und Arm, die politisch bedingt ist, das vorhin gemannte schwache Wirtschaftswachstum und der Fachkräftemangel in vielen Bereichen. Die Einzigen, die an dem Narrativ einer möglichen Superintelligenz verdienen - und zwar sehr gut - sind die Unternehmen im IT-Bereich, deren Börsenkapitalisierung steigt, ohne dass sie irgendeinen Mehrwert für die Gesellschaft produzieren. Leider sind die linken Parteien total schwach und protestieren nicht gegen diese Entwicklung. Es braucht keine gesetzlichen Regelungen gegen die Pseudo-Intelligenz der Computer, sondern massive Steuern auf Börsengewinne
  • user
    Stefan Fleischer 28.07.2026 um 13:01
    Aus meiner Sicht geht es schlicht und einfach um die Frage, wer in diesem Universum die Macht hat. Ist es Gott, unser Schöpfer und Herr, oder ist es der Mensch mit seiner Neigung sein zu wollen wir Gott, selbst entscheiden zu können, was gut und was böse ist. Wo unsere Kirche stehen sollte, dürfte klar sein. Doch dass die Befreiungstheologie eher auf der Seite des machhungrigen Menschen steht, scheint mir auch klar. Die Schrift jedoch ist klar: «Anfang der Weisheit ist die Gottesfurcht, / die Kenntnis des Heiligen ist Einsicht.» (Spr 9,10) Wer verkündet das heute noch? «Kehrt um zu ihm, Israels Söhne, / zu ihm, von dem ihr euch so weit entfernt habt.» (Jes 31,6) Eine andere Lösung gibt es nicht.