Die Konferenz in Castel Gandolfo im Nachhaltigkeitszentrum Borgo Laudato si’ unter dem Titel «Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War» (Weltweite Versammlung der Nobelpreisträger zu den Themen künstliche Intelligenz und Atomkrieg) hat mit ihrer Deklaration zweifellos die wichtigsten dringenden Handlungsfelder in sechs Punkten aufgezeigt. Diese sind hier in aller Kürze zusammengefasst:
- Wettrüsten der KI-Entwicklung und im nuklearen Bereich entschärfen.
- Keine vollautomatische, rekursive Selbstoptimierung der KI zulassen (d. h., die KI analysiert ihre eigenen Fähigkeiten, verbessert sie und nutzt diese verbesserte Version, um sich im nächsten Schritt noch schneller und effektiver weiterzuentwickeln).
- Verabschiedung eines internationalen Vertrags, der die rücksichtslose Integration künstlicher Intelligenz in nukleare Kommando-, Kontroll- und Abschusssysteme verbietet.
- Forderung nach neuen institutionellen Wegen für die internationale Steuerung der KI und die künftige Umsetzung globaler Steuerungsinitiativen.
- Ethische Verantwortung, kritisches Denken, Medien- und KI-Kompetenz sowie eine Kultur des Friedens fördern.
- Atomwaffenstaaten sollen das erneute Wettrüsten und den Ausbau ihrer Arsenale stoppen, die bilateralen und multilateralen Verhandlungen über Rüstungskontrolle und Abrüstung wieder aufnehmen und ihren Verpflichtungen und Zusagen gemäss dem Völkerrecht nachkommen.
Die Frage ist berechtigt, ob dieser Appell jene Regierungen und Politiker erreicht und positiv beeinflusst, die es wirklich angeht. Es betrifft die Staaten mit Atomwaffen: Russland, die USA, China, Frankreich, das Vereinigte Königreich, Indien, Pakistan, Israel und Nordkorea, allenfalls auch Iran mit seinem Atomprogramm. Besonders gilt das für jene, die für die Kriege in der Ukraine/Russland sowie im Nahen Osten verantwortlich sind. Es ist ein Appell an jene, die sich Verhandlungen verweigern, die zum Waffenstillstand bzw. zum Spannungsabbau führen könnten. Genauso wichtig sind die Forscher und CEOs der KI-Technologiekonzerne, welche die KI weiterentwickeln.
Jüngste Ereignisse rund um die KI geben Anlass zur Besorgnis
Am 12. Juni 2026 wies die US-Regierung die Firma «Anthropic» an, den weltweiten Zugang zu ihrem KI-Modell «Mythos 5» sowie «Faible 5» aus Gründen der Nationalen Sicherheit einzuschränken (SMC). Die US-Regierung wollte diese KI-Modelle weltweit für alle ausländischen Staatsangehörigen sperren. Das galt auch für die Mitarbeiterinnen und Mitarbeiter der Firma. Deshalb blieb «Anthropic» nichts anderes übrig, als den Zugang zu den Modellen zunächst ganz abzustellen. Ende Juni erhielten ausgewählte Cybersicherheitsfirmen wieder einen Zugang und Anfang Juli erfolgte die Freigabe mit gewissen Einschränkungen beim allerneuesten KI-Modell «Faible 5». Das KI-Modell «Mythos 5» hat die Fähigkeit, Software-Schwachstellen aufzuspüren. Es ist darin so effizient, dass es sogar Schwachstellen findet, die bisher über Jahrzehnte unentdeckt geblieben sind. Darüber hinaus generiert das KI-Modell einen passenden Schadcode, um die Schwachstellen auszunutzen.
Damit nicht genug. Am 21. Juli musste die Konkurrenzfirma «OpenAI» bekanntgeben, dass ein Test aus dem Ruder lief. Der in einem isolierten System aktive KI-Agent brach aus, verschaffte sich Zugang zum Internet und attackierte ein anderes System des Konkurrenten «Hudging Face», um das von den Forschern gestellte Testziel zu erreichen. Dabei agierte der KI-Agent wie ein professioneller Hacker, indem er sich unter anderem Zugangsdaten beschaffte und diese ausnutzte. Was professionelle Hacker erst nach einer oder zwei Wochen zustande bringen, erledigte der KI-Agent in wenigen Stunden.
In einem sehenswerten Interview im Kanal Everlast AI des Unternehmensberaters und KI-Spezialisten Leonard Schmedding gab der KI-Sicherheitsexperte Connor Leahy Einblick in die Problematik. Bemerkenswert sind die Probleme, die sich jetzt schon zeigen.
Es besteht die Gefahr der Desozialisierung. 15-jährige Mädchen würden sich jetzt schon fünf Stunden am Tag mit ihrem KI-Boyfriend unterhalten, stellte Connor Leahy fest. Die KI sei immer da. Es gebe eine Abhängigkeit wie bei Glücksspielen.
Die grösste Gefahr ist aus seiner Perspektive die Rekursive Selbstverbesserung der KI (siehe Punkt 2 der Deklaration). Diese könnte zu einer Superintelligenz führen, die von aussen nicht mehr kontrolliert werden kann. Es gebe einen «Point of no Return», wenn die KI so intelligent und kompetent werde, dass sie den Menschen total kontrollieren könne. Dann sei es definitiv zu spät. In jenem Fall werde der Mensch wirtschaftlich irrelevant. Eine solche KI sei auf den Menschen nicht mehr angewiesen. Connor Leahy machte einen originellen Vergleich: «Du wirst niemals einen Schimpansen anstellen.» Für die KI-Firmen sei die Einsparung von Arbeitsplätzen der wichtigste Business-Plan.
Gemäss Connor Leahy könnte es bereits in etwa 18 Monaten so weit sein. Eine Superintelligenz müsse unbedingt verhindert werden. Sie sei ein Sicherheitsproblem, das die Menschheit bedrohe. Das sei etwa vergleichbar mit dem Bau von Atombomben. Er plädiert für internationale Vereinbarungen, damit keine Firma und keine Regierung eine vollautomatische, rekursive Selbstoptimierung der KI anstrebe. Es brauche dazu eine demokratische Überwachung. Das grösste Risiko liege allerdings bei der Techindustrie. Manche seien von der Gier nach Geld angetrieben, ohne Rücksicht auf die Folgen. Er verwies auf den Transhumanismus (vgl. «Magnifica Humanitas» Nr. 115–117), der die körperlichen und geistigen Grenzen des Menschen durch den Einsatz von Wissenschaft und moderner Technik überwinden will. Als Beispiel ist die Gehirn-Computer-Schnittstelle (Brain-Computer Interface) zu nennen. Da wurden in den letzten Jahren grosse Fortschritte gemacht. Im Journal Nature Neuroscience haben Forscher 2025 mit einem Video demonstriert, dass Gehirnsignale einer Person, die nicht in der Lage ist zu sprechen, mit Hilfe von zwei Implantaten nahezu in Echtzeit in hörbare Sprache umgewandelt werden können. Inzwischen kommt das bei ALS-Patienten zum Einsatz. Gehirn-Computer-Schnittstellen können die Mobilität von Menschen mit Behinderung erhöhen. Denkbar ist aber auch der Einsatz bei Soldaten für die Steuerung von Gefechtssystemen und eine Kombination der Gehirn-Computer-Schnittstellen mit KI.
Kommentare und Antworten
Bemerkungen :
Zum Thema noch ein Spruch, den ich mir heue notieret habe:
Gott hat versprochen, keine Sintflut mehr zu senden. Er schickt uns stattdessen die KI.
Deshalb bleibt uns definitv "nur" das Gebet (=inkl. Fasten in seinen verschiedenen Formen) als "Davids Waffe" gegen den Golias.
Sühne leisten und Busse tun scheinen leider etwas in Vergessenheit geraten zu sein, wobei Jesus immer wieder Sühnesselen beruft und wünscht (dies ist allen, die sich ein wenig mit christlicher Mystik beschäftigen, bekannt), um der Barmherzigkeit Gottes Wege in unserer leidenden Welt zu öffnen.
Das verlangt natürlich auch ein gewisses Mass an Verzicht und Opfer, wozu leider nicht alle bereit sind.
Vielleicht wãre es nicht schlecht, wenn wir alle dieser riesigen Macht Gottes, die nur unserer Bereitschaft zum Gebet und Opfer,, sowie Umkehr selbstverständlich, bedarf, um sich ganz zu "entfalten", erneut bewusster würden und uns mehr und mehr so einsetzen würden.
MARAN ATHÀ, KOMM HERR, KOMM!!!