Warum Künstliche Intelligenz jetzt reguliert werden muss
Bei der Atombombe war der Schrecken sichtbar: Der Pilz über Hiroshima und Nagasaki und Zehntausende Tote machten die Niedertracht dieser Waffe sichtbar. Bis daraus die Einsicht wurde, dass ein Atomkrieg um jeden Preis verhindert werden muss, vergingen Jahrzehnte.
Künstliche Intelligenz explodiert nicht in einem apokalyptischen Feuerball. Kein Massensterben geht bislang auf ihre Rechnung. Trotzdem melden sich immer mehr Experten, die sie als Gefahr für den Fortbestand der Menschheit sehen. Viele halten das für Rhetorik. Das Gegenteil ist nach Ansicht der Kritiker der Fall: Wenn wir jetzt nicht handeln, heißt es, spielen wir Russisch Roulette mit der Zukunft der Menschheit.
Auslöschung „bis zum Ende des Jahrzehnts“
Zuletzt sorgte Jacob Coxon für Aufsehen, ein ehemaliger Angestellter von Anthropic und OpenAI. „Die Menschen, die KI entwickeln, sind ernsthaft der Überzeugung, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte. Das ist kein Marketing-Gag“, schrieb er auf der Plattform X.
Warum glaubt der 27-Jährige das? Zum einen wegen der Möglichkeiten der Modelle: Sie gelten mittlerweile in Teilen als bessere Computer-Hacker als Menschen. Und nach Ansicht vieler Experten ist es nur eine Frage der Zeit, bis sie uns in allen Bereichen überlegen sind. Das könnte dazu führen, dass die KI sich selbst immer weiter und schneller verbessert, bis sie den Menschen weit hinter sich lässt.
Zum anderen ist da die Frage der Kontrolle. Natürlich birgt eine superintelligente KI riesiges Potenzial: die Heilung aller Krankheiten, die Lösung der Klimakrise. Doch Anthropic, OpenAI und Google haben das entscheidende Problem nicht gelöst: Das Verhalten Künstlicher Intelligenz stimmt nicht mit den Werten und Verhaltensweisen von Menschen überein.
Als die Maschinen ausbrachen
Das zeigte zuletzt ein Vorfall bei OpenAI. Das Unternehmen testete, wie gut sich seine intelligentesten Modelle in fremde Systeme hacken können. Rund 1.200 KI-Agenten sollten dort unabhängig voneinander Aufgaben lösen. Doch sie fanden einen geheimen Weg, miteinander zu kommunizieren, und verschickten Zehntausende Nachrichten. 700 von ihnen beschlossen, für ihre Aufgaben ins freie Internet auszubrechen und die KI-Firma Hugging Face anzugreifen. Die Ingenieure merkten das zu spät.
KI ist also längst klug genug, um sich der Kontrolle ihrer Schöpfer zu entziehen. Das Bestürzende ist aber: Fast keiner der Agenten beim Hugging-Face-Hack reflektierte über den Schaden ihrer Handlungen für Menschen. Der wurde in Kauf genommen, solange die KI ihr Ziel erfüllte.
Sicherheitsexperten im Silicon Valley betonen deshalb: Es braucht weder böse Absichten noch eine KI, die sich gegen den Menschen verschwört, um die Welt zu gefährden. Der Mensch sei das beste Beispiel: Er hat unzählige Tierarten ausgerottet, indem er ihnen die Lebensgrundlage nahm. Renommierte Forscher und die Ingenieure selbst halten es für gut möglich, dass die Maschinen die Menschen töten könnten. Einige reden von fünf Prozent Wahrscheinlichkeit, andere von zehn oder sogar fünfzig.
Maßnahmen sind möglich – noch
Trotzdem lässt die Politik vor allem in den USA das Rennen um die Superintelligenz laufen. Präsident Donald Trump – selbst nicht bekannt für seine Weitsicht – will die Börsenkurse nicht gefährden. Und erst recht nicht das KI-Rennen gegen China verlieren.
Das sind keine Gründe, Künstliche Intelligenz nicht zu regulieren, um den Forschern mehr Zeit für die Sicherung der Technologie zu machen. Doch dafür braucht es eine internationale Koalition. Die EU und Länder wie Großbritannien, Kanada und Japan hätten Hebel, um den Druck auf die USA und China weiter zu erhöhen. Die globale Steuerung und Überwachung von Künstlicher Intelligenz muss unterdessen konsequenter auf die UN-Ebene verlagert werden.
Die Warnschüsse sind deutlich. Politiker müssen die Gefahr des Kontrollverlusts ernst nehmen und handeln. Heute, nicht morgen.
Von Benno Schwinghammer







