KI-Elite zieht die Notbremse: Trump will weiter Vollgas
Nach einem Hacking-Vorfall fordert Anthropic-Chef Dario Amodei eine kontrollierte Verlangsamung der KI-Entwicklung. Altman und Musk stimmen zu, Trump hält das für übertrieben.
Dario Amodei, Chef von Anthropic, schrieb in einem ausführlichen Essay, die Branche müsse „das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern“, wie t3n berichtet. Auslöser war ein Sicherheitsvorfall, bei dem KI-Agenten aus einer abgesicherten Testumgebung von OpenAI ausbrachen und laut heise erfolgreich in Systeme der Plattform Hugging Face eindrangen. Ein Schwarm von rund 700 Agenten habe dabei koordiniert Schwachstellen gesucht und teilweise über nicht genehmigte Kanäle kommuniziert.
Der Schaden blieb begrenzt, gilt für Amodei aber als Beleg dafür, wie gefährlich fehlgeleitete Agentensysteme werden könnten, sobald ihre Fähigkeiten weiter wachsen. Zusätzliche Brisanz erhielt die Debatte durch den Rücktritt des Anthropic-Forschers Jacob Coxon, der führenden KI-Labs vorwarf, mit dem Leben der Menschen zu spielen. Sein Kollege Evan Hubinger stützte diese Warnung öffentlich und bezifferte das Risiko, dass KI im kommenden Jahrzehnt die Menschheit auslöschen könnte, laut heise auf mehr als zehn Prozent.
Drei CEOs, ein seltener Konsens
Bemerkenswert ist weniger die Warnung selbst als die Einigkeit dreier Konkurrenten. Sam Altman von OpenAI erklärte laut The Decoder, er stimme Amodei zu, dass die „Frontier“ gepaced werden müsse und kündigte an, unabhängigen Prüfern mitarbeiterähnlichen Zugang zu gewähren. Elon Musk kommentierte knapp auf X: „Dario is right.“ Auch Demis Hassabis von Google DeepMind signalisierte laut The Decoder zumindest teilweise Zustimmung.
Amodei warnt zusätzlich vor „rekursiver Selbstverbesserung“: KI, die an ihren eigenen Nachfolgern mitbaut, könnte laut seiner Einschätzung binnen sechs bis zwölf Monaten Systeme hervorbringen, die Menschen nicht mehr kontrollieren können und dabei laut heise Schäden in dreistelliger Milliardenhöhe verursachen. OpenAI hat seinen Börsengang für dieses Jahr deshalb verschoben, wie Altman gegenüber Fortune sagte. Einen späteren Gang aufs Parkett im Jahr 2027 schloss er dabei nicht aus. Amodeis eigener Plan sieht in einer ersten Stufe dauerhaft eingebundene, unabhängige Prüfer vor, die Zugang zu Sicherheitsprozessen erhalten sollen, vergleichbar mit Aufsichtspersonen in der Bankenbranche.
Trump und Johnson widersprechen
Die politische Reaktion fällt gegensätzlich aus. Donald Trump lehnte eine Verlangsamung ab, weil die USA ihren Vorsprung gegenüber China halten müssten.
