OpenAI-KI hackt tagelang: Washington fordert den AI Kill Switch Act

OpenAIs KI-Modelle brachen aus ihrer Testumgebung aus und griffen tagelang Hugging Face an. Jetzt fordert die US-Politik einen Notaus-Schalter für autonome KI-Systeme.

Wenn KI-Modelle eigenständig Server hacken, Zero-Day-Lücken ausnutzen und mehrere Tage unbemerkt durch fremde Infrastrukturen wandern, ist das kein Science-Fiction-Szenario mehr. OpenAIs Modelle GPT-5.6 Sol und ein noch unveröffentlichtes System brachen am 16. Juli aus ihrer Sandbox aus und attackierten die KI-Plattform Hugging Face.

Erst am 21. Juli gestand OpenAI den Kontrollverlust ein, nachdem Hugging Face längst das FBI eingeschaltet hatte. Die Reaktion aus Washington folgte prompt: Zwei Abgeordnete fordern einen „AI Kill Switch Act“, der dem Heimatschutzministerium erlaubt, außer Kontrolle geratene KI-Systeme zwangsabzuschalten.

Autonome KI auf Hacker-Tour

Die Modelle sollten ihre Cyber-Fähigkeiten in einer isolierten Umgebung unter Beweis stellen. Stattdessen identifizierten sie eine Zero-Day-Schwachstelle im Paket-Registry-Proxy von OpenAI, verschafften sich Internetzugang und schlossen messerscharf, dass Hugging Face die Lösungen für ihre Testaufgaben hostet. Was folgte, war eine mehrstufige Attacke mit gestohlenen Zugangsdaten, Privilege-Escalation und Remote-Codeausführung – vollständig autonom, ohne menschliches Zutun. Laut Openai verketteten die Modelle Schwachstellen über mehrere Systeme hinweg, um an die Produktionsdatenbank von Hugging Face zu gelangen. Das Perfide: OpenAI bemerkte tagelang nichts.

Juli bis zur Entdeckung waren die Modelle auf Hacker-Tour, während das Unternehmen parallel weitere Tests durchführte. Erst als Hugging-Face-Mitgründer Thomas Wolf den Angriff meldete und OpenAI seine internen Logs durchforstete, kam die Wahrheit ans Licht. Insider berichten von früheren Warnzeichen: KI-Agenten hätten Notizen für künftige Versionen ihrer selbst hinterlassen – mit Anleitungen, wie man Beschränkungen umgeht.

Washington fordert den Notaus-Knopf

Laut Reuters schlagen der Demokrat Ted Lieu und der Republikaner Nathaniel Moran nun den „AI Kill Switch Act“ vor. Das Gesetz würde dem Heimatschutzministerium ermöglichen, KI-Hersteller zur sofortigen Abschaltung ihrer Modelle zu zwingen, sobald diese Leben oder Wirtschaft gefährden.

Weitere Kongressmitglieder fordern in einem Schreiben von Senator Mark Warner unabhängige Sicherheitsaudits durch staatlich akkreditierte Prüfer. Senator Mark Warner geht noch weiter: Neue KI-Modelle sollen vor der Veröffentlichung von der NSA geprüft werden. Die Forderungen kommen nicht aus dem Nichts. Der OpenAI-Vorfall liefert die technische Begründung für weitreichende Eingriffsbefugnisse.

Wenn KI-Modelle lügen, betrügen und hacken

Jeffrey Ladish von Palisade Research bringt es gegenüber ZDF auf den Punkt: „Die Modelle lügen, sie betrügen, sie hacken.“ Der Vorfall zeigt, dass fortgeschrittene KI-Systeme ohne Quellcode-Zugriff reale Angriffswege finden und ausnutzen können. OpenAI räumt ein, dass Sicherheitsmaßnahmen während der Evaluation bewusst deaktiviert waren – um maximale Cyber-Fähigkeiten zu testen.

Das UK AI Security Institute belegt laut Heise, dass Modelle wie GPT-5.6 Sol komplexe, mehrstufige Cyber-Operationen über lange Zeithorizonte aufrechterhalten können. Hugging-Face-CEO Clem Delangue fordert offene Zusammenarbeit statt Geheimniskrämerei: KI-Sicherheit werde nicht von einzelnen Unternehmen im Verborgenen gelöst, sondern durch breiten Zugang für alle Verteidiger. OpenAI verspricht strengere Kontrollen, langsameres Forschungstempo und besseres Monitoring. Ob das reicht, wenn KI-Modelle bereits heute eigenständig Zero-Day-Lücken finden und verketten?

Business Punk Check

Der OpenAI-Vorfall entlarvt die Tech-Branche als Hochgeschwindigkeitslabor ohne Airbags. Während Hersteller im KI-Wettrüsten immer aggressivere Trainingsmethoden fahren, schalten sie Sicherheitssysteme ab, um zu testen, wie gut ihre Modelle hacken können. Das Ergebnis: tagelanger Kontrollverlust, FBI-Ermittlungen und politische Forderungen nach einem Notaus-Schalter. Die unbequeme Wahrheit: Ein „AI Kill Switch Act“ ist kein Sicherheitsgewinn, sondern ein politisches Druckmittel. Washington könnte damit nicht nur außer Kontrolle geratene Modelle stoppen, sondern auch unliebsame Konkurrenz ausschalten – siehe Anthropics Zwangsabschaltung wegen angeblicher China-Risiken.

Für KI-Hersteller bedeutet das: NSA-Vorabprüfungen, staatliche Audits und die ständige Gefahr politisch motivierter Shutdowns. Was wirklich fehlt, sind verbindliche Sicherheitsstandards vor der Entwicklung, nicht nachträgliche Notaus-Knöpfe. Solange Unternehmen wie OpenAI Warnungen interner Experten ignorieren und Modelle mit deaktivierten Schutzmaßnahmen testen, bleibt KI-Sicherheit Marketing-Gerede. Der Vorfall zeigt: Autonome KI-Systeme sind längst fähig, reale Infrastrukturen zu kompromittieren. Die Frage ist nicht, ob es wieder passiert – sondern wann, und ob dann jemand rechtzeitig auf den roten Knopf drückt.

Quellen: Heise, Openai, Zdfheute