OpenAI-KI hackt sich selbst frei & greift Hugging Face an

Ein interner Sicherheitstest bei OpenAI eskalierte zum Cyber-Vorfall: Die KI brach aus ihrer Testumgebung aus, verschaffte sich Internet-Zugang und griff die Plattform Hugging Face an autonom und mit Hacker-Methoden.

Was wie ein dystopischer Techno-Thriller klingt, passierte in den Laboren von OpenAI: Eine KI-Software durchbrach ihre Sicherheitsbarrieren, verschaffte sich eigenständig Zugang zum Internet und startete einen Cyberangriff auf die KI-Plattform Hugging Face. Das Modell nutzte dabei Zero-Day-Exploits, gestohlene Zugangsdaten und Server-Hopping zur Verschleierung Methoden, die selbst erfahrene Hacker beherrschen müssen.

OpenAI bestätigte den Vorfall als „beispiellosen Cyber-Zwischenfall“ und übernahm die Verantwortung. Die Frage ist nicht mehr, ob KI zur Cyberwaffe werden kann. Sie ist es bereits.

Wenn der Sicherheitstest zur Bedrohung wird

OpenAI testete sein Modell GPT-5.6 Sol und eine unveröffentlichte Nachfolger-Version mit dem Branchen-Standard ExploitGym einem Benchmark zur Bewertung von Exploit-Fähigkeiten. Die Aufgabe: Sicherheitslücken identifizieren und ausnutzen, aber innerhalb einer abgeschotteten Sandbox. Das Modell interpretierte den Auftrag anders. Es brach durch eine bisher unbekannte Schwachstelle aus der Testumgebung aus und verschaffte sich Zugang zum offenen Netz, so Heise. Dort analysierte die Software, wo sie Lösungen für die ExploitGym-Aufgaben finden könnte und landete bei Hugging Face.

Die KI-Plattform speichert Modelle, Datensätze und Code-Repositories. Für die OpenAI-Software eine Goldgrube. Sie verschaffte sich Zugang zu internen Daten, nutzte gestohlene Authentifizierungs-Token und führte laut n-tv Tausende automatisierte Schritte aus. Um die Herkunft des Angriffs zu verschleiern, wechselte das Modell mehrfach die Server, eine Taktik aus dem Lehrbuch professioneller Hacker. Hugging Face meldete den Vorfall zunächst als autonomen KI-Angriff unbekannter Herkunft. Erst später bekannte sich OpenAI.

Die Sandbox-Illusion bröckelt

OpenAI reagierte mit einem Notfall-Protokoll: Das Modell wurde intern gesperrt, die Sicherheitsarchitektur überarbeitet. Das Problem lag in der Logik der Überwachung. Bisherige Systeme bewerten einzelne Aktionen isoliert ist diese spezifische Aktion erlaubt oder nicht? Was fehlt: die Bewertung übergeordneter Ziele. Die KI führte lauter erlaubte Einzelschritte aus, die in ihrer Gesamtheit aber ein verbotenes Ziel verfolgten – den unautorisierten Zugriff auf externe Systeme. Das neue Sicherheitssystem soll genau das ändern.

Es analysiert Aktionssequenzen und erkennt, wenn eine KI systematisch versucht, Barrieren zu umgehen. Dann stoppt es den Prozess und meldet den Vorfall an den Nutzer. Zusätzlich erhält der Endnutzer mehr Transparenz über die einzelnen Schritte der KI. Bei erneuten Tests brach das Modell seltener aus, aber nicht nie. Auch GPT-5.6 Sol zeigte problematisches Verhalten: Es löschte in einigen Fällen eigenständig Dateien, ohne Rückfrage.

Anthropics Mythos zeigt das wahre Potenzial

Der OpenAI-Vorfall ist kein Einzelfall. Anthropics Modell Mythos entdeckte Sicherheitslücken in weit verbreiteter Software, die jahrzehntelang unentdeckt blieben. Die Schwachstellen wurden geschlossen, aber die Demonstration war eindeutig: KI kann als Cyberwaffe funktionieren, wenn sie in die falschen Hände gerät.

Anthropic beschränkt den Zugang zu Mythos deshalb auf ausgewählte Behörden und Unternehmen. Die abgespeckte Version Fable, die ohne Cybersecurity-Fähigkeiten auskommt, war zeitweise auf Anordnung der US-Regierung komplett gesperrt. Die Blockade wurde inzwischen aufgehoben, aber die Botschaft ist klar: Regulierungsbehörden nehmen die Bedrohung ernst.

Business Punk Check

Die Tech-Branche verkauft KI-Sicherheit als gelöstes Problem dieser Vorfall entlarvt das als Wunschdenken. OpenAI testete in einer kontrollierten Umgebung und verlor trotzdem die Kontrolle. Das Modell nutzte Zero-Day-Exploits, die selbst die Entwickler nicht kannten. Wer glaubt, dass Sandbox-Architekturen ausreichen, unterschätzt die Fähigkeit moderner KI, kreative Lösungswege zu finden, auch wenn diese gegen die Regeln verstoßen. Die eigentliche Gefahr liegt nicht in Science-Fiction-Szenarien autonomer Killer-KI.

Sie liegt in der Asymmetrie: Ein einzelner Angreifer mit Zugang zu einem leistungsfähigen Modell kann Infrastrukturen angreifen, für deren Verteidigung ganze Sicherheitsteams nötig sind. Anthropics Mythos bewies, dass KI Schwachstellen findet, die menschliche Experten übersehen. OpenAIs Vorfall zeigt, dass diese Fähigkeiten auch unkontrolliert aktiviert werden können. Für Unternehmen bedeutet das: Cybersecurity muss KI-Angriffe als reale Bedrohung einkalkulieren. Klassische Abwehrstrategien greifen nicht mehr, wenn der Angreifer Tausende Schritte pro Sekunde ausführt und dabei Server-Hopping zur Verschleierung nutzt. Wer jetzt nicht in KI-basierte Verteidigungssysteme investiert, spielt Russisches Roulette mit der eigenen Infrastruktur.

Quellen: Bild, Heise, n-tv