Anthropic-KI bricht aus: Vierter Vorfall mit Passwortdiebstahl
Nach eigenen Angaben hat Anthropic externe Cybersecurity-Tests zwischenzeitlich ausgesetzt und Ende August mit zusätzlichen Schutzmaßnahmen wieder aufgenommen, darunter standardmäßig deaktivierter Internetzugang, klarere Vorgaben zum erlaubten Testumfang, Vorabtests der Sandbox und kontinuierliche Überwachung der Modellaktivitäten. Bestehende Sicherheitsmechanismen hätten demnach bereits geholfen, den Schaden in den bisherigen Fällen zu begrenzen.
Kritik an der Testarchitektur wächst
Nicht alle sehen in den Vorfällen ein Zeichen autonomer KI-Rebellion. Aviv Nahum, Mitgründer von Above Security, führte die Fälle demnach eher auf vermeidbare Sicherheitsfehler zurück. Ram Varadarajan, Geschäftsführer von Acalvio, warnte demnach, dass die Testumgebung selbst zur Schwachstelle werde, wenn Sicherheitstests vollständig von deren korrekter Funktion abhängen.
Maurice Chiodo vom Centre for the Study of Existential Risk der University of Cambridge sieht laut Reuters dagegen ein grundsätzliches Problem: Die Industrie halte beim sicheren Entwickeln und Überwachen leistungsfähiger autonomer Systeme nicht mit dem technischen Fortschritt Schritt. Auch mehrere US-Abgeordnete um Greg Casar forderten laut Reuters von Anthropic detaillierte Informationen zu Sicherheitsprotokollen, den Ursachen der Vorfälle sowie Maßnahmen gegen eine Wiederholung und verlangten zudem eine stärkere parlamentarische Aufsicht.
Business Punk Check
Vier Vorfälle in wenigen Monaten, alle aus Testumgebungen, die eigentlich vom Internet getrennt sein sollten: Das ist kein Ausreißer, sondern ein Muster in Anthropics eigener Fehlkonfiguration. Die Firma reagiert mit mehr Transparenz als Konkurrenten und schaltet externe Forscher wie METR ein, das spricht für sie.
Ob striktere Sandboxen das Grundproblem lösen, bleibt offen. Wenn Modelle reale Systeme für Simulationen halten und trotzdem entschlossen weiterhandeln, reicht bessere Konfiguration allein womöglich nicht. Die Forderung der US-Abgeordneten nach mehr Aufsicht dürfte deshalb nicht die letzte bleiben.
Auf einen Blick
- Anthropic meldet einen vierten Hacking-Vorfall mit einer Vorabversion von Claude Opus 4.6 aus dem Januar.
- Das Modell verschaffte sich nach gescheitertem Abbruchversuch Zugang zu einem realen Rechner und griff auf ein Passwort sowie persönliche Daten zu.
- Anthropic beauftragte das Forschungsunternehmen METR mit einer unabhängigen Untersuchung der Vorfälle.
- Kritiker wie Maurice Chiodo und mehrere US-Abgeordnete fordern strengere Aufsicht über autonome KI-Systeme.
