KI-Regulierung im Chaosmodus

Anthropic steht plötzlich im Fadenkreuz der US-Regierung. Der Fall zeigt schonungslos, wie chaotisch, intransparent und widersprüchlich die KI-Regulierung in den USA derzeit funktioniert.

Was als Debatte über einen angeblichen Sicherheitsvorfall begann, hat sich zu einem Grundsatzstreit über Macht, Kontrolle und die Zukunft der amerikanischen KI-Industrie entwickelt. Mittendrin: Anthropic – und ein regulatorisches System, das offenbar nach Tagesform arbeitet.

Anthropic wird zum Präzedenzfall

Vor wenigen Tagen wurde Anthropics neuestes KI-Modell „Mythos“ abrupt vom Markt genommen. Die Trump-Regierung erklärte das System nach Bekanntwerden eines Jailbreaks zum nationalen Sicherheitsrisiko. Kurz darauf folgte ein Exportverbot, das zeitweise sogar einige Mitarbeiter von Anthropic daran hinderte, auf das Modell zuzugreifen. Anthropic hält die Reaktion für völlig überzogen. Das Unternehmen argumentiert, die entdeckte Schwachstelle rechtfertige keine derart drastischen Maßnahmen. Genau dieser Konflikt zeigt, wie unterschiedlich die Perspektiven auf KI-Sicherheit derzeit ausfallen. Experten sind sich zwar weitgehend einig, dass die Regierung bei Fragen der nationalen Sicherheit eingebunden sein sollte. Doch der jüngste Streit offenbart ein größeres Problem: Es existiert kein transparentes, konsistentes Regelwerk für den Umgang mit fortschrittlichen KI-Systemen. Das könnte langfristig die gesamte US-Branche ausbremsen.

Pentagon gegen Anthropic

Die jüngsten Maßnahmen der Regierung kamen nicht aus dem Nichts. Zuvor hatte sich Anthropic mit dem Pentagon über gewünschte Änderungen an den Sicherheitsmechanismen seiner Systeme für militärische Anwendungen überworfen. Das Verteidigungsministerium stufte das Unternehmen daraufhin als mögliches Risiko für die Lieferkette ein. Zusätzliche Aufmerksamkeit erhielt Mythos, weil Anthropic selbst betont hatte, wie außergewöhnlich leistungsfähig das Modell beim Auffinden von Sicherheitslücken sei. Zunächst wurde die vollständige Version nur ausgewählten Partnern zur Verfügung gestellt. Am 9. Juni folgte mit „Fable 5“ eine öffentliche Variante mit zusätzlichen Sicherheitsmechanismen. Nach Ansicht der Trump-Regierung haben genau diese Schutzmechanismen jedoch versagt. Dadurch könnten Hacker Zugriff auf ein extrem leistungsfähiges Werkzeug erhalten. Anthropic zog daraufhin sowohl Mythos als auch Fable 5 zurück, um den Anweisungen der Regierung Folge zu leisten.

Experten verlangen Transparenz

Der Vorgang hat zahlreiche Experten alarmiert. Sie fordern mehr Transparenz darüber, wie die Regierung zu ihren Cybersecurity-Entscheidungen gelangt. Andernfalls drohe den USA ein Wettbewerbsnachteil im globalen KI-Rennen. „Das Problem ist nicht, dass die Regierung Ermessensspielraum genutzt hat. Nationale Sicherheit erfordert das sogar“, schrieb Jessica Tillipman, Expertin für Vergaberecht an der George Washington University. „Bemerkenswert ist vielmehr das völlige Fehlen eines nachvollziehbaren Verfahrens.“ Anthropic und die Regierung verhandeln inzwischen über eine Lösung. Beim G7-Gipfel erklärte Donald Trump, die Gespräche verliefen gut. In einem späteren Interview mit Axios sagte er sogar, er betrachte Anthropic inzwischen nicht mehr als Bedrohung für die nationale Sicherheit. „Jetzt nicht mehr. Vor einer Woche vielleicht.“ Das Weiße Haus verwies Anfragen an das Handelsministerium. Dort blieb eine Stellungnahme aus.

Lockerer Kurs trifft harte Realität

Eigentlich verfolgt die Trump-Regierung bislang einen vergleichsweise lockeren Ansatz bei der Regulierung von KI. Ziel ist es, Innovationen zu fördern und den technologischen Vorsprung der USA gegenüber Rivalen wie China zu sichern. Mehrere Regelungen aus der Biden-Ära wurden zurückgenommen. Verpflichtende Sicherheitsberichte wurden durch freiwillige Rahmenwerke ersetzt, während Bundesstaaten stärker eingeschränkt werden sollen. Im März stellte Trump einen nationalen KI-Politikrahmen vor, der als Orientierung für den Kongress dienen soll. Bemerkenswert: Die Regierung spricht sich gegen eine zentrale KI-Aufsichtsbehörde aus. Stattdessen sollen einzelne Branchenaufsichten zuständig bleiben. Gleichzeitig betont der Plan, dass Sicherheitsbehörden fortschrittliche KI-Modelle und ihre Risiken genau verstehen müssen. Anfang des Monats unterzeichnete Trump zudem eine Verfügung, die Unternehmen dazu auffordert, ihre leistungsfähigsten Modelle freiwillig vor einer Veröffentlichung von staatlichen Stellen prüfen zu lassen. Selbst diese Initiative stand jedoch kurz vor dem Aus, weil Trump befürchtete, sie könne amerikanische Innovationen behindern.

Staaten gehen eigene Wege

Während Washington noch um seine Linie ringt, schaffen einzelne Bundesstaaten bereits Fakten. Kalifornien verabschiedete ein Gesetz, das KI-Unternehmen zur Veröffentlichung von Risikobewertungen verpflichtet, Sicherheitsvorfälle meldepflichtig macht und Whistleblower schützt. Florida wiederum leitete strafrechtliche Ermittlungen gegen OpenAI ein und verklagt das Unternehmen. Der Bundesstaat wirft OpenAI vor, Kindern und Verbrauchern geschadet zu haben. Zudem wird behauptet, ChatGPT habe möglicherweise indirekt zur Vorbereitung des Schusswaffenangriffs an der Florida State University beigetragen. OpenAI weist diese Vorwürfe zurück und verweist auf umfangreiche Sicherheitsmaßnahmen. Brad Carson, Leiter des überparteilichen Pro-KI-Sicherheits-PAC Public First, fordert deshalb klare und einheitliche Standards. „Im Moment erleben wir einen improvisierten, personalisierten, undurchsichtigen und möglicherweise rechtswidrigen Ansatz“, sagt er.

Anthropic zwischen allen Fronten

Anthropic erklärte am 12. Juni, die Regierung habe keine konkreten Informationen zu den angeblichen Sicherheitsbedenken geliefert, die letztlich zum Exportverbot für Mythos und Fable 5 führten. Nach Angaben einer mit dem Vorgang vertrauten Quelle erhielt das Unternehmen zunächst lediglich 90 Minuten Zeit, um die Modelle vom Markt zu nehmen. Am Montag unterzeichneten Dutzende Cybersicherheitsforscher, KI-Unternehmer und Führungskräfte einen offenen Brief. Darin kritisieren sie das Vorgehen der Regierung und fordern künftig einen offenen, wissenschaftlichen und transparenten Prozess für die Bewertung von KI-Risiken. Außerdem erinnern die Unterzeichner daran, dass fortschrittliche KI-Systeme nicht nur von Angreifern, sondern auch von Verteidigern genutzt werden können. „Wenn man die besten Werkzeuge den Verteidigern ohne überzeugenden Grund entzieht, während Gegner gleichzeitig enorme Fortschritte machen, ist das gefährlich“, heißt es in dem Schreiben.

Wie gefährlich war der Jailbreak wirklich?

Auch die Bewertung des eigentlichen Sicherheitsvorfalls ist umstritten. Laut einer mit der Angelegenheit vertrauten Quelle wurde die Schwachstelle erstmals von Amazon an die Regierung gemeldet. Anthropic bezeichnet die Lücken als vergleichsweise geringfügig und verweist darauf, dass ähnliche Probleme auch bei Modellen anderer Anbieter auftreten. Mehrere renommierte KI-Sicherheitsforscher, darunter der frühere Facebook-Sicherheitschef Alex Stamos, erklärten öffentlich, sie hätten die zugrunde liegende Analyse gesehen und hielten die Reaktion der Regierung für unverhältnismäßig. „Es gab einige berechtigte Erkenntnisse, aber keine einzigartigen Fähigkeiten, die eine derart drastische Reaktion rechtfertigen würden“, schrieb Stamos auf X. Trump-Berater und früherer KI-Beauftragter des Weißen Hauses David Sacks widersprach deutlich. „Es ist schwer nachvollziehbar, wie ein Jailbreak, der den Einsatz einer Cyberwaffe ermöglichen könnte, als nicht ernsthaft eingestuft werden kann“, schrieb er ebenfalls auf X.

Ein gefährlicher Präzedenzfall

Jessica Tillipman warnt davor, dass die aktuellen Maßnahmen einen problematischen Präzedenzfall schaffen könnten. Ihrer Ansicht nach produziert eine Regierung, die auf diese Weise agiert, genau die Bedingungen, die später nach noch härterer Regulierung rufen. „Der Schaden endet nicht bei einem Unternehmen“, schreibt sie. „Eine Regierung, die so handelt, schafft die Voraussetzungen für Katastrophen oder Missbrauch – und löst damit genau die Reaktion aus, die sie eigentlich verhindern will.“ Das Chaos rund um Anthropic ist deshalb weit mehr als ein Unternehmenskonflikt. Es offenbart die strukturellen Schwächen der amerikanischen KI-Politik. Während Behörden kurzfristig entscheiden, exportverbieten, blacklisten und wieder zurückrudern, fehlt der Branche weiterhin ein verlässlicher Rahmen. Das ist keine Regulierung. Das ist Chaos – mit dem Etikett der nationalen Sicherheit.