Anthropic-Report: Claude fast fünfmal für Biowaffen-Forschung missbraucht
Andrew Weber vom Council on Strategic Risks nannte die Befunde gegenüber der New York Times demnach „chilling examples“ dafür, wie staatsnahe Akteure die wachsenden Fähigkeiten führender KI-Modelle anzapfen. Dieselbe biologische Grundlagenforschung, die zu Impfstoffen führt, beruht laut Anthropic oft methodisch auf denselben Verfahren, die auch gefährliche Erreger designbar machen. Genau diese Ambivalenz erklärt, warum das Unternehmen sich in Zweifelsfällen für den vorsichtigeren Weg entschied, obwohl die Folgen für legitime Forschende spürbar sein können.
Regulierung bleibt freiwillig
Die Biosecurity-Expertin Céline Gounder begrüßt zwar die Warnung, kritisiert aber, dass die zentralen Schutzmaßnahmen bislang freiwillig sind. Es gebe in den USA keine verbindliche Politik, die Frontier-Modelle verpflichtend auf gravierende biologische Sicherheitsrisiken testen lässt. Zugleich klagen Biologie-Forschende, dass Claude legitime Anfragen teils allein wegen des beruflichen Profils blockiert habe, worauf Anthropic mit geplanten „Trusted Access“-Programmen reagieren will.
Für die EU-Regulierung ist der Report relevant, weil er zeigt, dass Inhaltsfilter bei dual-use-fähiger Forschung strukturell an Grenzen stoßen und Identitätsprüfung sowie institutionelle Verifikation ergänzend nötig werden dürften. Erstmals dokumentiert Anthropic zudem sechs Fälle konventioneller Waffenentwicklung, darunter Versuche aus dem Jemen, China und Russland, bei denen Akteure ihre Anfragen aufteilten, um den wahren Hintergrund zu verschleiern.
Business Punk Check
Der Konflikt ist real: Anthropic zeigt, dass dieselbe biologische Fachkenntnis Impfstoffe oder Erreger hervorbringen kann und dass kein Klassifikator diese Ambivalenz zuverlässig auflöst. Das Unternehmen veröffentlicht die Fälle transparent, verzichtet aber auf Namen und Länder, was Nachprüfbarkeit erschwert.
Offen bleibt, wer über die Kriterien für Hochrisikomodelle entscheidet, wenn Sicherheitsmaßnahmen wie bislang freiwillig bleiben. Gounders Kritik trifft einen wunden Punkt: Ein Unternehmen, das sich selbst kontrolliert, entscheidet auch selbst, was es preisgibt.
Auf einen Blick
- Anthropic dokumentierte fünf Fälle, in denen Claude für biowaffennahe Forschung zu Chikungunya, Vogelgrippe und Orthopoxviren genutzt werden sollte.
- Das Unternehmen konnte in keinem Fall feststellen, ob die Forschung legitimen oder schädlichen Zwecken diente und sperrte die betroffenen Accounts dennoch aus Vorsicht.
- Jacob Klein von Anthropic beschreibt die Absichtserkennung als „incredibly nuanced“, da Nutzer selten offen nach Biowaffen fragen.
- Biosecurity-Expertin Céline Gounder kritisiert, dass entsprechende Sicherheitstests für Frontier-Modelle in den USA bislang freiwillig bleiben.
Quellen: Heise, Trendingtopics, Celinegounder, KI-Unterstützt
