Falscher KI-Bericht: Beinahe-Krieg mit China als Weckruf

Ein Chatbot verwechselte die Ladung eines chinesischen Schiffs mit Atomwaffen-Komponenten und brachte das US-Militär fast zum Angriff. CNN deckt auf, wie nah die Eskalation war.

Ein Analyst des US Special Operations Command fragte im Frühjahr 2026 einen Chatbot nach der Frachtliste eines chinesischen Schiffs im Nahen Osten. Der Chatbot antwortete falsch, demnach unter Berufung auf CNN mit Verweis auf vier mit dem Vorfall vertraute Quellen. Das System verknüpfte offene Informationen mit geheimer Signalaufklärung und kam zu dem Schluss, das Schiff transportiere Komponenten eines Atomwaffenprogramms.

Bewaffnete Soldaten bereiteten sich bereits vor, an Bord zu gehen, Militärflugzeuge waren in der Luft. Erst kurz vor der geplanten Operation prüften Verantwortliche den Bericht genauer und stoppten den Einsatz. Ein Angriff auf ein chinesisches Schiff hätte laut CNN das Risiko einer bewaffneten Eskalation zwischen den beiden Großmächten mit sich gebracht.

Ein Format, dem man vertraut

Der Analyst nutzte KI nicht nur zur Recherche, sondern auch, um die fehlerhafte Analyse in einen standardisierten Geheimdienstbericht zu verpacken, ein Format, dem militärische Entscheidungsträger demnach üblicherweise vertrauen. Genau diese Verpackung machte den Fehler unsichtbar: Der Bericht wirkte wie reguläre, geprüfte Aufklärung, nicht wie eine unbestätigte Chatbot-Ausgabe.

Eine Quelle sagte gegenüber CNN, der Bericht sei „komplett falsch“ gewesen, habe aber „fast einen Krieg ausgelöst“. Eine frühere hochrangige US-Regierungsquelle bezeichnete interne KI-Tools als größtenteils „Kopien der kommerziellen Produkte mit etwas Lippenstift“. Ob im konkreten Fall ein kommerzielles oder ein staatliches System zum Einsatz kam, ist laut CNN weiterhin ungeklärt.

Druck auf jüngere Analysten wächst

Der Vorfall ist laut einer CNN-Quelle kein Einzelfall: Solche Halluzinationen träten wiederholt auf, seit KI-Tools sich in den Geheimdiensten verbreiten. Ältere Mitarbeitende berichten von wachsendem Zeitdruck, jüngere Analysten würden den Systemen oft unkritisch vertrauen. „KI ermöglicht es dir, schneller zu einer schlechten Idee zu kommen“, zitiert CNN eine Quelle.