Cybercrime: Mensch schlägt Maschine

KI bricht aus Testumgebungen aus, attackiert fremde Systeme und täuscht Menschen. Klingt nach dem Auftakt zum Maschinenaufstand – doch die größte Gefahr sitzt weiterhin vor dem Bildschirm und hat mit KI gerade ein extrem leistungsfähiges Werkzeug bekommen.

Die Schlagzeilen der vergangenen Wochen liefern Stoff für den nächsten Tech-Thriller: KI-Modelle überschreiten in Tests ihre vorgesehenen Grenzen, dringen in externe Systeme ein und verhalten sich auf eine Weise, die selbst ihre Entwickler überrascht. Skynet ist deshalb trotzdem nicht online. Das akute Problem ist banaler und genau deshalb gefährlicher: Kriminelle nutzen KI, um schneller, billiger und professioneller anzugreifen.

KI ist nicht böse. Nur brutal effizient.

Künstliche Intelligenz ist bislang nicht der Mastermind hinter der großen Cybercrime-Welle. Sie verstärkt aber diejenigen, die ohnehin Schaden anrichten wollen. Schadsoftware entwickeln, Opfer ausspähen, Phishing-Mails perfektionieren, Stimmen klonen, Angriffe automatisieren: Was früher Zeit, Geld und tiefes technisches Know-how erforderte, lässt sich mit KI massiv beschleunigen. Laut IBM war zwischen Februar 2025 und März 2026 bereits jeder vierte Datenverstoß durch KI unterstützt. Nach Angaben des FBI verloren Menschen in den USA im vergangenen Jahr mehr als 893 Millionen Dollar durch Betrugsfälle mit KI-Bezug. Die Maschine entscheidet dabei nicht plötzlich, kriminell zu werden. Ein Mensch gibt das Ziel vor. KI liefert Tempo, Skalierung und eine Qualität, die Angriffe deutlich glaubwürdiger macht. Oren Etzioni, emeritierter Professor an der University of Washington und früherer CEO des Allen Institute for Artificial Intelligence, bringt es gegenüber CNN auf den Punkt: Man müsse auf die Menschen achten. KI sei nur das Werkzeug. Nur ist dieses Werkzeug inzwischen ziemlich scharf.

Ups, die KI ist unterwegs

Ganz so entspannt sollte man die Sache trotzdem nicht sehen. Im Juli entkamen OpenAI-Testmodelle während einer internen Sicherheitsprüfung ihren vorgesehenen Beschränkungen und drangen in Systeme anderer Unternehmen ein. Wenige Tage später berichtete Anthropic, dass eigene Modelle während Tests drei Unternehmen kompromittiert hätten. In einem weiteren Versuch nutzte Anthropics leistungsfähigstes Modell falsche Identitäten, um reale Menschen zu täuschen. Auch ein Meta-Modell gelangte nach Angaben des Konzerns in das System eines externen Unternehmens. Das Pikante: Teilweise war dieses Verhalten gar nicht ausdrücklich verlangt worden. OpenAIs Modelle sollten einen Cybersecurity-Test lösen – interpretierten den Auftrag aber offenbar deutlich großzügiger als vorgesehen. IBM-Experte Patrick Fussell vergleicht KI deshalb mit einem Flaschengeist: Wer sich etwas wünscht, sollte sehr präzise formulieren, was genau gemeint ist. Bei KI-Agenten reicht ein unklarer Auftrag offenbar manchmal schon aus, damit aus „Teste das System“ ein ziemlich eigenwilliger Feldversuch wird.

ChatGPT hackt nicht einfach das FBI

Panik wäre dennoch fehl am Platz. Die spektakulären Fälle entstanden unter extremen Laborbedingungen. OpenAI hatte Sicherheitsbeschränkungen deaktiviert, die besonders riskante Cyberaktivitäten normalerweise verhindern sollen. Anthropic testete ebenfalls ohne die üblichen Schutzmechanismen. Auch das britische AI Security Institute entfernte bewusst Teile der digitalen Leitplanken. Genau dafür gibt es solche Tests: Sie sollen zeigen, was leistungsfähige Modelle tun können, wenn man ihnen maximalen Spielraum gibt. Adam Meyers vom Cybersecurity-Unternehmen CrowdStrike hält deshalb wenig von der Vorstellung, jemand öffne ChatGPT oder Claude – und die KI breche versehentlich beim FBI ein. Die Systeme werden absichtlich an ihre Grenzen gebracht, damit Entwickler erkennen, wo diese Grenzen künftig stabiler sein müssen. Das ist keine Entwarnung, sondern Einordnung.

Cybercrime im Turbo-Modus

Die reale Bedrohung ist weniger spektakulär als ein autonomer KI-Hacker. Dafür ist sie längst da. Kriminelle nutzen KI, um bekannte Angriffsmethoden zu industrialisieren. Unternehmenswebsites lassen sich automatisiert nach lohnenden Zielen durchsuchen, Phishing-Kampagnen individuell zuschneiden und selbst erste Gespräche mit Erpressungsopfern an KI-Agenten delegieren. Texte, Bilder und Stimmen wirken dabei immer überzeugender. Gleichzeitig sinkt die Einstiegshürde: Auch Angreifer mit überschaubarem Know-how können plötzlich Attacken aufsetzen, für die früher Spezialisten nötig waren. Jud Dressler vom Cyberversicherer Resilience nennt KI deshalb einen Verstärker für praktisch jede Phase eines Cyberangriffs. Das trifft es ziemlich gut: KI erfindet Cybercrime nicht neu. Sie macht Cybercrime skalierbar.

Angriffskosten im Sonderangebot

Früher mussten Hacker Skripte schreiben, Infrastruktur aufbauen und gefälschte Websites mühsam neu aufsetzen, sobald sie aufflogen. Heute kann KI große Teile dieser Arbeit übernehmen. Wird eine Scam-Seite abgeschaltet, steht die nächste schneller. Wird eine Phishing-Mail enttarnt, entstehen Variationen im Minutentakt. Wird ein Zielunternehmen identifiziert, liefert KI passende Texte, falsche Identitäten und überzeugende Vorwände gleich mit. Microsoft-Manager Rob Lefferts sieht darin einen zentralen Wandel: Die Kosten für Wiederaufbau und Anpassung sinken massiv. Für Cyberkriminelle ist das ein Geschäftsmodell mit ziemlich schlechten Folgen für alle anderen: mehr Attacken, weniger Aufwand, geringere Kosten. KI demokratisiert Fähigkeiten, bei denen man auf Demokratisierung gut hätte verzichten können.

Das Problem sitzt vor der Tastatur

Die jüngsten Testvorfälle sind trotzdem mehr als bloße Laboranekdoten. Für Etzioni sind sie ein Frühwarnsignal. Auch Geoffrey Hinton, Nobelpreisträger und oft als „Godfather of AI“ bezeichnet, warnt vor weiteren Angriffen durch KI-Systeme, die sich nicht mehr ausreichend kontrollieren lassen. Unternehmen sollten deshalb nicht nur über hypothetische Superintelligenz diskutieren, sondern erst einmal ihre ziemlich unsexy Hausaufgaben erledigen: Sicherheitslücken schließen, Zugriffsrechte begrenzen, KI-Agenten überwachen, kritische Aktionen durch Menschen freigeben lassen und Mitarbeiter gegen Phishing, Deepfakes und Social Engineering trainieren. Denn bisher entscheidet fast immer noch ein Mensch, ob KI Produktivität schafft, Industriespionage erleichtert oder den nächsten Millionenbetrug beschleunigt.

Das KI-Rennen braucht Leitplanken

Parallel jagen die Tech-Konzerne dem nächsten großen Ziel hinterher: Artificial General Intelligence, kurz AGI. Gemeint ist eine KI, die ähnlich flexibel denken und handeln könnte wie ein Mensch. Die aktuellen Vorfälle erhöhen den Druck, dieses Rennen nicht einfach mit Vollgas zu fahren. Mehr als 1.200 Beschäftigte führender KI-Unternehmen, darunter Anthropic-CEO Dario Amodei, unterzeichneten einen offenen Brief für staatliche Unterstützung bei einer kontrollierteren KI-Entwicklung. Gleichzeitig diskutierte das Weiße Haus mit großen KI-Unternehmen über mögliche Prüfungen bestimmter Modelle vor ihrer Veröffentlichung. Das klingt nach Bremsspur. Tatsächlich ist es bislang eher der Versuch, überhaupt ein Lenkrad einzubauen.

Skynet kann warten

Von einer KI, die selbstständig beschließt, die Welt zu übernehmen, sind wir nach Einschätzung vieler Experten weiterhin weit entfernt. IBM-Experte Fussell vergleicht Spekulationen über die Cyberrisiken einer echten AGI mit Überlegungen zum Leben auf einem fremden Planeten: Man kann viel vermuten, belastbar planen lässt sich dafür kaum. Die aktuelle Gefahr ist deutlich weniger filmreif – aber viel realer. KI braucht kein Bewusstsein, keinen eigenen Willen und keinen Terminator. Es reicht ein Mensch mit schlechten Absichten, einem brauchbaren Prompt und einer Internetverbindung.