Autonome Hacker-KI: Google entdeckt Angriffe ohne Menschen
Googles Sicherheitsteam hat erstmals ein KI-Framework entdeckt, das Lücken findet, Exploits schreibt und Angriffe komplett ohne Menschen ausführt.
Ein offener Server mit dem Namen „exploit_agent“ hat Googles Threat Intelligence Group (GTIG) auf eine neue Stufe der Cyberkriminalität gestoßen. Laut dem GTIG AI Threat Tracker handelt es sich um ein Framework, das mehrere Sprachmodelle kombiniert, um Software-Versionen vor und nach Sicherheitspatches automatisch zu vergleichen.
Erkennt das System daraus eine Schwachstelle, schreibt es selbstständig passenden Angriffscode und führt ihn aus, wie The Decoder berichtet. Nach Angaben der GTIG ist dies das erste Mal, dass ein vollständig autonomer Fund-und-Ausnutzungs-Zyklus beobachtet wurde, bei dem kein Mensch mehr eingreifen musste. Für Verteidiger bedeutet das einen Bruch mit der bisherigen Annahme, dass zwischen dem Bekanntwerden eines Patches und seiner Ausnutzung durch Angreifer immer noch ein Zeitfenster mit menschlicher Vorbereitung liegt.
Ziel waren französische Seiten
Die auf dem Server gefundenen Telemetriedaten deuten laut heise darauf hin, dass sich die Angriffe vor allem gegen französische Websites aus Medien, Unterhaltung und Bildung richteten. Bei den dokumentierten Fällen wurden Daten von den betroffenen Seiten abgezogen. Russischsprachige Kommentare in den Konfigurationsdateien legen laut The Decoder nahe, woher der Betreiber stammen könnte, auch wenn sich daraus keine gesicherte Zuordnung ableiten lässt.
Neben dem reinen Einbruch fand GTIG auf dem Server weitere Skripte für automatisierte Folgeschritte: interne Erkundung, Brute-Force-Versuche, das Platzieren eigener Webshells und das gezielte Entfernen fremder Webshells, wie heise schreibt. Diese Bandbreite zeigt, dass „exploit_agent“ nicht nur Zugang verschaffen, sondern auch die Spuren konkurrierender Angreifer beseitigen sollte, um die Kontrolle über kompromittierte Systeme zu behalten.
Tempo gegen Tarnung getauscht
Interessant ist die Einordnung von GTIG selbst: Die Automatisierung bringt den Angreifern zwar Geschwindigkeit, kostet aber Tarnung. Laut The Decoder hinterlassen die autonomen Attacken auffällige forensische Spuren, die eine Entdeckung gerade erleichtern.
Das relativiert die Dramatik etwas, denn perfekte, unsichtbare KI-Angriffe sind das noch nicht. Gleichzeitig beobachtet GTIG laut heise, dass auch andere Kriminelle versuchen, ihre Angriffe mit frei verfügbaren Pentesting-Werkzeugen zu automatisieren. Staatliche Akteure aus Nordkorea nutzen demnach ebenfalls generative KI-Tools, um ihre Operationen zu skalieren, heißt es im Bericht. GTIG geht davon aus, dass sich dieser Trend fortsetzt, weil die technischen Hürden für den Einsatz solcher Frameworks sinken, während ihr Nutzen für Angreifer steigt.
Skalierung als eigentliches Risiko
Die GTIG selbst sieht in der niedrigen Einstiegshürde das zentrale Problem. Im Bericht heißt es laut heise sinngemäß, dass die einfache Integration neuer Exploits und das enorme Skalierungspotenzial dafür sprächen, dass Angreifer solche Frameworks künftig verstärkt in weltweiten Kampagnen einsetzen. Für Unternehmen bedeutet das: Patch-Zyklen, die bislang Tage oder Wochen dauerten, könnten künftig von Maschinen ausgenutzt werden, bevor IT-Teams überhaupt reagieren.
Die bisher dokumentierten Fälle betreffen zwar eine überschaubare Opfergruppe, der strukturelle Wandel aber liegt in der Architektur: Ein Framework, das Schwachstellenforschung und Angriff in einem automatisierten Prozess verschmilzt, verändert die Kosten-Nutzen-Rechnung von Cyberkriminalität grundlegend. Wo bisher spezialisiertes Wissen und manuelle Arbeit nötig waren, reicht künftig möglicherweise ein funktionierendes Sprachmodell mit Zugriff auf die richtigen Werkzeuge.
Quellen: Heise, The Decoder, KI-unterstützt