Unkontrollierte KI-Tools: Warum Unternehmen ein Risiko eingehen

Microsoft und Gartner schlagen Alarm: Mitarbeiter nutzen massenhaft KI-Tools ohne Genehmigung. Nur 47 Prozent der Unternehmen haben Sicherheitskontrollen – während Hacker längst Memory Poisoning einsetzen.

In 80 Prozent der Fortune-500-Konzerne werkeln KI-Agenten beim Programmieren mit – doch kaum jemand in der Führungsetage weiß davon. Microsofts aktueller Cyber Pulse Report zur Münchner Sicherheitskonferenz deckt auf: Die meisten Firmen haben null Kontrolle über ihre KI-Landschaft. Was Mitarbeiter da an autonomen Helferlein aus dem Netz ziehen, um schneller zu coden oder Aufgaben zu erledigen, entzieht sich jeder Überwachung. Das Ergebnis: blinde Flecken, durch die Angreifer spazieren können.

Wenn niemand weiß, was läuft

Schatten-KI nennt sich das Phänomen, wenn Beschäftigte eigenmächtig KI-Anwendungen nutzen, ohne IT oder Security einzuweihen. Laut Heise fehlt fast der Hälfte aller Unternehmen (47 Prozent) eine dedizierte Sicherheitsarchitektur für generative KI. Parallel dazu setzen 29 Prozent der Angestellten bereits nicht autorisierte KI-Agenten ein. Diese Diskrepanz zwischen rasanter Verbreitung und fehlenden Schutzmaßnahmen öffnet Angriffsflächen, die vorher nicht existierten.

Das Problem verschärft sich durch No-Code-Plattformen: Auch technisch weniger versierte Mitarbeiter bauen sich ihre eigenen KI-Helfer zusammen. Gartner stuft die Überwachung autonomer KI-Systeme deshalb als wichtigsten Cybersecurity-Trend 2026 ein. Die Herausforderung: Sicherheitsteams müssen sowohl genehmigte als auch wilde Agenten aufspüren und kontrollieren – eine Aufgabe, für die vielen schlicht die Ressourcen fehlen.

Memory Poisoning ist keine Theorie mehr

Microsoft warnt nicht vor abstrakten Gefahren. Das Defender-Team hat kürzlich eine Angriffskampagne dokumentiert, bei der Kriminelle Memory Poisoning nutzten – eine Technik, die den Speicher von KI-Assistenten dauerhaft manipuliert und damit deren Ausgaben verfälscht. Solche Agenten mit zu weitreichenden Zugriffsrechten werden zu unfreiwilligen Doppelagenten. Wer KI-Tools überstürzt ausrollt, hebelt bestehende Compliance- und Sicherheitskontrollen aus, so Ad Hoc News.

Während Unternehmen KI zur Abwehr einsetzen, nutzen Cyberkriminelle dieselbe Technologie für Angriffe. KI-gestützte Phishing-Kampagnen laufen automatisiert und in Massen. Das digitale Wettrüsten eskaliert – doch 50 Prozent der Firmen kämpfen mit Fachkräftemangel, 46 Prozent mit veralteten IT-Systemen. Obwohl 99 Prozent der Sicherheitsverantwortlichen angeben, KI beeinflusse ihre Strategie, wird das konkrete Risiko unterschätzt.

Politik reagiert auf öffentliche Angst

Der Munich Security Index 2026 zeigt: Deutsche fürchten Cyberangriffe mehr als Handelskriege oder Klimawandel. Diese Sorge trifft auf regulatorischen Druck. Die EU-Kommission verschärft mit der Überarbeitung des Cybersecurity Act die Regeln für die gesamte digitale Lieferkette. Unternehmen müssen sich also gleichzeitig gegen intelligentere Angriffe wappnen und komplexere Compliance-Anforderungen erfüllen.

Microsofts Report empfiehlt konkrete Gegenmaßnahmen: KI-Agenten sollten nur auf zwingend notwendige Daten zugreifen dürfen. Ein zentrales Register muss erfassen, welche Agenten existieren, wem sie gehören und auf welche Systeme sie zugreifen. Nicht genehmigte Tools müssen identifiziert und isoliert werden. Ohne solche Governance-Strukturen werden Effizienz-Tools zur größten internen Bedrohung.