Google-Insider warnt: Wann ChatGPT & Co. zum Sicherheitsrisiko werden

KI-Chatbots werden zu digitalen Vertrauten, doch die Nähe birgt Risiken. Ein Google-Sicherheitsexperte warnt: Was du ChatGPT anvertraust, könnte morgen in fremden Händen landen.

Der tägliche Chat mit KI-Assistenten gehört für viele längst zur digitalen Routine – vom schnellen Brainstorming bis zur Programmier-Hilfe. Doch während die Systeme immer menschenähnlicher werden, wächst auch ihre Gefährlichkeit als Datenschleudern. Besonders jüngere Nutzer entwickeln eine beunruhigende emotionale Bindung: In Großbritannien können sich laut „t3n“ bereits 32 Prozent der Elf- bis 15-Jährigen eine Freundschaft mit einer KI vorstellen. Weitere 53 Prozent ziehen die Online-Welt der Realität vor – ein Trend, der Sicherheitsexperten alarmiert.

Digitale Vertraute mit Gedächtnis

Harsh Varshney kennt beide Seiten der KI-Medaille. Als Software-Entwickler im KI-Sicherheitsteam von Google Chrome schützt er Nutzer vor Bedrohungen wie KI-gestützten Phishing-Kampagnen. Gleichzeitig nutzt er selbst täglich Chatbots für Recherchen und Programmieraufgaben. „Manchmal kann ein falsches Gefühl der Vertrautheit mit KI dazu führen, dass Menschen online Informationen weitergeben, die sie sonst niemals preisgeben würden“, warnt Varshney im Gespräch mit „t3n“.

Das Problem: Die meisten KI-Systeme speichern Nutzerdaten und verwenden sie zum Training zukünftiger Modelle. Eine Studie des Stanford Institute for Human-Centered AI, über die „it-boltwise“ berichtet, belegt: Alle untersuchten Anbieter nutzen Nutzerdaten standardmäßig zur Modellverbesserung, einige speichern sie sogar unbegrenzt. Dies kann zu „Trainingslecks“ führen – wenn persönliche Informationen eines Nutzers plötzlich in Antworten an andere auftauchen.

Die Postkarten-Regel für KI-Kommunikation

„Stellen Sie sich das wie ein Gespräch in einem überfüllten Café vor, bei dem Sie belauscht werden könnten“, erklärt der Google-Entwickler weiter. Seine Faustregel: Behandle KI-Chatbots wie eine offene Postkarte. Was du nicht auf einer Postkarte schreiben würdest, die jeder lesen kann, solltest du auch keinem Chatbot anvertrauen.

Besonders kritisch sind persönlich identifizierbare Informationen wie Kreditkartendaten, Sozialversicherungsnummern oder medizinische Details. Für Unternehmen gilt das gleiche Prinzip bei Geschäftsgeheimnissen oder unveröffentlichten Projekten. Varshney empfiehlt stattdessen kostenpflichtige Enterprise-Lösungen, bei denen Gespräche nicht zum Training verwendet werden.

Digitale Hygiene für KI-Nutzer

Selbst bei vermeintlich sicheren Enterprise-Lösungen bleibt Vorsicht geboten. Varshney erlebte selbst einen Schreckmoment, als ein Gemini-Chatbot plötzlich seine Adresse kannte – die Information stammte aus einer E-Mail, bei deren Überarbeitung er den Bot zuvor um Hilfe gebeten hatte. Das Langzeitgedächtnis moderner KI-Systeme speichert solche Details und kann sie später ungefragt reproduzieren.

Der Sicherheitsexperte rät daher zu regelmäßiger digitaler Hygiene: Chatverläufe löschen, Datenschutzeinstellungen prüfen und die Option „Modell für alle verbessern“ deaktivieren. Für besonders sensible Anfragen empfiehlt er temporäre Chats oder Inkognito-Modi, wie sie ChatGPT und Gemini anbieten. „Cyberkriminalität kostet jeden Deutschen durchschnittlich 82 Euro pro Jahr“, warnt „Business Insider“ – ein Preis, der mit einfachen Vorsichtsmaßnahmen vermeidbar wäre.

Business Punk Check

Die KI-Romantik hat einen hässlichen Haken: Während Tech-CEOs von KI-Freundschaften schwärmen, schaffen sie gleichzeitig die perfekte Datenschleuder. Der wahre Skandal? Die meisten Nutzer haben keine Ahnung, dass ihre intimen Chatbot-Gespräche in den Trainingsdaten landen. Enterprise-Lösungen bieten nur Scheinsicherheit – selbst Google-Experten erleben Datenschutz-Überraschungen. Die harte Wahrheit: Jeder KI-Chat ist ein potenzielles Datenleck.

Die Branche verkauft emotionale Bindung als Feature, während sie gleichzeitig die größte Privatsphäre-Falle der Digitalgeschichte aufbaut. Wer wirklich sicher gehen will, muss radikal umdenken: Nicht was technisch möglich ist, sondern was du bereit bist zu verlieren, sollte deine KI-Nutzung bestimmen. Die klügste Strategie bleibt die Postkarten-Regel: Schreibe nichts, was du nicht auch öffentlich posten würdest.

Häufig gestellte Fragen

• Welche Daten sollte man niemals mit einem KI-Chatbot teilen?
  Teile niemals persönlich identifizierbare Informationen wie Kreditkartendaten, Sozialversicherungsnummern, Adressen oder medizinische Details mit öffentlichen Chatbots. Auch Geschäftsgeheimnisse, unveröffentlichte Projekte oder vertrauliche Unternehmensinformationen gehören nicht in KI-Chats. Nutze für sensible berufliche Anfragen ausschließlich Enterprise-Lösungen mit klaren Datenschutzgarantien.
• Wie kann man KI-Chatbots sicherer nutzen?
  Aktiviere in den Einstellungen die Option „Gespräche nicht zum Training verwenden“ (bei ChatGPT unter Datenschutz). Lösche regelmäßig deinen Chatverlauf, nutze für sensible Anfragen temporäre Chats oder Inkognito-Modi. Überprüfe die Datenschutzrichtlinien der genutzten Dienste und beschränke dich auf etablierte Anbieter wie OpenAI, Google oder Anthropic, die zumindest grundlegende Sicherheitsstandards bieten.
• Sind Enterprise-Versionen von KI-Chatbots wirklich sicherer?
  Enterprise-Lösungen bieten besseren, aber keinen perfekten Schutz. Sie speichern Gespräche in der Regel nicht für Trainingszwecke, aber das Langzeitgedächtnis der Modelle bleibt aktiv. Selbst Google-Experten erlebten Überraschungen, wenn Chatbots plötzlich persönliche Daten aus früheren Gesprächen reproduzierten. Die Grundregel bleibt: Teile auch mit Enterprise-KIs nur Informationen, deren Verlust du verschmerzen könntest.
• Wie entwickelt sich der Trend zur emotionalen Bindung an KI-Systeme?
  Die emotionale Bindung an KI-Systeme nimmt besonders bei jüngeren Nutzern besorgniserregend zu. Bereits 32% der britischen Jugendlichen können sich eine Freundschaft mit KI vorstellen. Diese Entwicklung wird die Bereitschaft erhöhen, intime Details preiszugeben. Unternehmen müssen daher strengere ethische Leitlinien entwickeln, die besonders vulnerable Nutzergruppen schützen und transparenter über Datennutzung informieren.
• Welche regulatorischen Entwicklungen sind für KI-Datenschutz zu erwarten?
  In den nächsten 12-18 Monaten werden verschärfte Regulierungen für KI-Datenschutz kommen, besonders in der EU mit dem AI Act. Nutzer werden mehr Kontrolle über ihre Daten erhalten und KI-Unternehmen müssen transparenter über Datennutzung informieren. Gleichzeitig werden wir einen Markt für „Privacy-First“-KI-Tools sehen, die Datenschutz als Kernfeature anbieten und damit besonders sicherheitsbewusste Nutzer und Unternehmen ansprechen.

Quellen: „t3n“, „Business Insider“, „it-boltwise“, „hv-bayern“