Das Ende der Ausrede: Google haftet für KI-generierte Falschinformationen

Das Landgericht München I stuft Google erstmals als unmittelbaren Störer für KI-generierte Antworten ein. Die bisherige Haftungsfreiheit für Suchmaschinen gilt nicht mehr, wenn die KI eigene Texte verfasst statt nur zu verlinken.

Google hat ein Problem. Und zwar ein fundamentales. Das Landgericht München I hat dem Konzern per einstweiliger Verfügung untersagt, in seinen AI Overviews – den KI-Zusammenfassungen über den normalen Suchergebnissen – falsche Behauptungen über zwei Münchner Verlage zu verbreiten. Androhung: bis zu 250.000 Euro Ordnungsgeld. Das klingt nach einem gewöhnlichen Rechtsstreit, ist aber ein Dammbruch. Denn erstmals stuft ein deutsches Gericht Google nicht als neutralen Vermittler ein, sondern als Publisher, der für seine Inhalte haftet.

Was war passiert? Die KI hatte bei Suchanfragen zwei Verlagsunternehmen mit Betrugsmaschen, Abo-Fallen und unseriösen Geschäftspraktiken in Verbindung gebracht. Das Perfide: Keine dieser Aussagen stand in den verlinkten Quellen. Die KI hatte Informationen über tatsächlich dubiose Firmen mit den Klägern vermischt und Zusammenhänge konstruiert, die nicht existierten, wie The Decoder berichtet. Ein klassischer Fall von KI-Halluzination – mit handfesten juristischen Folgen.

KI-Übersicht ist kein Suchergebnis

Die Begründung des Gerichts hat es in sich. Die AI Overviews unterscheiden sich laut Urteil grundlegend von klassischen Suchergebnissen. Die KI fasse Ergebnisse „in eigenen Worten und nach einer eigenen Gliederung zusammengefasst und ausgewertet“ zusammen. Entscheidend sei, dass die KI-Übersicht Aussagen enthalte, „die in den Suchergebnissen gar nicht getroffen werden“. Es handele sich um „eigene, von der Verfügungsbeklagten selbst aufgestellte“ Aussagen, so Trending Topics. Google versuchte sich mit dem üblichen Argument herauszuwinden: Man zeige nur automatisiert Informationen von Webseiten Dritter, hafte daher allenfalls als Vermittler.

Das Gericht folgte dem nicht. Wer eigenständig Texte generiert statt nur zu verlinken, ist kein neutraler Intermediär mehr. Die komfortable Haftungsprivilegierung nach dem Digital Services Act greift nicht. Auch Googles zweite Verteidigungslinie brach zusammen. Der Konzern argumentierte, Nutzer könnten anhand der verlinkten Quellen selbst überprüfen, ob die KI-Zusammenfassung korrekt sei. Die Richter konterten trocken: Wenn Nutzer jede Aussage ohnehin nachprüfen müssten, wäre der praktische Nutzen der Funktion „weitgehend dahin“. Zudem sei Google eine Kontrolle durchaus zumutbar – zumindest durch Abgleich der KI-Aussagen mit den herangezogenen Quellen.

Die Zahlen sprechen gegen Google

Die technische Realität gibt dem Gericht recht. Eine Analyse des KI-Start-ups Oumi im Auftrag der New York Times zeigte: Googles AI Overviews antworten mit dem Gemini-3-Modell in 91 Prozent der Fälle korrekt. Klingt solide – bedeutet bei Googles Skalierung aber Millionen falscher Antworten täglich. Noch brisanter: 56 Prozent der korrekten Antworten waren nicht durch die verlinkten Quellen belegbar [The Decoder].

Die KI erfindet Fakten, deren Herkunft sich nicht nachvollziehen lässt. Bemerkenswert ist die grundrechtliche Einordnung: KI-generierte Äußerungen seien „Ausdruck eines Algorithmus und nicht einer gewonnenen Überzeugung“ – und genießen damit schwächeren Schutz als menschliche Meinungsäußerungen, wie Trending Topics berichtet. Das Angebot der KI-Recherche sei „vor allem Ausdruck der geschäftlichen Betätigung“ von Google.

Business Punk Check

Jetzt wird es unbequem für Big Tech. Das Münchner Urteil ist zwar nur eine einstweilige Verfügung eines Landgerichts, aber es markiert eine Zäsur. Google steht vor einem strukturellen Dilemma: Entweder die KI-Antworten werden faktisch korrekt – was bei der Halluzinations-Neigung aktueller Modelle unmöglich ist. Oder sie werden eng an Quellen gebunden – was den Mehrwert für Nutzer killt und paradoxerweise jenen Publishern hilft, die gerade über Trafficverluste klagen.

Die Logik des Urteils lässt sich problemlos auf ChatGPT, Gemini und Claude übertragen. Wer eigenständig Content generiert, haftet dafür. Für Google bedeutet das: Entweder massive Investitionen in Qualitätssicherung oder das Eingeständnis, dass AI Overviews in der jetzigen Form nicht tragfähig sind. Die goldene Ära der Haftungsfreiheit für Tech-Plattformen neigt sich dem Ende zu. Und das ist auch gut so.

Quellen: The Decoder, Trending Topics, Trending Topics (DE), BILD