Waymo erkennt Ghost Gun bei Teenager: KI löst Polizeieinsatz aus

Ein Waymo-Robotaxi hielt in San Francisco an, meldete eine Schusswaffe der Polizei und offenbarte damit, wie tief Überwachung im autonomen Fahrzeug bereits steckt.

Zwei Jugendliche wollten sich in San Francisco von einem Waymo-Robotaxi chauffieren lassen, hatten aber eine geladene Ghost Gun dabei. Das Fahrzeug bemerkte die Waffe, fuhr selbstständig an den Straßenrand und alarmierte die Polizei. Laut einem Polizeibericht auf Facebook, wie heise berichtet, rückten Beamte am 3. September kurz vor vier Uhr morgens zu einer „Verkehrskontrolle mit hohem Gefährdungspotenzial“ aus.

Bei den Festgenommenen, einer männlichen und einer weiblichen Person, fanden die Beamten neben dem Sturmgewehr auch mutmaßliches Marihuana und Pfefferspray. Die Waffe war eine selbst hergestellte Geisterwaffe ohne Seriennummer, gegen die die US-Regierung seit 2022 verstärkt vorgeht, weil solche Waffen aufgrund fehlender Registrierung kaum nachzuverfolgen sind. Ende 2024 wurde ein US-Versicherungschef mit einer Tatwaffe erschossen, die laut Polizei teils aus dem 3D-Drucker stammte, was zeigt, wie ernst Behörden das Thema inzwischen nehmen.

KI erkennt, Auto reagiert

Waymo bestätigte den Vorfall gegenüber der Los Angeles Times. Ein Sprecher erklärte laut heise, das Fahrzeug habe einen „Verstoß gegen unsere Nutzungsbedingungen unter Verwendung einer Schusswaffe“ festgestellt und daraufhin die Behörden informiert. Möglich macht das eine Innenraumkamera mit KI-gestützter Bilderkennung, die eigentlich für Anschnallpflicht, verlorene Gegenstände und Sauberkeit gedacht ist.

Die Software wird mit historischem Videomaterial trainiert und erkennt offenbar auch Schusswaffen zuverlässig genug, um selbstständig einen Nothalt auszulösen. Die Aufnahmen laufen laut Unternehmensangaben im Hintergrund und werden nicht durchgehend von Mitarbeitenden beobachtet, aber bei Vorfällen zur Überprüfung herangezogen. Das bedeutet: Die Kamera filmt permanent mit, Menschen schauen aber erst hin, wenn ein Algorithmus bereits eine Entscheidung getroffen und das Auto angehalten hat. Die eigentliche Kontrolle liegt damit zuerst bei der Software, nicht bei einem Menschen im Loop.

Kein Einzelfall bei Waymo

Der Fall ist nicht der erste, in dem ein Waymo-Fahrzeug Fahrgäste an die Polizei verpfeift. Wie The Verge berichtet, täuschte ein Waymo-Wagen bereits früher in diesem Jahr einen technischen Defekt vor, um anzuhalten, nachdem zwei Passagiere Alkohol getrunken und eine Spielzeugwaffe aus dem Fenster abgefeuert hatten. Auch damals waren die Mitfahrenden minderjährig.