Strafverfolgung: Amazons Gesichtserkennungssoftware erntet Kritik

Gesichtserkennungssoftware spielt in der Strafverfolgung eine immer größere Rolle. Dass kommerzielle Services dafür nicht unbedingt geeignet sind und klarer Regelungen bedürfen, zeigt nun ein Test, den die Amerikanische Bürgerrechtsunion ACLU mit Amazons „Rekognition“-Software durchgeführt hat. Bei dem Tool handelt es sich um eine Deep-Learning-Software, mit der jeder Videos und Bilder analysieren lassen kann. Unternehmen können das Tool zum Beispiel in ihren Services implementieren, um für kleines Geld Personen, Objekte, Filme oder Musik zu erkennen.

Weil die Polizei in Orlando und Washington County die Technologie bereits zur Strafverfolgung einsetzt, hat die ACLU die Software getestet. Dafür wurden die Bilder aller aktuellen Abgeordneten des Repräsentantenhauses mit 25.000 öffentlichen Bildern von Festgenommenen abgeglichen. Ergebnis: Amazons „Rekognition“ hat nach Angaben der ACLU bei der Standardsucheinstellung auf den 535 Abgeordnetenfotos 28 Politiker mit Kriminellen verwechselt.

Bürgerrechtslegende John Lewis ist plötzlich kriminell

Brisant ist überdies, dass es sich bei fast 40 Prozent der falsch deklarierten Bilder um Schwarze handelte, darunter sogar der international bekannte Bürgerrechtler John Lewis. Ein Amazon-Sprecher sagte dem Spiegel, die Verwendung der Standardeinstellung sei der Fehler gewesen, denn diese sei eher gedacht für „Hotdogs, Stühle, Tiere oder andere Dinge in einem klassischen Social-Media-Kontext“.

Doch muss nicht das, was Amazon bei der Durchführung der ACLU kritisiert hat, auch konsequenterweise für Ermittlungsbehörden gelten? Wer entscheidet, welche Sucheinstellungen verwendet werden, wer ist für die Durchführung geschult und auf welche Datensätze darf zugegriffen werden? Der „Congressional Black Caucus“, ein Zusammenschluss der afro-amerikanischen Kongressmitglieder, hat nun jedenfalls einen offenen Brief an Jeff Bezos gerichtet, um Sorge darüber auszudrücken, welche Folgen der Amazon-Dienst in der Strafverfolgung für Schwarze, undokumentierte Immigranten oder Demonstranten haben könnte.