Productivity & New Work Strafverfolgung: Amazons Gesichtserkennungssoftware erntet Kritik

Strafverfolgung: Amazons Gesichtserkennungssoftware erntet Kritik

Gesichtserkennungssoftware spielt in der Strafverfolgung eine immer größere Rolle. Dass kommerzielle Services dafür nicht unbedingt geeignet sind und klarer Regelungen bedürfen, zeigt nun ein Test, den die Amerikanische Bürgerrechtsunion ACLU mit Amazons „Rekognition“-Software durchgeführt hat. Bei dem Tool handelt es sich um eine Deep-Learning-Software, mit der jeder Videos und Bilder analysieren lassen kann. Unternehmen können das Tool zum Beispiel in ihren Services implementieren, um für kleines Geld Personen, Objekte, Filme oder Musik zu erkennen.

Weil die Polizei in Orlando und Washington County die Technologie bereits zur Strafverfolgung einsetzt, hat die ACLU die Software getestet. Dafür wurden die Bilder aller aktuellen Abgeordneten des Repräsentantenhauses mit 25.000 öffentlichen Bildern von Festgenommenen abgeglichen. Ergebnis: Amazons „Rekognition“ hat nach Angaben der ACLU bei der Standardsucheinstellung auf den 535 Abgeordnetenfotos 28 Politiker mit Kriminellen verwechselt.

Bürgerrechtslegende John Lewis ist plötzlich kriminell

Brisant ist überdies, dass es sich bei fast 40 Prozent der falsch deklarierten Bilder um Schwarze handelte, darunter sogar der international bekannte Bürgerrechtler John Lewis. Ein Amazon-Sprecher sagte dem Spiegel, die Verwendung der Standardeinstellung sei der Fehler gewesen, denn diese sei eher gedacht für „Hotdogs, Stühle, Tiere oder andere Dinge in einem klassischen Social-Media-Kontext“.

Doch muss nicht das, was Amazon bei der Durchführung der ACLU kritisiert hat, auch konsequenterweise für Ermittlungsbehörden gelten? Wer entscheidet, welche Sucheinstellungen verwendet werden, wer ist für die Durchführung geschult und auf welche Datensätze darf zugegriffen werden? Der „Congressional Black Caucus“, ein Zusammenschluss der afro-amerikanischen Kongressmitglieder, hat nun jedenfalls einen offenen Brief an Jeff Bezos gerichtet, um Sorge darüber auszudrücken, welche Folgen der Amazon-Dienst in der Strafverfolgung für Schwarze, undokumentierte Immigranten oder Demonstranten haben könnte.

Das könnte dich auch interessieren

Diese 3 Phänomene sind der Grund für schlechte Teamarbeit Productivity & New Work
Diese 3 Phänomene sind der Grund für schlechte Teamarbeit
Studie: Von Gen Z bis Boomer – Hängt die Arbeitsmotivation wirklich mit der Generation zusammen? Productivity & New Work
Studie: Von Gen Z bis Boomer – Hängt die Arbeitsmotivation wirklich mit der Generation zusammen?
Auch Gründer:innen brauchen mal Urlaub Productivity & New Work
Auch Gründer:innen brauchen mal Urlaub
Moral, Politik und Wirtschaft: Bremsen Regularien die deutsche Wirtschaft im internationalen Wettrennen unnötig aus?  Productivity & New Work
Moral, Politik und Wirtschaft: Bremsen Regularien die deutsche Wirtschaft im internationalen Wettrennen unnötig aus? 
Linkedin ist Peak Cringe – und das ist auch gut so Productivity & New Work
Linkedin ist Peak Cringe – und das ist auch gut so