825 Millionen Euro Strafe für Autopilot-HR: Uber lernt Human in the Loop

Uber muss fast 825 Mio. Euro Strafe zahlen, weil ein Algorithmus über Fahrer-Existenzen entschied. Die DSGVO-Strafe zeigt, was automatisierte Entscheidungen Unternehmen wirklich kosten können.

KI-unterstützt · redaktionell geprüft

Ein Algorithmus entscheidet, ein Mensch verliert sein Einkommen, kaum jemand schaut hin: Genau das hat Uber jetzt fast 825 Mio. Euro gekostet.

Die niederländische Datenschutzbehörde Autoriteit Persoonsgegevens (AP) verhängte eine der höchsten bislang bekannten DSGVO-Geldbußen gegen den Fahrdienstvermittler, in aktuellen Übersichten auf Rang zwei direkt hinter der 1,2-Milliarden-Euro-Strafe gegen Meta aus dem Jahr 2023. Für Europas Plattformökonomie ist das mehr als eine Randnotiz: Es ist ein Präzedenzfall dafür, wie teuer automatisierte Entscheidungsfindung werden kann, wenn Menschenrechte auf der Strecke bleiben.

Wenn der Algorithmus zum Personalchef wird

Zwischen 2018 und 2022 ließ Uber Fahrer-Konten vollautomatisch sperren, sobald Betrugsverdacht bestand oder Kundenbewertungen dauerhaft zu niedrig ausfielen. Eine Software überwachte dafür laufend das Fahrverhalten und erfasste die Kundenbewertungen, auf dieser Datenbasis wurden dann die Sperren verhängt. Eine menschliche Prüfung fand laut Trendingtopics nicht statt. Die Konsequenz für Betroffene: von einem Tag auf den anderen kein Einkommen mehr, ohne Vorwarnung, ohne Widerspruchsmöglichkeit vor der Sperre. Genau das verstößt gegen Artikel 22 der DSGVO, der vollautomatisierte Entscheidungen mit erheblichen Folgen für Betroffene grundsätzlich untersagt. Grundsätzlich steht es Uber frei, Fahrer bei Betrugsverdacht oder schlechten Bewertungen zu sperren, doch das darf eben nicht vollständig automatisiert ohne menschliche Kontrolle geschehen.

Erschwerend kam laut AP hinzu, dass Uber die betroffenen Fahrer nicht ausreichend über die automatisierte Entscheidungsfindung informiert hatte, ein zusätzlicher Verstoß gegen die Transparenzpflichten der Verordnung. AP-Vizevorsitzende Monique Verdier wird deutlich: „Uber hat schwere Verstöße begangen“, erklärte sie laut Trendingtopics. Fahrer seien „ohne Pardon“ deaktiviert worden und hätten von einem Moment auf den anderen kein Einkommen mehr über die Plattform erzielen können. „Ein Computer sollte nicht eigenständig Entscheidungen treffen, die solch gravierende Konsequenzen für Menschen haben.“ Die Behörde wertet gerade den langen Zeitraum der Verstöße von vier Jahren als besonders schwerwiegend, ebenso wie die Tatsache, dass den Fahrern ihr Einkommen ohne jede Vorwarnung entzogen wurde. Immerhin: Die beanstandeten Praktiken sind inzwischen eingestellt, Uber zeigte sich in diesem Punkt einsichtig.

Frankreich klagt, die Niederlande übernehmen

Ausgelöst wurde das Verfahren durch 171 französische Fahrer, die sich über die Menschenrechtsorganisation Ligue des droits de l’Homme an die französische Datenschutzbehörde CNIL wandten.

Weil Uber seinen europäischen Hauptsitz in den Niederlanden hat, übernahm die AP das Verfahren über den One-Stop-Shop-Mechanismus der DSGVO und stimmte sich mit der CNIL sowie weiteren europäischen Behörden ab. Ein Lehrstück in EU-Regulierungsarchitektur: Ein nationales Beschwerdeverfahren wird zur europaweiten Sanktion, weil Konzerne ihre Zentralen strategisch in datenschutzfreundlicheren Ländern platzieren, sich dem Zugriff aber trotzdem nicht entziehen können.

Vier Strafen, eine Lernkurve, die nicht ankommt

Für Uber ist es bereits die vierte Geldbuße der niederländischen Behörde: 600.000 Euro im Jahr 2018, zehn Millionen Euro 2023, 290 Mio. Euro 2024. Die neue Summe von knapp 825 Mio. Euro sprengt die bisherige Dimension um ein Vielfaches. Die Bußgeldhöhe orientiert sich am weltweiten Jahresumsatz; die DSGVO erlaubt bis zu vier Prozent davon. Bei einem Uber-Umsatz von rund 44,5 Mrd.

Euro im Jahr 2025 bleibt selbst diese Rekordstrafe unter dem theoretischen Maximum. Im europäischen Vergleich reiht sich die Strafe damit direkt hinter Meta auf Platz zwei des DSGVO-Rankings ein, noch vor Bußgeldern gegen TikTok und LinkedIn, die allesamt im dreistelligen Millionenbereich liegen. Uber kündigte Berufung an und bezeichnet die Entscheidung als unverhältnismäßig. Das Unternehmen verweist auf menschliche Prüfungen und Einspruchsmöglichkeiten in seinen Prozessen. Gegen die beiden vorherigen Strafen von 2023 und 2024 laufen die Rechtsmittelverfahren bereits, ein Muster, das sich hier wiederholen dürfte. Wie lange die Berufung diesmal dauern wird, ist offen, angesichts der bisherigen Verfahrensdauer bei den kleineren Strafen dürfte sich die endgültige Klärung aber über Jahre hinziehen.

Business Punk Check

Vier Bußgelder, eine Wiederholungstäter-Bilanz: Uber hat aus den ersten drei Strafen offenkundig nichts gelernt, sonst gäbe es keine 825-Millionen-Euro-Rechnung. Für Plattformunternehmen mit Gig-Worker-Modellen ist das ein Weckruf, kein Einzelfall. Wer Algorithmen über Existenzen entscheiden lässt, ohne menschliche Kontrollinstanz, spielt nicht mit einem Bußgeldrisiko, sondern mit einem strukturellen Geschäftsmodellrisiko. Für Entscheider in datengetriebenen Unternehmen heißt das: Compliance-Investitionen in Human-in-the-Loop-Prozesse sind kein Kostenfaktor, sondern Versicherungsprämie. Wer jetzt noch auf vollautomatisierte HR- oder Kundenentscheidungen ohne Überprüfungsschicht setzt, wettet gegen eine Regulierungsbehörde, die ihre Zähne bereits gezeigt hat. Die eigentliche Frage für den Mittelstand: Wie viele Automatisierungsprojekte laufen gerade unbemerkt am Artikel 22 vorbei?

Auf einen Blick

• Die niederländische Datenschutzbehörde AP verhängte gegen Uber eine Geldbuße von 824,99 Mio. Euro wegen vollautomatisierter Fahrer-Sperrungen ohne menschliche Prüfung zwischen 2018 und 2022.
• In aktuellen Übersichten liegt sie auf Rang zwei der höchsten bekannten DSGVO-Geldbußen, hinter der 1,2-Milliarden-Euro-Strafe gegen Meta aus dem Jahr 2023.
• Ausgangspunkt waren Beschwerden von 171 französischen Fahrern, die über die CNIL an die niederländische AP im Rahmen des One-Stop-Shop-Mechanismus weitergeleitet wurden.
• Es ist bereits die vierte Geldbuße der AP gegen Uber nach 600.000 Euro (2018), zehn Millionen Euro (2023) und 290 Mio. Euro (2024); Uber hat Berufung angekündigt.

Quellen: Stadt Bremerhaven, Trendingtopics