2 Dollar pro Stunde für die Drecksarbeit bei ChatGPT

In den letzten Monaten konnte man sich kaum vor Berichten über ChatGPT retten. Klar, die Ergebnisse des Programms für Texterstellung sind verblüffend. Auf den ersten Blick ähneln sie dem Stil bestimmter Menschen extrem.

Schon heute wird das Tool an verschiedenen Stellen eingesetzt, um die Arbeit von Menschen zu erleichtern. Teile der kreativen Arbeit werden automatisiert. Eine Recherche des Magazins Time zeigt jetzt, dass die Ausbeutung von menschlicher Intelligenz diese Leistungen erst möglich macht.

Die Mutterfirma von ChatGPT, OpenAI, bezahlte eine Outsourcing-Firma dafür, dass sie ChatGPT beibrachte, welche Inhalte gefiltert werden müssen. Dafür müssen Beispiele für die unerwünschten Themen, Pornografie und Gewalt zum Beispiel, von Menschen gelabelt werden.

Weniger als zwei Dollar Stundenlohn

Das übernahmen Kenianer:innen. Und sie erhielten dafür nicht mal zwei Dollar in der Stunde. Weil der Job so traumatisierend war, wurde das Projekt schließlich abgebrochen.

Time hat für die Recherche hunderte interner Dokumente des beauftragten Crowdsourcing-Anbieters Sama augewertet. Und mit mehreren der Beteiligten gesprochen. Zu ihrem Schutz bleiben sie anonym.

Die Aussagen zu den Inhalten sind so schockierend, dass Time den Text mit einer Warnung versehen hat. Es handelt sich etwa um Textbeschreibungen von Rassismus und sexueller Gewalt.

Die Ergebnisse des Projekts wurden schlließlich Teil von ChatGPT. Das Programm hat einen eingebauten Filter, der unerwünschten Output verhindern soll.

Es wird immer Aufsicht brauchen – von Menschen

In der Vergangenheit hatten Chatbots nämlich immer wieder für Spott und Skandale gesorgt, weil sie beleidigende oder diskriminierende Antworten gaben. Das Beispiel ChatGPT zeigt: Auch wenn KI besser wird, braucht sie weiterhin menschliche Aufseher:innen.

Selbst wenn der Mechanismus zur Kontrolle jetzt fertig und in das Programm integriert ist: Es wird immer wieder Nachbesserungen brauchen. Was wir als schockierend erleben, verändert sich schließlich.

Dass man Mitarbeitende nicht so behandeln kann wie in diesem Fall, wird sich hoffentlich auch noch herumsprechen.