Schutz vor Dick-Pics: Bumble stellt KI gegen Nudes zur freien Verfügung

Beim Online-Dating passiert es immer mal wieder, dass meist Frauen ungefragt Nacktbilder von ihrem Gegenüber geschickt bekommen. Mittlerweile gibt es extra Webseiten, über die man solche Vorfälle direkt bei der Polizei anzeigen kann. Bumble will die eigenen User:innen davor mit einem Filter schützen.

Mit Hilfe einer künstlichen Intelligenz werden Nudes im Chatverlauf zensiert. Wer die Nachricht erhält, kann dann entscheiden, ob das Nacktbild angezeigt werden oder gemeldet werden soll. Die künstliche Intelligenz wird dabei ständig mit neuem Material gefüttert, damit sie besser zwischen Genitalien und einem nackten Ellenbogen oder ähnlichem unterscheiden kann.

Damit das Problem zukünftig auch auf anderen Plattformen eingedämmt werden kann, stellt Bumble die Technologie „Private Detector“ auf Github zur freien Verfügung. Ob sich Apps wie Snapchat oder Tinder davon inspirieren lassen?