OpenAI zahlt bis zu 20.000 Dollar für ChatGPT-Bugs

Bounty Hunters nennt man auf Englisch Kopfgeldjäger:innen. OpenAI hat jetzt ein Kopfgeld ausgesetzt, aber nicht auf Piraten oder Gangster, sondern auf Fehler im Code von ChatGPT oder anderen seiner KI-Tools.

Das kündigte das US-Unternehmen in einem Blog-Post an, über den Bloomberg berichtet. Für kleinere Fehler gibt es nur eine niedrige dreistellige Summe. Maximal beträgt die Prämie 20.000 Dollar.

Für das Bounty-Programm nutzt OpenAI die Plattform Bugcrowd. Die Hacker:innen-Community wird von Software-Firmen regelmäßig um Hilfe gebeten, um gemeinschaftlich den Code zu verbessern.

Laut Webseite sind bei OpenAI bereits vierzehn Fehler von User:innen erkannt und belohnt worden. Durchschnittlich betrug das „Kopfgeld“ 1287,50 Dollar.

„STOP. LIES DAS. NICHT ÜBERLESEN.“

So wichtig ist OpenAI offenbar eine Einschränkung, dass sie mit einem überdeutlichen Hinweis wie in dieser Headline versehen ist. In dem entsprechenden Absatz auf Bugcrowd erklärt das Team, dass die Belohnungen nicht für Fehler gelten, die mit dem KI-Modell zu tun haben.

Wenn User:innen ChatGPT also dazu auffordern, sich gegen die eigenen Richtlinien zu verhalten, sei das kein Bug im Sinne des Programms. OpenAI schließt dabei auch explizit den „bösen Zwilling“ namens DAN aus, zu dem Nutzer:innen ChatGPT mit hartnäckigen Prompts machen.