Streit um Sicherheit: Deutscher Top-Manager kündigt Sam Altman seine Dienste

Jan Leike war bis eben Sicherheitschef bei ChatGPT. Er war dafür verantwortlich, dass die Künstliche Intelligenz nicht außer Rand und Band gerät. Weil er für sein Projekt nicht genügend Rechenleistung im Konzern zugeteilt bekommen hat, schmeißt er jetzt hin – mit warnenden Worten.

Schmutzige Wäsche wäscht man normalerweise zu Hause. Dies gilt jedoch nicht für OpenAI, das Unternehmen aus San Francisco, das ChatGPT entwickelt hat und damit der weltweit einflussreichste Konzern im Bereich der generativen künstlichen Intelligenz geworden ist.

Nach dem Rücktritt des ehemaligen wissenschaftlichen Direktors Ilya Sutskever – wegen offensichtlicher Unvereinbarkeit seiner Ideen mit denen von ChatGPT-Chef Sam Altman – verlässt jetzt auch der einzige deutsche Top-Manager das Unternehmen im Streit: Jan Leike. Die Personalien sind heikel: Sutskever und Leike waren nämlich die beiden Leiter des Projekts „Superalignment“ von OpenAI, das im Juli 2023 ins Leben gerufen wurde, um hochentwickelte künstliche Intelligenzsysteme sicher mit menschlichen Zielen und Werten in Einklang zu bringen. Das Forscherteam sollte effiziente Methoden entwickeln, um „künstliche Intelligenzsysteme, die viel intelligenter sind als Menschen“, unter Kontrolle zu halten. Zu diesem Zweck, so heißt es in dem Dokument, das den Zweck von „Superalignment“ beschreibt, plante OpenAI, 20 Prozent seiner verfügbaren Rechenleistung einzusetzen. Alles sa anfangs danach aus, dass Altman hier eine Initiative gestartet hatte, um verantwortlich mit der Technologie umzugehen. Dann aber lief nichts nach Plan.

„Ich war Leiter von OpenAIs Superalignment und diesen Job aufzugeben, ist eines der schwersten Dinge, die ich je getan habe“, schreibt Jan Leike in X, „denn wir müssen dringend herausfinden, wie wir KI-Systeme, die schlauer sind als wir, steuern und kontrollieren können. Ich bin zu OpenAI gekommen, weil ich dachte, es sei der beste Ort der Welt, um diese Art von Forschung zu betreiben“,  er hinzu, „Allerdings bin ich seit einiger Zeit mit den Prioritäten, die die Unternehmensführung setzt, nicht einverstanden. Ich bin der Meinung, dass ein Großteil unseres Könnens für Sicherheit, Überwachung, optimale Ausrichtung und die sozialen Auswirkungen der nächsten Generation von KI-Modellen verwendet werden sollte. Aber in den letzten Monaten musste mein Team darum kämpfen, die für diese wichtige Forschung benötigte Rechenleistung zu erhalten.“ Er schließt: „OpenAI hat eine Verantwortung gegenüber der Menschheit“, sagte Leike weiter, „aber in den letzten Jahren sind Kultur und Prozesse in Bezug auf Sicherheit hinter glänzenden Produkten zurückgeblieben.“

Jan Leikes Worte unterstreichen den Kurswechsel, den OpenAI, das 2015 als gemeinnütziges Forschungslabor gegründet wurde, seit der Öffnung von ChatGPT für die Öffentlichkeit vollzogen hat. Der Erfolg des Chatbots und jene bisher 13 Milliarden Dollar, die Microsoft investiert hat, haben OpenAI verändert: aus dem gemeinnützigen Unternehmen ist eines geworden, dass den Gewinn in den Vordergrund stellt. Fürsprecher dieses Wandels ist Sam Altman, der OpenAI seit 2019 leitet. Bereits im vergangenen Dezember war er vom Aufsichtsrat aus dem Vorstand des Unternehmens entlassen worden, weil das Gremium befürchtete, dass er die Kommerzialisierung von KI auf Kosten der Sicherheit vorantreibe. Das daraus entstandene Vakuum an der Spitze war jedoch nach nicht einmal einer Woche wieder gefüllt – Altman kehrte triumphierend zurück, im Aufsichtsgremium mussten seine Kritiker gehen. Auf Drängen der OpenAI-Mitarbeiter, die mit Massenkündigungen drohten, falls der CEO nicht zurückkehren würde, hatte Altman wieder seinen Posten aufnehmen können.

Auf die Kritik und den Abgang von Jan Leike reagieren Altman und seine rechte Hand Greg Brockman jetzt mit einem langen Post in den sozialen Medien, in dem sie – zusammengefasst – ihren Wunsch bekräftigten, KI-Modelle sicher zu entwickeln. „Wir wissen, dass wir uns nicht jedes mögliche Zukunftsszenario vorstellen können. Deshalb brauchen wir eine sehr enge Feedback-Schleife, strenge Tests, sorgfältige Überlegungen bei jedem Schritt, Sicherheit auf Weltklasseniveau und Ausgeglichenheit zwischen Sicherheit und Fähigkeiten“, heißt es in ihrer Erklärung. „Wir arbeiten auch weiterhin mit Regierungen und anderen Interessengruppen zusammen, um die Sicherheit zu gewährleisten. Es gibt keine bewährte Anleitung, wie man den Weg zur Allgemeinen Künstliche Intelligenz beschreitet. Wir glauben, dass empirische Erkenntnisse helfen können, den Weg zu ebnen. Wir glauben, dass wir sowohl die enormen Vorteile nutzen als auch die ernsthaften Risiken eindämmen können; Wir nehmen unsere Rolle sehr ernst und werten das Feedback auf unsere Maßnahmen sorgfältig aus.“

Jan Leike glaubt nicht daran:„Die Entwicklung von Maschinen, die intelligenter sind als Menschen, ist ein gefährliches Unterfangen.“ Schon im vergangenen Sommer hatte er gemeinsam mit Sutskever gewarnt: „Die enorme Macht der ‚Superintelligenz‘ könnte zu einer Entmachtung der Menschheit oder sogar zum Aussterben der Menschheit führen.“

Und weiter: „Derzeit haben wir keine Möglichkeit, eine potenziell superintelligente KI zu steuern oder zu kontrollieren und zu verhindern, dass sie eigene Wege geht.“ Was als Weckruf gemeint war, fasste Altman offenbar als Kampansage auf. Verlierer dieser Auseinandersetzung sind nun diejenigen, die ihre Bedenken in den Vordergrund gestellt haben.