Streit um Sicherheit: Deutscher Top-Manager kündigt Sam Altman seine Dienste

Jan Leikes Worte unterstreichen den Kurswechsel, den OpenAI, das 2015 als gemeinnütziges Forschungslabor gegründet wurde, seit der Öffnung von ChatGPT für die Öffentlichkeit vollzogen hat. Der Erfolg des Chatbots und jene bisher 13 Milliarden Dollar, die Microsoft investiert hat, haben OpenAI verändert: aus dem gemeinnützigen Unternehmen ist eines geworden, dass den Gewinn in den Vordergrund stellt. Fürsprecher dieses Wandels ist Sam Altman, der OpenAI seit 2019 leitet. Bereits im vergangenen Dezember war er vom Aufsichtsrat aus dem Vorstand des Unternehmens entlassen worden, weil das Gremium befürchtete, dass er die Kommerzialisierung von KI auf Kosten der Sicherheit vorantreibe. Das daraus entstandene Vakuum an der Spitze war jedoch nach nicht einmal einer Woche wieder gefüllt – Altman kehrte triumphierend zurück, im Aufsichtsgremium mussten seine Kritiker gehen. Auf Drängen der OpenAI-Mitarbeiter, die mit Massenkündigungen drohten, falls der CEO nicht zurückkehren würde, hatte Altman wieder seinen Posten aufnehmen können.

Auf die Kritik und den Abgang von Jan Leike reagieren Altman und seine rechte Hand Greg Brockman jetzt mit einem langen Post in den sozialen Medien, in dem sie – zusammengefasst – ihren Wunsch bekräftigten, KI-Modelle sicher zu entwickeln. „Wir wissen, dass wir uns nicht jedes mögliche Zukunftsszenario vorstellen können. Deshalb brauchen wir eine sehr enge Feedback-Schleife, strenge Tests, sorgfältige Überlegungen bei jedem Schritt, Sicherheit auf Weltklasseniveau und Ausgeglichenheit zwischen Sicherheit und Fähigkeiten“, heißt es in ihrer Erklärung. „Wir arbeiten auch weiterhin mit Regierungen und anderen Interessengruppen zusammen, um die Sicherheit zu gewährleisten. Es gibt keine bewährte Anleitung, wie man den Weg zur Allgemeinen Künstliche Intelligenz beschreitet. Wir glauben, dass empirische Erkenntnisse helfen können, den Weg zu ebnen. Wir glauben, dass wir sowohl die enormen Vorteile nutzen als auch die ernsthaften Risiken eindämmen können; Wir nehmen unsere Rolle sehr ernst und werten das Feedback auf unsere Maßnahmen sorgfältig aus.“

Jan Leike glaubt nicht daran:„Die Entwicklung von Maschinen, die intelligenter sind als Menschen, ist ein gefährliches Unterfangen.“ Schon im vergangenen Sommer hatte er gemeinsam mit Sutskever gewarnt: „Die enorme Macht der ‚Superintelligenz‘ könnte zu einer Entmachtung der Menschheit oder sogar zum Aussterben der Menschheit führen.“

Und weiter: „Derzeit haben wir keine Möglichkeit, eine potenziell superintelligente KI zu steuern oder zu kontrollieren und zu verhindern, dass sie eigene Wege geht.“ Was als Weckruf gemeint war, fasste Altman offenbar als Kampansage auf. Verlierer dieser Auseinandersetzung sind nun diejenigen, die ihre Bedenken in den Vordergrund gestellt haben.