Exodus bei OpenAI: Sicherheitsexperten verlassen KI-Vorreiter

In der Welt der künstlichen Intelligenz brodelt es: OpenAI, das Unternehmen hinter dem populären ChatGPT, steht vor massiven internen Herausforderungen. Inmitten wachsender Bedenken über die Entwicklung einer künstlichen Superintelligenz (AGI) verlässt nahezu die Hälfte des Sicherheitsteams das Unternehmen.

Superalignment-Team in Auflösung

Das sogenannte Superalignment-Team, das 2023 ins Leben gerufen wurde, um die Risiken superintelligenter KI-Systeme zu minimieren, befindet sich in einer existenziellen Krise. Laut Daniel Kokotajlo, einem ehemaligen Mitarbeiter, haben etwa 14 Teammitglieder gekündigt. Übrig geblieben ist ein Rumpfteam von 16 Personen.

Der Grund für diesen Exodus? OpenAI’s unbeirrbares Streben nach Artificial General Intelligence (AGI) – einer KI, die menschliche Fähigkeiten in den meisten Bereichen übertreffen soll. Kritiker, darunter ehemalige Mitarbeiter, warnen vor den potenziellen Gefahren dieser Technologie. Sie befürchten „beispiellose Cyberangriffe“ oder sogar die Unterstützung bei der „Entwicklung biologischer Waffen“.

Insider wie Daniel Kokotajlo werfen OpenAI vor, Profite über die Sicherheit zu stellen. Besonders brisant: Versuche des Sicherheitsteams, Forschungsergebnisse zu AGI-Risiken zu veröffentlichen, stießen offenbar auf Widerstand seitens der Unternehmensführung.