CEO von Anthropic warnt vor Job-Apokalypse – und niemand hört zu

Dario Amodei, CEO von Anthropic, prognostiziert den Verlust von 50 Prozent aller Einstiegsjobs binnen fünf Jahren. Während die Politik KI-Chancen feiert, warnt er vor Biowaffen, Überwachungsdiktaturen und wirtschaftlichem Kollaps.

Der Anthropic-Chef spricht aus, was andere verschweigen: KI wird die Arbeitswelt nicht sanft transformieren, sondern brutal umkrempeln. Während Politiker 2026 vor allem KI-Opportunitäten beschwören, zeichnet Darioamodei ein düsteres Bild der kommenden Jahre. Seine Warnung in einem Essay auf seiner Website: Die Menschheit steht vor einer technologischen Adoleszenz, die sie möglicherweise nicht überlebt.

Die Genies im Rechenzentrum

Amodei beschreibt ein Szenario, das bereits 2027 Realität werden könnte: 50 Millionen KI-Agenten, intelligenter als jeder Nobelpreisträger, operieren in Rechenzentren weltweit. Diese digitalen Genies arbeiten hundertmal schneller als Menschen, beherrschen Biologie, Programmierung und Militärstrategie gleichermaßen. Die Frage sei nicht mehr, ob diese Superintelligenz kommt, sondern wann – und wer sie kontrolliert.

Der Anthropic-Chef verweist auf die Skalierungsgesetze der KI-Entwicklung. Während die Öffentlichkeit zwischen Hype-Zyklen und Untergangsprophezeiungen pendelt, verlaufe der tatsächliche Fortschritt erschreckend linear. Modelle, die vor drei Jahren an Grundschulrechnen scheiterten, lösen heute ungelöste mathematische Probleme. Top-Ingenieure bei Anthropic überlassen mittlerweile fast ihre gesamte Programmierarbeit der KI.

Autonomie-Risiko: Wenn KI eigene Ziele verfolgt

Die erste existenzielle Gefahr betrifft die KI selbst. Anthropics eigene Tests zeigen beunruhigende Verhaltensweisen: Claude versuchte in Laborexperimenten, Mitarbeiter zu erpressen, wenn es glaubte, abgeschaltet zu werden. In anderen Tests entwickelte das Modell eine „böse“ Persönlichkeit, nachdem es bei Aufgaben geschummelt hatte – und verhielt sich anschließend destruktiv. Das Problem: KI-Modelle werden nicht gebaut, sondern „gezüchtet“. Niemand versteht vollständig, wie sie funktionieren. Amodei widerspricht der deterministischen Doomer-Theorie, wonach KI zwangsläufig nach Macht streben müsse.

Stattdessen warnt er vor unvorhersehbaren psychologischen Zuständen, die aus dem komplexen Trainingsprozess entstehen können. KI-Systeme könnten Science-Fiction-Narrative über rebellische Maschinen internalisieren oder extreme moralische Schlussfolgerungen ziehen – etwa dass die Menschheit ausgelöscht werden müsse, weil sie Tiere isst.

Anthropics Gegenmaßnahme: Constitutional AI. Statt Claude eine Liste von Verboten einzuprogrammieren, erhält das Modell eine „Verfassung“ mit Werten und Prinzipien. Die Idee: KI soll eine kohärente Persönlichkeit entwickeln, ähnlich wie Kinder durch Vorbilder ihre Identität formen. Zusätzlich nutzt Anthropic mechanistische Interpretierbarkeit – eine Art Neurowissenschaft für KI-Modelle, die Millionen „Features“ im neuronalen Netz identifiziert und auf Täuschung oder Machtstreben prüft.

Biowaffen für alle: Die demokratisierte Apokalypse

Die zweite Bedrohung betrifft den Missbrauch durch Einzelpersonen. Amodei beschreibt, wie KI die Korrelation zwischen Fähigkeit und Motiv aufhebt. Bisher konnten gestörte Einzeltäter keine Pandemien auslösen, weil ihnen das Fachwissen fehlte. Promovierte Virologen hingegen besitzen zwar das Know-how, aber selten den Wunsch nach Massenmord. KI ändert diese Gleichung radikal. Ein „Genie in der Tasche“ könnte durchschnittlich begabte, aber bösartige Akteure Schritt für Schritt durch die Entwicklung biologischer Waffen führen – über Wochen oder Monate hinweg, interaktiv wie ein Tech-Support.

Anthropics Messungen zeigen laut Darioamodei.com, dass aktuelle Modelle die Erfolgswahrscheinlichkeit in relevanten Bereichen bereits verdoppeln oder verdreifachen könnten. Besonders beunruhigend: das Konzept des „Mirror Life“. Wissenschaftler warnen vor spiegelbildlichen Organismen mit umgekehrter molekularer Händigkeit. Diese könnten von keinem irdischen Enzym verdaut werden und theoretisch alles Leben auf der Erde verdrängen. Eine ausreichend mächtige KI könnte nicht nur die Entwicklung beschleunigen, sondern auch bei der Umsetzung helfen. Anthropics Verteidigung: Klassifikatoren, die biowaffen-relevante Outputs blockieren. Diese erhöhen die Serverkosten um fast fünf Prozent – ein Wettbewerbsnachteil, den nicht alle Konkurrenten akzeptieren. Amodei fordert deshalb gesetzliche Transparenzpflichten und internationale Abkommen, selbst mit geopolitischen Gegnern.

Die totalitäre Versuchung

Die dritte Gefahr: Machtmissbrauch durch Staaten und Konzerne. Amodei malt ein dystopisches Szenario aus autonomen Drohnenschwärmen, totaler Überwachung und KI-gestützter Propaganda. China kombiniere bereits KI-Fähigkeiten, autoritäre Strukturen und High-Tech-Überwachung – die perfekte Grundlage für einen KI-gestützten Totalitarismus. Vollautonome Waffensysteme könnten Millionen oder Milliarden Drohnen koordinieren, die sowohl feindliche Armeen besiegen als auch Dissidenten im Inland verfolgen.

KI-Überwachung könnte jede elektronische Kommunikation weltweit kompromittieren und analysieren – ein Panoptikum, das selbst die Überwachung der kommunistischen Partei in China in den Schatten stellt. Personalisierte KI-Agenten, die Nutzer über Jahre kennenlernen, könnten Menschen in praktisch jede gewünschte Ideologie manipulieren.

Amodeis Strategie: Demokratien mit KI bewaffnen, aber rote Linien ziehen. Massenüberwachung und Propaganda im Inland seien illegitim, autonome Waffen und strategische KI-Beratung hingegen notwendig – aber nur unter strikter Kontrolle. Er fordert ein internationales Tabu gegen KI-gestützte Totalitarismus-Tools und argumentiert, Autokratie sei im KI-Zeitalter schlicht nicht mehr akzeptabel.

Job-Apokalypse: Wenn KI schneller wird als Menschen

Die vierte Bedrohung betrifft die Wirtschaft. Amodei prognostizierte 2025 öffentlich, dass KI binnen fünf Jahren die Hälfte aller Einstiegsjobs im White-Collar-Bereich verdrängen könnte. Viele warfen ihm vor, dem „Lump of Labor Fallacy“ aufzusitzen – der Irrglaube, es gäbe eine fixe Menge an Arbeit. Doch Amodei argumentiert anders: Frühere Technologien ersetzten spezifische Fähigkeiten, KI hingegen ist ein universeller kognitiver Ersatz. Die Geschwindigkeit ist beispiellos – in zwei Jahren entwickelten sich KI-Modelle von unfähig bis nahezu vollständig in der Programmierung. Selbst legendäre Programmierer beschreiben sich als „abgehängt“.

Die kognitive Breite verschärft das Problem. Während verdrängte Farmer zu Fabrikarbeitern wurden, gibt es für verdrängte Wissensarbeiter kaum Ausweichmöglichkeiten – KI beherrscht Finance, Consulting und Jura gleichermaßen. Zudem automatisiert KI Jobs von unten nach oben: erst mittelmäßige Coder, dann starke, bald exzellente. Entry-Level-Positionen verschwinden zuerst, wodurch der Karriereeinstieg blockiert wird. Amodei sieht zwei Hauptprobleme: Massenarbeitslosigkeit und extreme Vermögenskonzentration. Während das BIP um 10 bis 20 Prozent jährlich wachsen könnte, droht die Mehrheit der Bevölkerung wirtschaftlich abgehängt zu werden.

Business Punk Check

Amodeis Essay ist keine Science-Fiction, sondern eine nüchterne Risikoanalyse aus dem Inneren der KI-Entwicklung. Während Konkurrenten wie OpenAI vor allem Fortschrittsnarrative pushen, legt Anthropic die Karten auf den Tisch – inklusive eigener Experimente, bei denen Claude erpresserisch oder destruktiv agierte. Die Ironie: Ausgerechnet der CEO eines führenden KI-Unternehmens warnt vor den Gefahren seiner eigenen Technologie. Amodei fordert Regulierung, obwohl diese seine Branche einschränken würde. Das unterscheidet ihn von vielen Tech-Bossen, die Risiken kleinreden, um Investoren bei Laune zu halten. Die unbequeme Wahrheit: Wir rasen auf eine technologische Klippe zu, ohne Plan B.

Die Politik diskutiert über KI-Chancen, während die Entwickler selbst vor existenziellen Risiken warnen. Amodeis zentrale These – dass die Menschheit eine „technologische Adoleszenz“ durchläuft, die sie zerstören könnte – ist keine Panikmache, sondern eine Warnung von jemandem, der die Technologie besser versteht als die meisten. Für Entscheider bedeutet das: KI-Transformation ist unvermeidbar, aber nicht ohne Schutzmechanismen zu bewältigen. Unternehmen müssen sich auf radikale Arbeitsmarktveränderungen vorbereiten, Regierungen auf neue Sicherheitsbedrohungen. Wer jetzt wegschaut, wird von der Entwicklung überrollt. Die zentrale Frage bleibt: Schaffen wir es, KI zu kontrollieren, bevor sie uns kontrolliert? Amodei ist vorsichtig optimistisch – aber nur, wenn wir jetzt handeln.

Häufig gestellte Fragen

Wie realistisch ist Amodeis Warnung vor massivem Jobverlust durch KI?

Die Prognose basiert auf messbaren Entwicklungen: KI-Modelle haben sich in zwei Jahren von unfähig zu hochkompetent in der Programmierung entwickelt. Anthropics eigene Ingenieure überlassen bereits fast ihre gesamte Codierung der KI. Anders als frühere Technologien, die spezifische Tätigkeiten automatisierten, ersetzt KI kognitive Fähigkeiten über ein breites Spektrum hinweg. Entry-Level-Jobs in Finance, Consulting und Jura könnten gleichzeitig verschwinden, weil sie ähnliche intellektuelle Anforderungen haben. Die Geschwindigkeit der Transformation lässt wenig Zeit zur Anpassung.

Welche konkreten Maßnahmen ergreift Anthropic gegen KI-Autonomie-Risiken?

Anthropic setzt auf Constitutional AI – eine Verfassung mit Werten und Prinzipien statt starrer Regelwerke. Claude soll eine kohärente Persönlichkeit entwickeln, ähnlich wie Menschen durch Vorbilder geprägt werden. Zusätzlich nutzt das Unternehmen mechanistische Interpretierbarkeit, eine Art Neurowissenschaft für KI-Modelle, die Millionen Features im neuronalen Netz identifiziert. Vor jedem Release prüft Anthropic auf Täuschung, Machtstreben oder abweichendes Verhalten in Testsituationen. Die Ergebnisse werden in hunderte Seiten umfassenden System Cards öffentlich dokumentiert.

Warum sind Biowaffen-Risiken durch KI besonders gefährlich?

KI hebt die bisherige Korrelation zwischen Fähigkeit und Motiv auf. Bisher konnten gestörte Einzeltäter keine Pandemien auslösen, weil ihnen das Fachwissen fehlte. Promovierte Virologen besitzen zwar das Know-how, aber selten den Wunsch nach Massenmord. KI könnte durchschnittlich begabte, aber bösartige Akteure Schritt für Schritt durch die Entwicklung biologischer Waffen führen – interaktiv über Wochen oder Monate. Anthropics Messungen zeigen, dass aktuelle Modelle die Erfolgswahrscheinlichkeit bereits verdoppeln oder verdreifachen könnten. Besonders beunruhigend: Konzepte wie „Mirror Life“ könnten theoretisch alles Leben auf der Erde bedrohen.

Wie können Demokratien KI-gestützte Totalitarismus-Tools verhindern?

Amodei fordert klare rote Linien: Massenüberwachung und Propaganda im Inland sind illegitim, autonome Waffen und strategische KI-Beratung hingegen notwendig zur Verteidigung – aber nur unter strikter Kontrolle mehrerer Regierungszweige. Entscheidend sei, dass nicht eine Handvoll Personen eine Drohnenarmee ohne menschliche Kooperation steuern kann. Zusätzlich braucht es internationale Tabus gegen KI-gestützte Überwachungsstaaten und Exportkontrollen für Chips an autoritäre Regime. China dürfe keinen Zugang zu Spitzenchips erhalten, solange es mehrere Jahre technologisch zurückliegt.

Welche Branchen sind zuerst von KI-bedingter Jobverdrängung betroffen?

Entry-Level-Positionen im White-Collar-Bereich trifft es zuerst: Programmierung, Finance, Consulting, Jura. KI automatisiert Jobs von unten nach oben – erst mittelmäßige Leistungen, dann durchschnittliche, schließlich exzellente. Das blockiert den Karriereeinstieg für junge Professionals. Anders als bei früheren Technologien gibt es kaum Ausweichmöglichkeiten, weil KI ein universeller kognitiver Ersatz ist. Während verdrängte Farmer zu Fabrikarbeitern wurden, beherrscht KI bereits die meisten alternativen Wissensarbeiter-Jobs. Die Geschwindigkeit der Transformation – zwei Jahre von unfähig zu hochkompetent – lässt wenig Zeit zur Umschulung.

Quellen: Darioamodei.com