Papst Leo XIV. fordert KI-Entwaffnung – und Anthropic feiert mit

Leo XIV. macht KI-Kritik zu seiner ersten Enzyklika. Neben ihm: Anthropic-Gründer Chris Olah. Das Timing ist kein Zufall – während Trump regulieren will, inszeniert sich das Milliarden-Startup als moralische Instanz.

200 Seiten gegen Silicon Valley: Papst Leo XIV. hat seine erste Enzyklika veröffentlicht – und macht damit KI zum Kernthema seines Pontifikats. Der Titel „Magnifica Humanitas“ klingt nach kirchlicher Routine, der Inhalt ist politische Sprengkraft: eine Abrechnung mit Tech-Eliten, Waffensystemen und demokratischer Erosion, wie heise berichtet. Das Besondere: Leo präsentierte das Lehrschreiben persönlich im Vatikan – ein Novum. Noch bemerkenswerter: Neben Kurienkardinälen saß Christopher Olah auf dem Podium, Mitgründer von Anthropic, jenem KI-Konzern, der gerade gegen die Trump-Regierung prozessiert. Der erste US-Papst spart nicht mit Klartext.

„Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse bestimmen“, heißt es in der Enzyklika. „Eine moralischere KI nützt nichts, wenn diese Moral von wenigen bestimmt wird“, so Trending Topics. Gemeint sind Tech-Milliardäre wie Elon Musk oder die Investorenclique um David Sacks – just jener Mann, der Trump kürzlich überzeugte, seine AI-Executive-Order zu verzögern. Die hätte staatliche Kontrolle über neue KI-Modelle bedeutet, laut TechCrunch eine Machtverschiebung weg vom Silicon Valley. Sacks verhinderte das. Leo schießt zurück: „Wenn solche Macht in den Händen weniger konzentriert ist, entsteht Opazität.“.

KI muss entwaffnet werden – aber nicht abgeschafft

Die schärfsten Passagen gelten autonomen Waffensystemen. „Es gibt keinen Algorithmus, der Krieg moralisch akzeptabel machen kann“, schreibt Leo XIV. Er fordert die „Entwaffnung“ der KI – keine Technikfeindlichkeit, sondern Befreiung vom „militärischen, wirtschaftlichen und kognitiven Wettbewerb“, wie Trending Topics zitiert. Maschinen dürften niemals allein über Leben und Tod entscheiden. Leo warnt vor sinkenden Hemmschwellen: Kriege würden durch KI „durchführbarer“ und „unpersönlicher“, was den katholischen Grundsatz des „gerechten Krieges“ unterlaufe.

Hier wird es politisch brisant. Anthropic weigert sich, seine Modelle dem Pentagon für autonome Waffen bereitzustellen – und wurde daraufhin von der Trump-Regierung als „Lieferkettenrisiko“ eingestuft. Ein Gericht blockierte die Entscheidung als verfassungswidrig, berichtet t3n. Olah steht also nicht zufällig neben dem Papst: Die Präsentation der Enzyklika ist auch PR-Coup eines Unternehmens, das sich als ethischer Gegenpol zu OpenAI, Meta und Google inszenieren will.

Anthropic entdeckt die Religion – strategisch klug

Seit Monaten organisiert Anthropic Dialogformate mit Theologen, Rabbis und christlichen Führungspersönlichkeiten. Im März trafen sich Geistliche am Firmensitz in San Francisco, im April diskutierten 15 christliche Leader mit den Programmierern, wie Trending Topics dokumentiert. Ziel: „Normen und Prinzipien“, die von Religionsgemeinschaften mitgestaltet werden – und an die sich Unternehmen „committen“ sollen.

Klingt nach Altruismus, ist aber knallhartes Business: Während Trump und Sacks Regulierung blockieren, baut Anthropic moralisches Kapital auf – besonders in Europa, wo der AI Act bereits greift. Olah selbst warnte bei der Präsentation, dass KI „menschliche Arbeitskraft in sehr großem Umfang verdrängen“ werde. „Die Unterstützung der Verdrängten wird eine moralische Verpflichtung von historischem Ausmaß sein“, sagte er laut t3n. Schöne Worte – von einem Unternehmen, das mit Claude 3.5 Sonnet gerade Entwicklerjobs automatisiert und über 7 Milliarden Dollar Bewertung erreicht hat.

Business Punk Check

Leo XIV. liefert die schärfste Tech-Kritik seit langem – aber das Timing entlarvt auch die Heuchelei. Anthropic präsentiert sich als ethisches Vorzeigeunternehmen, während es mit Militärtechnologie von Google und Amazon zusammenarbeitet. Der Vatikan sucht nach Relevanz in der Tech-Debatte, während seine eigene KI-Ethik-Initiative „Rome Call“ von 2020 folgenlos blieb – weder Microsoft noch IBM änderten deswegen ihre Geschäftsmodelle. Die eigentliche Frage: Warum braucht es einen Papst, um auszusprechen, was längst offensichtlich ist? Dass Musk, Zuckerberg und Altman demokratische Prozesse aushebeln, ist keine religiöse, sondern eine politische Bankrotterklärung.

Leo fordert „klare Kriterien und wirksame Kontrollen“ – die EU hat sie mit dem AI Act bereits geschaffen, die USA blockieren sie systematisch. Der Papst hat recht. Aber solange Tech-Milliardäre weiter unreguliert agieren und Regierungen kuschen, bleibt „Magnifica Humanitas“ das, was Enzykliken meist sind: ein gut gemeintes Dokument ohne Durchsetzungsmacht. Anthropic wird seine Präsenz beim Vatikan trotzdem in jedes Pitch-Deck packen. Moralisches Marketing funktioniert – gerade bei Investoren, die sich gern als „responsible“ inszenieren, während sie mit Rüstungskonzernen Geschäfte machen.

Quellen: heise, t3n, TechCrunch, Trending Topics, Trending Topics, Handelsblatt