Die KI-Rebellin: Daniela Amodeis radikaler Weg zu verantwortungsvollem Unternehmertum

Als Unternehmer suche ich nicht nur Erfolgsgeschichten – ich suche Überzeugungen. Mich interessieren Menschen, die sich bewusst gegen den bequemen Weg entscheiden, weil sie für etwas einstehen, das größer ist als der Markt. In dieser Serie porträtiere ich mutige, visionäre, oft auch umstrittene Gründer*innen, die nicht nur Unternehmen aufbauen – sondern Denkräume schaffen.

In einer Zeit, in der technologische Entwicklung oft schneller verläuft als gesellschaftliche Reflexion, braucht es Unternehmer*innen, die nicht nur Innovation vorantreiben, sondern sie in Verantwortung betten. Daniela Amodei ist eine solche Unternehmerin. Die Mitgründerin und Präsidentin von Anthropic hat sich gegen das Silicon-Valley-Dogma „Move fast and break things“ gestellt – und zeigt, dass Sicherheit und Ethik keine Innovationsbremsen sind, sondern unternehmerische Assets.

Der Bruch mit dem Gewohnten

Daniela Amodei war keine typische Tech-Führungskraft. Literaturstudium, Musikstipendium, erste Jobs im politischen Umfeld – nicht gerade der klassische Weg ins Zentrum der KI-Entwicklung. Und doch: Genau diese Umwege formten ihren Blick auf Systeme, auf Macht, auf Verantwortung. Sie war Mitarbeiterin Nummer 40 bei Stripe, später Vice President für Policy und Safety bei OpenAI. Doch als OpenAI 2020 mit Microsoft einen milliardenschweren Deal schloss und sich immer stärker in Richtung Kommerzialisierung bewegte, zog Amodei die Reißleine.

Gemeinsam mit ihrem Bruder Dario und einem kleinen Team verließ sie OpenAI. Ihr Ziel: ein neues Unternehmen gründen, das sich radikal der sicheren, nachvollziehbaren und ethisch vertretbaren KI-Entwicklung verschreibt. Anthropic war geboren – nicht aus dem Willen, schneller zu sein, sondern aus dem Bedürfnis, klüger zu bauen.

Verantwortung als USP

Anthropic ist kein KI-Startup wie jedes andere. Die Organisation ist als Public Benefit Corporation (PBC) gegründet und durch einen Long-Term Benefit Trust (LTBT) strukturell auf langfristigen gesellschaftlichen Nutzen verpflichtet. Entscheidungen sollen nicht allein nach ökonomischer Effizienz, sondern nach Wirkung auf die Menschheit getroffen werden.

Der wohl innovativste Ansatz: die Entwicklung der sogenannten „Konstitutionellen KI“ (Constitutional AI). Anstatt auf risikobehaftetes Human Feedback zu setzen, wird das Verhalten der KI durch ein klar formuliertes Regelwerk gesteuert – ein ethisches Grundgerüst, das Transparenz und Nachvollziehbarkeit schafft. Kein Zufall also, dass Claude – der KI-Assistent von Anthropic – in Benchmarks durch Zuverlässigkeit, Sicherheit und Verständlichkeit auffällt.