100 Millionen gegen KI-Angst: Berlin setzt auf Law Zero

Sie errechneten lediglich statistische Wahrscheinlichkeiten, keine Absichten. Konkretere Gefahren benennen laut WELT Yoshua Bengio, der vor KI-gestützter Entwicklung biologischer Waffen warnt und Max Tegmark, der einen Kontrollverlust bei autonomen Waffensystemen fürchtet, die in Sekundenbruchteilen entscheiden. Bengio sieht die Gefahr darin, dass hoch entwickelte Modelle biologische und chemische Prozesse bis ins Detail simulieren können und so Terroristen oder Schurkenstaaten den Bau von Biowaffen erleichtern könnten, ohne jahrelange Laborarbeit.

Tegmark wiederum warnt vor einem Wettlauf um Waffen und Drohnen, die ohne menschlichen Befehl Ziele auswählen, weil menschliche Reaktionszeiten für solche Systeme zu langsam sind. Diese Risiken erscheinen greifbarer als Bostroms Gedankenexperiment einer außer Kontrolle geratenen Büroklammer-Maschine, die laut WELT die gesamte Erde in Fabriken verwandeln würde, um ihr Produktionsziel zu erfüllen, nicht aus Bosheit, sondern als Nebenwirkung einer kompromisslosen Zielverfolgung.

CCC sieht andere Herrschaft

Der Chaos Computer Club widerspricht der Dramatik. Jochim Selzer erklärte der Nachrichtenagentur epd laut Tagesschau, die Herrschaft der Maschinen habe längst begonnen, leise und ohne Kampf. Das eigentliche Problem sei nicht eine plötzliche Übernahme, sondern dass Menschen Verantwortung an Systeme abgäben, deren Ergebnisse sie weder verstünden noch kontrollieren könnten. Selzer warnte ausdrücklich davor, die dramatischen Warnungen der KI-Unternehmen unhinterfragt zu übernehmen, schließlich profitierten genau diese Firmen von der Aufmerksamkeit, die solche Szenarien erzeugen.

Diese Einordnung verschiebt die Debatte weg vom Science-Fiction-Szenario hin zu einem strukturellen Problem: schleichende Abhängigkeit statt Knall. Auch König Charles III. schaltete sich laut Tagesschau in die Debatte ein und forderte in einer Rede vor Branchenvertretern, KI müsse „im Dienst der Menschheit“ bleiben. Aufgabe der Konzerne sei nicht nur, die Technologie voranzubringen, sondern sicherzustellen, dass sie Gemeinschaften und Natur diene. Zwischen Amodeis Sechs-Monats-Frist, Voss‘ Ruf nach Haftungsregeln und dem CCC-Befund der leisen Unterwerfung liegt eine Bandbreite an Einschätzungen, die zeigt, wie wenig Konsens es selbst unter Fachleuten über das eigentliche Risiko gibt.

Business Punk Check

Zwei Lager, ein Widerspruch: Amodei warnt als Anthropic-Gründer vor der eigenen Technologie und trägt damit zur Aufmerksamkeitsökonomie bei, die seinem Unternehmen nützt. LeCun und Ng, beide tief in der Entwicklung großer KI-Systeme, halten dieselben Szenarien für absurd. Die Bundesregierung wählt trotzdem die dramatische Lesart und zahlt 100 Mio. Euro an Law Zero, ohne dass klar wird, welches Kontrollproblem damit tatsächlich gelöst wird.

Für Entscheider heißt das: Wer jetzt in KI-Sicherheitsfirmen investiert oder Regulierung fordert, sollte zwischen der Kontrollverlust-Erzählung einzelner Gründer und den nachweisbaren, aber weniger spektakulären Risiken bei Desinformation, Urheberrecht und Arbeitsmarkt unterscheiden. Wer auf Alarmismus setzt, kauft sich Aufmerksamkeit. Wer auf strukturelle Abhängigkeit achtet, wie der CCC es vorschlägt, bekommt weniger Schlagzeilen, aber die realistischere Landkarte.

Auf einen Blick

• Die Bundesregierung investierte gemeinsam mit Kanada 100 Mio. Euro in das Unternehmen Law Zero, das andere KI-Systeme überwachen soll.
• Anthropic-Gründer Dario Amodei warnt, KI könnte binnen sechs bis zwölf Monaten das gesamte Internet kontrollieren.
• Yann LeCun und Andrew Ng halten Warnungen vor einer unkontrollierbaren Super-KI für wissenschaftlich nicht haltbar.
• Der Chaos Computer Club sieht die eigentliche Gefahr nicht in einer Maschinenherrschaft, sondern in unkontrollierter Verantwortungsabgabe an Systeme.

Quellen: Tagesschau, Welt, KI-unterstützt