100 Millionen gegen KI-Angst: Berlin setzt auf Law Zero

Anthropic CEO Amodei warnt vor KI-Kontrollverlust binnen Monaten, Berlin und Kanada zahlen 100 Mio. Euro an Law Zero. Die Bundesregierung sucht Antworten, wo Kritiker längst Alarmismus vermuten.

Sechs bis zwölf Monate, dann könnte KI laut Anthropic-Gründer Dario Amodei das gesamte Internet kontrollieren. Diese Warnung eines Mannes, der selbst KI-Systeme baut und verkauft, hat in Berlin offenbar gereicht, um 100 Mio. Euro Steuergeld in ein einziges Unternehmen zu stecken. Die Bundesregierung investierte gemeinsam mit Kanada diese Summe in Law Zero, ein Start-up, das KI-Systeme mit Werten und Moral ausstatten und andere KI-Modelle überwachen soll.

Der parlamentarische Staatssekretär im Bundesdigitalministerium, Thomas Jarzombek, bezeichnete das laut Tagesschau als konkreten deutschen Beitrag gegen die Bedrohung durch KI. Gleichzeitig räumte er im rbb24 Inforadio ein, es gebe keine einfache Lösung: Sollte in den USA eine Super-Intelligenz das Internet übernehmen, könne kein europäisches Gesetz das verhindern. Bundesdigitalminister Carsten Wildberger habe sich dafür eingesetzt, dass es international Überwachung und Regulierung gegen große Bedrohungsfragen gebe, so Jarzombek. Die Investition in Law Zero soll genau das leisten, allerdings bleibt offen, wie eine deutsch-kanadische Finanzspritze eine Entwicklung bremsen soll, die laut Amodei ohnehin außerhalb europäischer Kontrolle stattfindet.

Voss fordert Kontrolle per Algorithmus

Der CDU-Europaabgeordneter Axel Voss sieht laut Tagesschau „ernsthafte Risiken“ neben den Chancen der Technologie. Kontrollverlust könne Sicherheitsvorkehrungen oder Finanztransaktionen betreffen, erklärte er gegenüber NDR Info. Seine Lösung: Haftungsfragen auslösen und Unternehmen zur Vorsicht zwingen, notfalls mit KI-Systemen, die andere KI-Systeme überprüfen. Voss verweist darauf, dass es bereits Firmen gebe, die genau solche Kontroll-KI entwickelten.

Nicht jede KI könne die Leistung erbringen, um „auszuarten“, man müsse nur Grenzen setzen, dann lasse sich die Technologie beherrschbar machen. Voss betonte, es brauche vor allem politischen Willen, um strikter vorzugehen. Das deckt sich mit der deutschen Investition in Law Zero, wirft aber die Frage auf, ob 100 Mio. Euro tatsächlich Kontrolle kaufen oder nur symbolische Politik finanzieren. Denn während Voss von Algorithmen-Kontrolle und Haftungsfragen spricht, bleibt die Bundesregierung selbst vage, welches konkrete Risiko Law Zero adressieren soll und woran sich der Erfolg der Investition messen lässt.

Wissenschaft ist sich uneinig

Während Amodei vor akutem Kontrollverlust warnt, hält der ehemalige Meta-Chefforscher Yann LeCun solche Killer-KI-Szenarien laut WELT für „vollkommenen Blödsinn“. Macht- und Kontrollstreben sei ein evolutionäres Phänomen sozialer Säugetiere, keine zwangsläufige Folge von Rechenleistung. Ein Sprachmodell, das Texte vorhersagt, entwickle daraus keinen eigenen Machtwillen. Andrew Ng, Stanford-Informatiker und Mitgründer von Google Brain, verglich die Furcht vor einer bösartigen Super-KI laut WELT mit der Sorge um Überbevölkerung auf dem Mars, bevor dort überhaupt jemand gelandet sei. Melanie Mitchell vom Santa Fe Institute warnt davor, den Systemen gesunden Menschenverstand oder eigenen Willen zu unterstellen.