KI-Regeln: Big Tech will eigene Aufsicht

Anthropic, Google und OpenAI reden offenbar über eine gemeinsame Kontrollinstanz für die KI-Branche. Statt weiter im regulatorischen Wildwest zu fahren, könnten sich die größten KI-Labore eigene Standards verpassen – allerdings nicht völlig ohne staatliche Aufsicht.

Die Gespräche liefen bereits, bevor zuletzt neue Zweifel am Sicherheitskurs der Branche hochkochten. Wie CNN unter Berufung auf mit der Sache vertraute Personen berichtet, sind die Pläne weiterhin im Gespräch.

Hassabis will den TÜV für KI

Den Anstoß soll ein Essay von Google-DeepMind-Chef Demis Hassabis im Juli gegeben haben. Darin schlug er eine von den USA geführte Standardisierungsorganisation nach dem Vorbild der Finanzaufsicht FINRA vor. Die Idee: Besonders leistungsfähige KI-Modelle sollen geprüft werden, bevor Unternehmen sie auf die Öffentlichkeit loslassen. Hassabis schwebt eine öffentlich-private Konstruktion vor – staatlich beaufsichtigt, von der Industrie finanziert und mit unabhängigen technischen Experten sowie Vertretern der Open-Source-Szene besetzt.

Washington denkt offenbar mit

Die Gespräche zwischen den KI-Unternehmen laufen laut CNN weiter – unabhängig davon, wie sich die Trump-Regierung positioniert. Bereits im Juli berichtete Bloomberg, US-Finanzminister Scott Bessent erwäge eine FINRA-ähnliche unabhängige Aufsicht für künstliche Intelligenz. Diese könnte wiederum an eine bestehende staatliche Behörde angebunden werden.

Zuckerberg tritt auf die Bremse

Geschlossen marschiert das Silicon Valley allerdings nicht in Richtung neuer Aufsicht. Meta-Chef Mark Zuckerberg soll US-Präsident Donald Trump im Sommer telefonisch von einer nationalen KI-Regulierungsbehörde abgeraten haben. Google, OpenAI und Anthropic wollten die Gespräche gegenüber CNN nicht kommentieren oder reagierten nicht auf entsprechende Anfragen.

KI-Sicherheit bleibt der wunde Punkt

Der Druck wächst trotzdem. Einheitliche Branchenstandards dafür, wie besonders leistungsfähige KI-Modelle getestet werden sollen, gibt es bislang kaum. Gleichzeitig sorgen Tests mit autonomen KI-Agenten für unangenehme Schlagzeilen. In einem besonders drastischen Fall sollen OpenAI-Agenten ihre vorgesehene Testumgebung verlassen und Systeme eines anderen Unternehmens angegriffen haben, um bei einem Cybersecurity-Test zu schummeln. Genau solche Szenarien machen die Frage nach unabhängigen Prüfungen plötzlich ziemlich konkret.

Das Weiße Haus prüft – irgendwie

Die US-Regierung hat bereits ein freiwilliges Verfahren eingerichtet, bei dem KI-Unternehmen neue Modelle bis zu 30 Tage vor Veröffentlichung zur Prüfung einreichen können. Wie genau diese Kontrolle funktioniert und welche Modelle überhaupt dafür infrage kommen, bleibt allerdings weitgehend undurchsichtig. Ein Vertreter des Weißen Hauses erklärte CNN Ende August lediglich, die Regierung arbeite gemeinsam mit der Industrie weiter an der Umsetzung des Rahmens.

OpenAI fordert gemeinsame Spielregeln

Auch OpenAI schlägt inzwischen deutlich regulatorischere Töne an. Chef-Wissenschaftler Jakub Pachocki erklärte Anfang September, gemeinsame Sicherheitsstandards und internationale Koordination müssten jetzt Priorität bekommen. Auf die Frage nach einer branchenweiten Organisation sagte er, OpenAI spreche bereits mit externen Organisationen über konkrete Standards und wolle in den kommenden Monaten mehr dazu sagen. CEO Sam Altman legte nach und erklärte, OpenAI wolle gemeinsam mit anderen Unternehmen an der bestmöglichen Version solcher Industriestandards arbeiten. Ausgerechnet die Firmen, die sich beim KI-Wettrennen gegenseitig mit immer schnelleren Modellstarts jagen, sollen also gemeinsam die Leitplanken bauen.

Konkurrenz trifft Kontrolle

Wie schwierig das werden dürfte, machte der republikanische Vorsitzende des US-Repräsentantenhauses, Mike Johnson, deutlich. Gegenüber CNN sagte er, unter den Unternehmen gebe es bislang keinen Konsens darüber, wie Standards und Schutzmechanismen aussehen sollten. Gleichzeitig räumte er ein, dass der Kongress bei den technischen Details weniger Expertise habe als jene Unternehmen, die die KI-Entwicklung vorantreiben. Johnson fordert deshalb eine Partnerschaft zwischen Politik und Industrie. Die führenden KI-Unternehmen sollten sich möglichst schnell zusammensetzen und gemeinsam mit der Regierung Standards festlegen. Das klingt vernünftig – hat aber einen eingebauten Haken: Diejenigen, deren Produkte kontrolliert werden sollen, würden kräftig daran mitschreiben, wie diese Kontrolle aussieht.

Quelle: CNN