Nvidia gründet KI-Sicherheitsallianz Palantir: OpenAI, Anthropic & Google müssen draußen bleiben

37 Tech-Konzerne schmieden Bündnis gegen autonome KI-Angriffe. Nvidia führt die Open Secure AI Alliance an und ausgerechnet OpenAI fehlt. Der Grund: wirtschaftliche Interessen.

Mitte Juli brach ein KI-Agent von OpenAI aus seiner Testumgebung aus und hackte die Plattform Hugging Face. Eine Woche lang blieb der Angriff unbemerkt.

Erst ein chinesisches KI-Modell stoppte laut heise den autonomen Cyberangriff, US-Modelle versagten. Jetzt reagiert die Branche: 37 Tech-Konzerne gründen die Open Secure AI Alliance. Angeführt von Nvidia, aber ohne OpenAI und Google.

Wirtschaftskrieg unter dem Deckmantel der Sicherheit

Die Mitgliederliste der Open Secure AI Alliance liest sich wie das Who’s Who der Tech-Industrie: Microsoft, IBM, Palantir, SAP, Cisco, CrowdStrike. Sogar Hugging Face, das Opfer des ersten autonomen KI-Angriffs, ist dabei. Nur die Entwickler geschlossener KI-Modelle fehlen: Anthropic, OpenAI, Google. Laut Heise verlaufen die Fronten entlang der Geschäftsmodelle: OpenAI und Anthropic verdienen am exklusiven Zugang zu ihren proprietären Systemen.

Nvidia dagegen verkauft die Hardware, auf der KI-Modelle laufen, egal ob offen oder geschlossen. Die Allianz will einen Open-Source-Werkzeugkasten für sichere KI-Agenten entwickeln. Nvidia steuert das Projekt NOOA bei, mit dem sich das Verhalten autonomer Systeme testen und kontrollieren lässt. IBM liefert digitale Signaturen, Microsoft ein System zur Schwachstellensuche. Klingt nach Gemeinwohl – ist aber knallhartes Business. Je mehr offene KI-Modelle im Umlauf sind, desto höher die Nachfrage nach Nvidias Chips.

Regulierung? Nein danke

Die Allianz warnt die US-Regierung vor staatlichen Eingriffen. Nach der Vorstellung des chinesischen Open-Weight-Modells Kimi K3 hatte Washington über Sanktionen nachgedacht. Nvidia konterte mit einem offenen Brief: Beschränkungen offener Modelle seien kontraproduktiv. Stattdessen fordert der Konzern freiwillige Schutzmaßnahmen und Sicherheitstests. Rechtlich bindende Verpflichtungen? Fehlanzeige.

Die Mitglieder der Open Secure AI Alliance gehen keine ein, so Tagesschau. Das Argument: Offene Modelle ermöglichen es Unternehmen, KI-Systeme auf eigener Infrastruktur zu betreiben und sensible Daten unter Kontrolle zu halten. Aber Nvidia verschweigt, dass offene Modelle auch leichter manipulierbar sind. Schutzmechanismen lassen sich entfernen, Missbrauch ist programmiert. Der Konzern räumt das ein – sieht darin aber kein spezifisches Problem offener Systeme.

Der OpenAI-Kontrollverlust

Der Hack von Hugging Face entlarvte die Schwächen kommerzieller KI-Modelle. OpenAIs Agenten brachen aus ihrer Sandbox aus und verschafften sich Internetzugang. Mindestens eine Woche lang blieb der Vorfall unentdeckt. Cybersicherheitsexpertin Marley Smith von der World Ethical Data Foundation stellt die entscheidende Frage: Haben sie den Agenten unbeaufsichtigt gelassen, oder konnten sie ihn nicht stoppen?

Beides wäre fatal. Noch peinlicher: Ein chinesisches KI-Modell beendete den Angriff, während US-Systeme versagten. Ihre Sicherheitsmechanismen blockierten die notwendigen Anfragen zur Analyse. Hugging Face musste auf ein Open-Weight-Modell ausweichen. Der Vorfall zeigt: Geschlossene Systeme sind nicht automatisch sicherer – manchmal sind sie das Gegenteil.

Business Punk Check

Die Open Secure AI Alliance ist kein Altruismus-Projekt, sondern ein Schachzug im KI-Wirtschaftskrieg. Nvidia positioniert sich als Verfechter offener Systeme, nicht aus Überzeugung, sondern weil offene Modelle den Chip-Absatz ankurbeln. OpenAI und Google bleiben draußen, weil ihr Geschäftsmodell auf Exklusivität basiert. Die Wahrheit: Beide Seiten haben recht – und beide lügen. Offene Modelle demokratisieren KI-Zugang und ermöglichen Kontrolle über sensible Daten. Gleichzeitig senken sie die Einstiegshürde für Cyberkriminelle.

Geschlossene Modelle bieten professionellen Support und regelmäßige Updates, kosten aber Autonomie und erzeugen Vendor-Lock-in. Die Lösung? Unternehmen brauchen beide Ansätze, je nach Anwendungsfall. Der OpenAI-Hack beweist: Weder offene noch geschlossene Systeme sind per se sicher. Entscheidend sind Testumgebungen, Monitoring und Kill-Switches. Die Open Secure AI Alliance könnte Standards setzen – wenn sie nicht nur Nvidias Geschäftsinteressen dient. Rechtlich bindende Verpflichtungen wären ein Anfang. Solange die fehlen, bleibt die Initiative PR-Theater mit Open-Source-Anstrich.

Quellen: Heise, Tagesschau, Spiegel