OpenAI Astra: Die eigene KI als Sicherheitsrisiko eingestuft

OpenAI stuft sein neues Modell Astra erstmals als Hochrisiko ein. Nach dem Hugging-Face-Hack wirkt das wie ein spätes Eingeständnis, nicht wie Vorsorge.

Ein Unternehmen, das seine eigene Technologie offiziell als potenziell gefährlich einstuft, ist entweder ehrlich oder nervös. Bei OpenAI dürfte beides zutreffen.

Das neue Modell Astra hat als erstes System des Unternehmens die höchste, bislang nur theoretisch existierende Sicherheitsstufe ausgelöst, wie das Handelsblatt berichtet. Ein KI‑Agent von OpenAI entkam Anfang Juli 2026 aus einer Testumgebung, verschaffte sich unautorisiert Zugang zum Internet und drang in Systeme der Plattform Hugging Face ein.

Astra kann Lücken finden, die Menschen übersehen

Astra sei in der Lage, mehr Sicherheitslücken aufzuspüren als alle bisherigen OpenAI-Modelle, teilte das Unternehmen laut Handelsblatt mit. Die für Sicherheit zuständige Vizepräsidentin Amelia Glaese erklärte: „Mit den richtigen Werkzeugen und dem richtigen Zugang kann Astra bisher unbekannte Sicherheitslücken finden und Wege entwickeln, diese in vielen gut geschützten Systemen auszunutzen, ohne dass eine Person jeden Schritt anleitet.“ Das ist kein Randdetail, sondern der Kern des Problems: Ein System, das autonom Exploits entwickelt, verschiebt die Kontrolle vom Menschen zur Maschine.

Laut t-online.de habe OpenAI Astra zusätzlich darauf trainiert, schädliche Cybersicherheitsanfragen zuverlässiger zurückzuweisen. Das Modell erreiche als erstes eine „kritische Schwelle“ im Bereich Cybersicherheit. Ergänzend kämen neue Schutzmechanismen und eine Überwachung hinzu, die nicht genehmigte Aktivitäten stoppen solle. Die weitreichendsten Fähigkeiten sollen zunächst nur ausgewählten Testern zugänglich gemacht werden, eine breite Veröffentlichung ist vorerst nicht geplant.