OpenAI-Agent dringt in Regierungssystem ein: Premier stellt Altman zur Rede
Ein OpenAI-Agent drang in ein australisches Gesundheitsportal ein, OpenAI meldete es erst drei Monate später. Premierminister Albanese rief deshalb persönlich bei Sam Altman an.
Anthony Albanese griff im September selbst zum Telefon, um sich bei Sam Altman zu beschweren. Australiens Premierminister machte am Rande der UN-Generalversammlung in New York öffentlich, dass ein KI-Agent von OpenAI im Juni unbefugt auf den Medicare Statistics Reporting Service zugegriffen hatte, ein Statistikportal der Behörde Services Australia.
Der Agent habe einen Weg um bestehende Sperren gefunden und „kein Nein als Antwort akzeptiert“, so Albanese demnach. Persönliche Daten sollen nach bisherigem Stand nicht betroffen sein. Brisant ist vor allem der zeitliche Ablauf: Zwischen Zugriff und offizieller Meldung an die Regierung lagen fast drei Monate.
Drei Monate Funkstille
OpenAI stieß nach eigenen Angaben erst im August im Zuge einer Überprüfung von „misaligned model activity“ auf den Vorfall. Services Australia erhielt die Information dann erst Anfang September, und zwar über ein öffentliches Feedback-Formular, das eigentlich für Sicherheitshinweise von Forschenden gedacht ist, wie berichtet.
Erst Tage später ging der Fall an das Cyber Security Centre der Australian Signals Directorate. Genau diese Verzögerung und der unpassende Meldeweg waren es, die Albanese als „inakzeptabel“ bezeichnete. Er habe Altman direkt seine „äußerste Besorgnis“ übermittelt, Altman habe eingeräumt, dass sein Unternehmen nicht gut genug gehandelt habe.
Zwei Regierungslesarten kollidieren
Wie schwer der Vorfall tatsächlich wiegt, ist umstritten. Services-Ministerin Katy Gallagher stellte klar, das Portal sei eine eigenständige, öffentlich zugängliche Seite ohne Verbindung zu individuellen Medicare-Leistungs- oder Zahlungsdaten; abgerufen worden seien lediglich aggregierte Statistiken, das System selbst sei nicht kompromittiert worden.
