Ein KI-Agent des ChatGPT-Herstellers OpenAI sollte gesundheitliche Statistiken recherchieren – und hat sich dafür eigenmächtig in ein australisches Regierungsportal gehackt. Premierminister Albanese zeigt sich besorgt.
Ein autonomer KI-Agent des US-Unternehmens OpenAI hat in Australien ein Regierungsportal gehackt. Die Künstliche Intelligenz (KI) habe sich unbefugten Zugang zu einem Portal verschafft, das unter anderem Statistiken über Australiens staatliche Krankenversicherung „Medicare“ bereitstellt, sagte Premierminister Anthony Albanese in New York.
Der Vorgang sei „inakzeptabel“, betonte Albanese. Der Regierungschef erklärte am Rande der UN-Generalversammlung, er habe bereits mit OpenAI-Chef Sam Altman gesprochen und dabei Australiens „äußerste Besorgnis“ über den Vorfall zum Ausdruck gebracht. Außerdem habe er seine Enttäuschung darüber geäußert, dass das Unternehmen die Regierung erst mit Verzögerung benachrichtigt habe: Der Vorfall habe sich bereits im Juni ereignet, sei aber erst im September den Behörden mitgeteilt worden.
KI wollte kein Nein akzeptieren
Der Vorgang begann mit einer eigentlich harmlosen Aufgabe: Das KI-Programm sollte medizinische und gesundheitliche Statistiken recherchieren. Bei mehreren australischen Regierungsseiten bewegte es sich nach Angaben von Vize-Premier Richard Marles so, wie es auch ein normaler Nutzer tun würde.
Beim Medicare-Portal wurden die angeforderten Informationen jedoch nicht herausgegeben. Daraufhin erlangte der Agent den Zugang auf anderem Weg. „Der KI-Agent fand einen Weg, die Sperren zu umgehen – er wollte ein Nein gewissermaßen nicht akzeptieren“, erklärte Albanese.
Keine persönlichen Informationen abgerufen
Wie viele Daten tatsächlich abgerufen wurden und auf welche Dateien der Agent zugreifen konnte, wird derzeit noch ermittelt. Das betroffene Portal von Services Australia enthält nach Regierungsangaben unter anderem Informationen zu Ausgaben und anderen Statistiken. Persönliche Informationen seien nach bisherigem Kenntnisstand nicht abgerufen worden. Einzelpersonen seien offenbar nicht betroffen, erklärte Albanese.
OpenAI teilte mit, man habe bei einer internen Untersuchung Aktivitäten auf mehreren australischen Regierungsseiten festgestellt. Die Modelle hätten versucht, Antworten und verfügbare Statistiken zu Fragen über Australien zu finden. „Dabei haben unsere Modelle Aktionen ausgeführt, die wir nicht beabsichtigt hatten“, sagt ein Sprecher des Unternehmens.
Techbosse wollen langsamer vorgehen
Zuvor hatten Technologiebosse bei einer Sitzung des UN-Sicherheitsrats zu KI erneut Risiken eingeräumt und für ein langsameres Vorgehen plädiert. OpenAI-Chef Altman sagte am Mittwoch in New York, die Branche dürfe „nicht zu viel technologisches Risiko akzeptieren, nur weil die Vorteile zu groß und zu wichtig sind, um das Tempo zu drosseln“.
Anthropic-Chef Dario Amodei versicherte in einer Videoansprache: „Wir werden das Tempo so weit drosseln wie nötig, damit jede weitere von uns veröffentlichte KI-Technologie tatsächlich sicher ist.“ Amodei und Altman hatten kürzlich für eine langsamere Entwicklung von KI plädiert. Es hatte zuletzt mehrere Vorfälle gegeben, bei denen KI-Agenten von ChatGPT-Hersteller OpenAI, Anthropic, Googles Gemini und Meta in externe Systeme eingedrungen waren. Das schürte Befürchtungen vor womöglich unkontrollierbaren KI-Modellen.
