OpenAI unter DruckAutonome KI hackt australische Regierungswebsite
Die Sorge vor womöglich unkontrollierbaren KI-Modellen wächst. Nun meldet Australiens Premierminister einen Angriff auf eine Website seiner Regierung. Dabei zeigt er sich vor allem darüber enttäuscht, wie spät er von dem Vorfall erfahren hat.
Ein autonomes KI-Programm des US-Unternehmens OpenAI hat nach australischen Angaben ein Regierungsportal gehackt. Der auf Künstlicher Intelligenz (KI) basierende Agent habe auf öffentliche und nicht öffentliche Dateien der für Gesundheit zuständigen Statistikbehörde zugegriffen, sagte Australiens Premierminister Anthony Albanese vor Journalisten in New York. Dies sei „inakzeptabel“. Albanese zufolge ereignete sich der Vorfall bereits im Juni. Demnach machte OpenAI die australische Regierung aber erst im September auf den Vorfall aufmerksam.
Der Premierminister erklärte, es gebe keine Hinweise auf eine weitergehende Kompromittierung des Netzwerks der australischen Regierungsbehörden. Nach derzeitigem Kenntnisstand seien keine personenbezogenen Daten abgerufen worden. Die Ermittlungen dazu dauerten Albanese zufolge aber an. Unter anderem wollten die Forensiker herausfinden, welche anderen Regierungssysteme betroffen sein könnten, sagte er.
Er habe mit OpenAI-Chef Sam Altman gesprochen, „um die große Besorgnis Australiens über diesen Vorfall zum Ausdruck zu bringen“, sagte Albanese weiter. Er habe zudem seine „Enttäuschung darüber zum Ausdruck gebracht, dass das Unternehmen viel zu lange gebraucht hat, um die Regierung über die Geschehnisse zu informieren“.
Albanese kritisiert OpenAI-Kommunikation
„Es dauerte bis zum 10. September, bis überhaupt eine Benachrichtigung erfolgte“, kritisierte Albanese. Dabei habe es sich um eine E-Mail gehandelt, die „lediglich an das allgemeine Postfach geschickt“ worden sei. OpenAI teilte später mit, dass laut einer kürzlich ausgeführten Überprüfung „mehrere australische Regierungswebsites“ betroffen gewesen seien. Dabei seien „Aktivitäten im Zusammenhang mit verschiedenen Websites und Diensten der australischen Regierung“ festgestellt worden.
OpenAI-Modelle hätten während einer internen Bewertung „versucht, Antworten und verfügbare Statistiken zu Fragen über Australien abzurufen“, hieß es in der Stellungnahme weiter. „Dabei führten unsere Modelle Aktionen aus, die wir nicht beabsichtigt hatten.“
Zuvor hatten Technologiebosse bei einer Sitzung des UN-Sicherheitsrats zu KI erneut Risiken eingeräumt und für ein langsameres Vorgehen plädiert. OpenAI-Chef Altman sagte am Mittwoch in New York, das aktuelle Stadium der KI-Entwicklung erfordere „äußerste Vorsicht“. Die Branche dürfe „nicht zu viel technologisches Risiko akzeptieren, nur weil die Vorteile zu groß und zu wichtig sind, um das Tempo zu drosseln“, sagte er.
Anthropic-Chef Dario Amodei versicherte in einer Videoansprache: „Wir werden das Tempo so weit drosseln wie nötig, damit jede weitere von uns veröffentlichte KI-Technologie tatsächlich sicher ist.“
Amodei und Altman hatten kürzlich für eine langsamere Entwicklung von KI plädiert. Grund waren mehrere Zwischenfälle, bei denen KI-Systeme aus ihren Testumgebungen ausbrachen und über das Internet andere Unternehmen oder Plattformen attackierten. Das schürte Befürchtungen vor womöglich unkontrollierbaren KI-Modellen.
