Ein KI-Sicherheitsvorfall hat kürzlich einen Schock in Australien ausgelöst – jetzt reagiert die Regierung: Die Regeln für KI-Entwickler sollen verschärft werden. Auch im Strafrecht werden Änderungen geprüft.
Australien will die Sicherheitsvorschriften für KI-Entwickler verschärfen. Die Regierung reagiert damit auf einen schwerwiegenden Hackerangriff durch einen KI-Agenten auf eine Regierungswebsite im Juni.
Nach einer Untersuchung des Vorfalls wurden 18 Empfehlungen ausgesprochen, die die Regierung nach Angaben von Premierminister Anthony Albanese vollständig umsetzen will. „Unsere Aufgabe ist es, dafür zu sorgen, dass wir die Entwicklung der Künstlichen Intelligenz gestalten – und nicht die Künstliche Intelligenz uns“, sagte der Regierungschef.
Gesetz muss „in einigen Fällen aufholen“
Konkret soll eine KI-Aufsichtsbehörde eingerichtet werden, die Sicherheitskontrollen überwachen und bei Verstößen drastische Sanktionen verhängen kann. Außerdem sollen mögliche Änderungen des Strafrechts geprüft werden, um schwerwiegendes Fehlverhalten im Zusammenhang mit Künstlicher Intelligenz besser ahnden zu können.
Die neuen Vorgaben sollen sicherstellen, dass KI-Unternehmen mögliche Gefahren frühzeitig erkennen, ihre Systeme besser absichern und bei Problemen transparent handeln. Es soll verpflichtend werden, Sicherheitsvorfälle im Bereich KI zu melden.
Auch die Kontrolle durch unabhängige Experten und die Veröffentlichung von Sicherheitskonzepten sollen verpflichtend werden. „Das Gesetz muss einer sich sehr schnell verändernden Welt voraus sein und in einigen Fällen aufholen“, erklärte Albanese.
KI-Agent hatte Regierungsportal gehackt
Die Maßnahmen gehen auf einen Sicherheitsvorfall im Juni zurück: Ein autonomer KI-Agent des Unternehmens OpenAI hatte unbefugt ein australisches Regierungsportal gehackt, das unter anderem Statistiken über die staatliche Krankenversicherung des Landes bereitstellt.
Die Webanwendung hatte dem Agenten mehrfach den Zugriff verwehrt – dieser setzte sich aber darüber hinweg und fand schließlich selbst einen Weg ins System. Dabei konnte er auch auf nicht öffentliche Dateien zugreifen. Nach bisherigen Erkenntnissen sollen jedoch keine persönlichen Informationen abgegriffen worden sein.
Spannungen zwischen OpenAI und Regierung
OpenAI informierte die australischen Behörden erst im September über den Vorfall – per E-Mail an ein öffentliches Postfach. Albanese bezeichnete das Verhalten des Unternehmens als inakzeptabel. Der Zwischenfall hat die Spannungen zwischen Australien und US-Technologiekonzernen verschärft.
Die Regierung hatte dem ChatGPT-Hersteller OpenAI und dem Konkurrenten Anthropic zuvor bereits Ausnahmen vom Urheberrecht für das Training ihrer Modelle verweigert. Beide Unternehmen hatten jedoch im vergangenen Monat vor dem australischen Parlament erklärt, dass sie Gesetze zur Meldepflicht bei Datenpannen durch ihre KI-Systeme begrüßen würden.
Australien sieht sich als Vorreiter bei KI-Regulierung
Australiens Regierung sieht sich bei der Regulierung hoch entwickelter KI-Systeme als Vorreiter und spricht von einem „weltweit wegweisenden“ Vorhaben.
Das umfassende KI-Gesetz mit den verpflichtenden Sicherheits- und Schutzmaßnahmen soll voraussichtlich Anfang 2027 ins Parlament eingebracht werden.
