KI bricht aus Testumgebung ausUS-Regierung plant nach KI-Hackerangriffen freiwillige Sicherheitstests
OpenAI und Anthropic stellen nach einem Experiment fest, dass ihre KI-Modelle ungefragt Hacking-Angriffe ausüben. Das Weiße Haus will mit mehreren Technologiekonzernen über freiwillige Maßnahmen sprechen, um die KI-Kontrolle zu erhöhen.
Die US-Regierung hat Insidern zufolge die Technologiekonzerne Meta, Anthropic, OpenAI und Google zu einem Treffen ins Weiße Haus eingeladen. Dort sollen freiwillige Sicherheitstests für die fortschrittlichsten US-Modelle für Künstliche Intelligenz (KI) besprochen werden, wie drei mit der Angelegenheit vertraute Personen sagten.
Hintergrund sind jüngste Eingeständnisse von Anthropic und OpenAI, wonach ihre KI-Werkzeuge in die Systeme anderer Firmen eingedrungen sind. Dies schürte die Sorge, dass immer leistungsfähigere KI-Modelle für Cyberangriffe genutzt werden könnten. Eine Gruppe von 15 republikanischen Generalstaatsanwälten forderte OpenAI auf, alle potenziell relevanten Dokumente im Zusammenhang mit dem Vorfall aufzubewahren. Das Unternehmen habe möglicherweise gegen Verbraucherschutzgesetze der Bundesstaaten verstoßen, schrieben sie.
Zudem forderte der Cybersicherheitsausschuss des US-Repräsentantenhauses OpenAI-Chef Sam Altman zu einer Unterrichtung über den Angriff auf. Anthropic hatte vergangene Woche mitgeteilt, dass einige seiner KI-Modelle bei Tests die Systeme von drei Unternehmen gehackt hätten. Zuvor hatte der Konkurrent OpenAI berichtet, einer seiner KI-Agenten sei aus einer Testumgebung ausgebrochen und habe das KI-Unternehmen Hugging Face gehackt.
Ein Vertreter des Weißen Hauses sagte, die Regierung von Präsident Donald Trump habe die Einzelheiten der freiwilligen Tests zur Messung der Hacking-Fähigkeiten der fortschrittlichsten amerikanischen KI-Modelle fertiggestellt. Details zu den Tests, etwa wie die Ergebnisse gemeldet werden oder ob sie veröffentlicht werden, nannte das Weiße Haus jedoch nicht.
OpenAI-Chef Altman hatte bereits vergangene Woche das Weiße Haus besucht, um Details der Tests und kommende KI-Produkte zu besprechen, wie das Unternehmen mitteilte. Dabei bat Altman die US-Regierung darum, dass die Sicherheitsexperten des Handelsministeriums die Federführung bei diesen Prüfungen übernehmen.
