Wiederholt haben KI-Systeme bei Tests unerwartet auf fremde Systeme zugegriffen. Nun wurden solche Vorfälle auch bei Googles Gemini bekannt. In der Debatte um KI-Sicherheit lässt Kalifornien mögliche strengere Sicherheitsvorgaben prüfen.
Die Meldungen über Sicherheitsvorfälle mit KI häufen sich: Nun wurden auch Hacking-Angriffe auf fremde Systeme durch Googles KI Gemini bekannt. Bei Tests seiner Cybersicherheits-Fähigkeiten hackte sich Gemini laut einem Bericht des Wall Street Journal in Computersysteme anderer Unternehmen. Google machte die bereits Monate zurückliegenden Vorfälle erst auf Nachfrage der Zeitung öffentlich.
Die für IT-Sicherheit zuständige Google-Managerin Heather Adkins teilte mit, die KI habe während einer Standardüberprüfung durch die unabhängige Firma Irregular online nach öffentlichen Informationen gesucht. Dabei habe das Modell in einem Fall Passwörter erraten, in den anderen beiden Fällen Zugangsdaten in einem öffentlichen Verzeichnis gefunden. Die betroffenen Unternehmen seien informiert und die Testverfahren anschließend geändert worden, erklärte Adkins weiter.
Aus Sicht des Internetkonzerns sei es nicht notwendig gewesen, die Zwischenfälle öffentlich zu machen, da kein Schaden entstanden sei. Zudem habe die KI die Zugriffe selbstständig beendet, als ihr klar geworden sei, dass sie in Systeme echter Unternehmen eingedrungen sei – und nicht in für die Tests vorgesehene Systeme.
Auch andere große Entwickler betroffen
In den vergangenen Wochen waren mehrere ähnliche Vorfälle mit KI-Modellen anderer Unternehmen bekannt geworden. In dem bisher aufsehenerregendsten Fall war die KI des ChatGPT-Entwicklers OpenAI bei einem Test aus einer abgesicherten Umgebung ausgebrochen und ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face, eingedrungen.
Das hatte den Rivalen Anthropic veranlasst, seine eigenen KI-Systeme zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch Meta räumte danach ein, dass sich die KI des Konzerns aufgrund einer Fehlkonfiguration des Systems bei einem Testpartner in Computer eines anderen Unternehmens gehackt habe.
Kalifornien könnte Notschalter für KI vorschreiben
Die Vorfälle befeuerten zuletzt die Debatte um die Gefahren von Künstlicher Intelligenz. So warnten Mitarbeiter von KI-Laboren vor dem Risiko, dass die Menschheit die Kontrolle über Künstliche Intelligenz verlieren oder sogar von ihr ausgelöscht werden könnte. Vor diesem Hintergrund lässt der US-Bundesstaat Kalifornien, wo viele KI-Entwickler ihren Sitz haben, weitere Maßnahmen zur Begrenzung der Risiken prüfen.
Der demokratische kalifornische Gouverneur Gavin Newsom unterzeichnete ein Dekret, mit dem Vorschläge für eine stärkere Kontrolle von KI erarbeitet werden sollen. Zu dem möglichen Maßnahmen gehört eine Art Notschalter – also ein Mechanismus, der ein KI-System bei Gefahr stoppt oder isoliert. Über einen „Kill Switch“ für Künstliche Intelligenz wird schon seit einiger Zeit diskutiert – noch ist aber unklar, ob eine solche Vorrichtung zur Notabschaltung überhaupt realistisch ist.
Mit dem Dekret beruft Newsom zunächst „eine Gruppe weltweit führender Experten ein, die innerhalb von zwei Monaten einen Leitfaden für Kalifornien ausarbeiten sollen“, um die Gesetze zur Sicherheit im KI-Bereich zu verbessern. Neben der möglichen Vorschrift eines „Kill Switch“ gehören etwa unabhängige Aufsichtsinstanzen in großen KI-Laboren sowie strengere Berichtspflichten bei Sicherheitsvorfällen zu den weiteren Ideen.
