„Weitergabe sensibler Daten“OpenAI feuert drei Sicherheitsforscher
Sie sollten die jüngsten Vorfälle rund um ausgebrochene KI-Systeme bei OpenAI aufarbeiten – jetzt entlässt das Unternehmen drei Sicherheitsforscher. Der ChatGPT-Entwickler wirft ihnen vor, „das für unsere Arbeit unverzichtbare Vertrauen missbraucht“ zu haben.
Der ChatGPT-Entwickler OpenAI hat drei Sicherheitsforscher wegen der Weitergabe sensibler Informationen entlassen – offenbar waren sie mit der Aufarbeitung der jüngsten Sicherheitsvorfälle rund um ausgebrochene KI-Systeme beschäftigt. Ein OpenAI-Sprecher sagte am Donnerstag: „Wir haben uns von drei Mitarbeitern getrennt, weil sie gegen unsere Regeln zum Zugriff auf und zur Verarbeitung sensibler Unternehmensdaten verstoßen haben.“
Eine interne Untersuchung habe bestätigt, dass die Beschäftigten sensible Informationen außerhalb der festgelegten Verfahren verarbeitet und damit „das für unsere Arbeit unverzichtbare Vertrauen missbraucht“ hätten, teilte der Sprecher mit. Das „Wall Street Journal“ („WSJ“) nannte die Namen der drei Beschäftigten. Alle drei sprachen sich in Onlinenetzwerken für eine Verlangsamung der Entwicklung der Künstlichen Intelligenz (KI) aus.
Einer von ihnen war dem Blatt zufolge ein Ansprechpartner bei OpenAI bei der externen Untersuchung des Angriffs auf die Plattform Hugging Face. Im Juli hatte OpenAI bekannt gemacht, dass sich eigene KI-Agenten während eines Sicherheitstests selbstständig mit dem Internet verbunden und interne Systeme der Programmierplattform Hugging Face angegriffen hatten. Dies war die erste in einer langen Reihe von Enthüllungen über Fehlentwicklungen bei KI-Tests bei OpenAI und anderen KI-Unternehmen.
Anfang September warf der KI-Experte Jacob Coxon, der früher erst bei OpenAI und dann beim Konkurrenten Anthropic gearbeitet hatte, beiden Unternehmen öffentlich laxe Sicherheitsstandards vor. Die beiden KI-Riesen spielten „mit unserem Leben“, warnte er. Die drei nun entlassenen Forscher von OpenAI – laut „WSJ“ handelt es sich um Tomek Korbak, Jasmine Wang und Mikita Balesni – unterstützten Coxon in Botschaften im Onlinedienst X.
Balesni schrieb: „Ich arbeite bei OpenAI und glaube, dass die KI eine Wahrscheinlichkeit von mehr als zehn Prozent hat, alle Menschen zu töten.“ Korbak fügte später hinzu: „Ich bin mit einem Großteil dessen, was OpenAI tut, sehr unzufrieden“ und „sehr froh, das Recht zu haben, dies zu sagen“. Wang schrieb: „Ich möchte meine Bedenken äußern, damit wir handeln – nicht, um Angst zu schüren.“
Neuer Zwischenfall
In den vergangenen Tagen wurde bekannt, dass OpenAI nach einem neuen Zwischenfall das Training der leistungsstärksten Künstlichen Intelligenz ausgesetzt hat. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte. Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, hieß es. Das Eingeständnis war besonders heikel, da OpenAI die Sicherheitsvorkehrungen nach der Hacking-Attacke auf Hugging Face verschärft hatte. Zudem strich die Firma die Veröffentlichung eines neuen KI-Modells nach Sicherheitsbedenken.
Forscher aus der Branche warnten zuletzt mehrfach vor einem existenziellen Risiko für die Menschheit, wenn leistungsstarke Künstliche Intelligenz außer Kontrolle geraten sollte. OpenAI-Chef Sam Altman solidarisierte sich mit dem Vorschlag des Konkurrenten Dario Amodei vom KI-Entwickler Anthropic, die Entwicklung der fähigsten KI-Modelle abzubremsen. Nach einem Treffen mit US-Präsident Donald Trump verpflichteten sich die Unternehmen jedoch nur, die Sicherheitsvorkehrungen zu stärken und externe Beobachter zuzulassen. Er wolle, dass sich die Unternehmen gegenseitig beaufsichtigten, sagte Trump.
