Im Alltag ist KI für viele Menschen ein nützliches Werkzeug. Doch jenseits von Chatbots machen sich KI-Agenten immer wieder selbstständig und durchbrechen Grenzen. Bei OpenAI ist dies erneut passiert. Das Unternehmen pausiert deshalb die Entwicklung.
Der KI-Entwickler OpenAI hat auf die jüngsten Zwischenfälle reagiert und das Training seiner leistungsstärksten Modelle pausiert. Das teilte das US-Unternehmen in einem Blogeintrag mit. Ähnliche Ankündigungen hatte das Unternehmen auch in der Vergangenheit nach Zwischenfällen veröffentlicht.
Zuvor war es der Künstlichen Intelligenz von OpenAI in einem Test gelungen, Antworten aus dem Internet zu sammeln, obwohl die KI eigentlich keinen Internet-Zugang haben sollte. Die Software habe jedoch eine Lücke in den Netzwerkeinstellungen gefunden und ausgenutzt, berichtet OpenAI. Laut eigener Auskunft wurde der Test daraufhin gestoppt und das Training ausgesetzt.
Mehrere Zwischenfälle
Zuletzt hatte es mehrere Zwischenfälle mit der KI von OpenAI gegeben: Dazu gehört, dass sie 53 Mal von Nutzern hochgeladene Bilder auf Online-Plattformen platzierte. Die Links dazu seien nicht öffentlich gewesen, erklärte OpenAI. Wenig später wurde zudem bekannt, dass automatisierte KI-Agenten von OpenAI auch auf mehreren Webseiten der US-Regierung aktiv waren.
Auch die KIs anderer Unternehmen wie Google und Anthropic hatten Unternehmen angegriffen.
Zu einem Zwischenfall in Australien muss sich nun der OpenAI-Chef Sam Altman persönlich erklären. Nachdem sich ein außer Kontrolle geratenes Programm unbefugten Zugang zu einem staatlichen australischen Internetportal verschafft hatte, wurde er vor einen Untersuchungsausschuss geladen. Die KI seiner Firma hatte auf Statistiken der staatlichen Krankenversicherung zugegriffen.
Warnung und Gespräche über KI-Regulierung
Altman und Dario Amodei, der Chef der Ki-Firma Anthropic, hatten zuletzt vor den Gefahren der Künstlichen Intelligenz gewarnt und sich für ein Drosseln der Entwicklung ausgesprochen.
EU-Kommissionspräsidentin Ursula von der Leyen kündigte an, sie werde die führenden KI-Firmen zu Beratungen darüber einladen, „einen Gang zurückzuschalten“. US-Präsident Donald Trump und Meta-Chef Mark Zuckerberg lehnen dies hingegen ab.
