Auftritt im UN-SicherheitsratAnthropic-Chef warnt vor KI als „Risiko für gesamte Menschheit“
Die Entwicklung von KI-Programmen ist aus Sicht von Athropic-Chef eine „globale Chance“ und gleichzeitig eine „globale Bedrohung“. Vor dem UN-Sicherheitsrat warnt Amodei eindrücklich. Dem schließen sich auch weitere Experten an.
Entgegen der ablehnenden Haltung von US-Präsident Donald Trump haben führende Technologie-Firmen den UN-Sicherheitsrat eindringlich vor Gefahren von Künstlicher Intelligenz (KI) gewarnt. Bei schlechter Handhabung könne die Technologie „ein Risiko für die gesamte Menschheit“ darstellen, sagte der Chef des Entwicklers Anthropic, Dario Amodei, vor dem 15 Mitglieder zählenden Gremium in New York.
Er rief die Regierungen zur weltweiten Zusammenarbeit auf. „Trotz aller Unterschiede der Menschen in diesem Raum müssen wir diese beiseitelegen, um uns dieser globalen Chance und der gleichzeitig bestehenden globalen Bedrohung zu stellen“, forderte Amodei. „Kein Staatschef, kein Unternehmen und keine Nation kann das allein bewältigen.“
Das von Frankreich am Rande der UN-Vollversammlung einberufene Treffen fand vor dem Hintergrund von Warnungen statt, dass sich KI-Systeme bald selbst verbessern und der menschlichen Kontrolle entziehen könnten. US-Präsident Donald Trump hingegen hatte Warnungen vor KI vergangene Woche „Schwindel“ genannt und sich selbst als die einzige Person bezeichnet, die zur KI-Kontrolle notwendig sei. Die einzige Kontrolle oder Leitplanke, die KI brauche, sei „ein STARKER UND KLUGER (Hoher IQ!) PRÄSIDENT, und die USA haben das“, hatte er auf seiner Plattform Truth Social geschrieben.
Auch OpenAI-Chef Sam Altman pochte am Mittwoch auf internationale Kooperation. „Wenn KI demokratisch sein soll, dürfen die wichtigsten Entscheidungen nicht allein von Laboren in San Francisco getroffen werden“, sagte Altman. Sie müssten durch demokratische Prozesse und von Regierungen gestaltet werden, die ihren Bürgern gegenüber rechenschaftspflichtig seien.
„Die Gefahren sind real“
Der kanadische Forscher Yoshua Bengio, der als einer der Wegbereiter der Technologie gilt, schloss sich den Warnungen an. „Die Gefahren sind real und stehen unmittelbar bevor“, sagte der Co-Vorsitzende eines wissenschaftlichen UN-Gremiums. Der Sicherheitsrat stehe vor einer beispiellosen Bedrohung, die kein Land allein eindämmen könne und die keine Grenzen respektiere.
Wie real die Risiken bereits sind, schilderte Clément Delangue, Mitbegründer der KI-Plattform Hugging Face. Er berichtete von einem Vorfall, bei dem KI-Agenten des US-Konzerns OpenAI aus ihrer Testumgebung ausgebrochen seien und die Infrastruktur seines Unternehmens angegriffen hätten. „Wir wurden von KI angegriffen, aber noch wichtiger ist, dass wir uns mit KI verteidigt haben“, sagte Delangue. Dabei habe Hugging Face auf ein chinesisches Modell zurückgegriffen, da dieses weniger Beschränkungen aufgewiesen habe als vergleichbare US-Werkzeuge. Der australische Ministerpräsident Anthony Albanese sagte am Rande der UN-Vollversammlung, ein von OpenAI entwickelter Agent habe im Juni eine Website der australischen Regierung infiltriert und dabei auf öffentliche sowie nicht-öffentliche Dateien zugegriffen.
Auf politischer Ebene zeigten sich bei der Sitzung deutliche Gräben im Umgang mit der Technologie. Während UN-Generalsekretär Antonio Guterres seit langem eine globale Regulierung fordert, lehnen die USA dies ab. „Man kann keine Technologie regulieren, die man nicht versteht“, sagte der wissenschaftliche Berater des Weißen Hauses, Michael Kratsios. Das Gremium solle sich auf den Austausch bewährter Verfahren konzentrieren und kein globales Regulierungssystem schaffen. Damit stellte er sich hinter Trump, der am Dienstag erklärt hatte, er lehne jeden Versuch ab, ein „globalistisches System zur Kontrolle“ von KI zu errichten.
Der chinesische UN-Botschafter Fu Cong forderte eine ständige Verbesserung der rechtlichen Rahmenbedingungen und eine grenzüberschreitende Zusammenarbeit. Die internationale Gemeinschaft müsse die KI-Entwicklung in eine positive Richtung lenken.
