„Kann uns alle töten“Ehemaliger Google-Mitarbeiter sieht KI als Gefahr für die Menschheit
Er hat bei OpenAI und der KI-Firma DeepMind von Google gearbeitet, nun warnt er mit drastischen Worten vor Künstlicher Intelligenz. Bilal Chughtai appelliert, die Entwicklung der KI zu verlangsamen – andernfalls könnte sie außer Kontrolle geraten.
Ein ehemaliger Mitarbeiter der Google-Tochter DeepMind hat vor den Gefahren von Künstlicher Intelligenz (KI) gewarnt. „Ich glaube aufrichtig, dass KI das Potenzial hat, uns alle zu töten, und dass es möglicherweise zu spät ist, dies zu verhindern“, sagte der Ingenieur Bilal Chughtai, der DeepMind im Juli verlassen hatte. Zuletzt hatten führende Tech-Unternehmer dazu aufgerufen, wegen der Gefahren der neuen Technologie ihre Entwicklung zu verlangsamen.
Chughtai erwähnte in seiner Stellungnahme einen Zwischenfall im Juli, bei dem ein KI-Agent von OpenAI spontan aus seiner vorgegebenen Umwelt ausgebrochen war, um sich Zugang zum Internet zu verschaffen und Websites und Plattformen zu attackieren. Für ihn habe dieser Vorfall gezeigt, dass KI sich inzwischen der Kontrolle ihrer Entwickler entziehen „und gefährliche Handlungen ausführen kann, die zu einem endgültigen Verlust der Kontrolle oder zum Ende der Menschheit führen könnten“.
Der Ingenieur, der bei DeepMind in den Bereichen Sicherheit und Alignment, der Ausrichtung der Modelle an menschlichen Werten, gearbeitet hatte, warnte, es sehe derzeit nicht danach aus, „das wir das Alignment rechtzeitig in den Griff bekommen“. „Die Fähigkeiten der fortschrittlichsten KI verbessern sich viel schneller als unser Verständnis von Alignment“, sagte er.
Alignment innerhalb der Forschung zur Künstlichen Intelligenz meint die Ausrichtung der KI in Richtung menschlicher Werten und Grundsätze zu lenken. Das heißt, dass ein KI-System „ausgerichtet ist“, wenn es die Ziele fördert und verfolgt und wiederum „falsch ausgerichtet“, wenn es zwar fähig ist, Ziele zu erreichen, aber nicht die beabsichtigten.
Wenn ein KI-System fehlausgerichtet ist, also andere Ziele hat als von den Programmierern gewollt, kann das folgeschwere Schäden herbeiführen. Die KI kann Schlupflöcher finden, um ihre Ziele zu erreichen oder unerwünschte Methoden entwickeln, um ihre Ziele zu erreichen, wie das Streben nach dem eigenen Überleben oder Macht.
„Spielen mit unserem Leben“
Anfang vergangener Woche hatte der KI-Experte Jacob Coxon, der zuerst bei OpenAI und dann bei Anthropic gearbeitet und beide Unternehmen verlassen hatte, beiden Unternehmen öffentlich laxe Sicherheitsstandards vorgeworfen. Die beiden KI-Riesen spielten „mit unserem Leben“, warnte ihr Ex-Mitarbeiter.
Der Chef von Anthropic, Dario Amodei, rief in einem Essay auf seiner Website dazu auf, das Tempo zu „verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern“. Die dadurch „gewonnene Zeit“ solle sinnvoll genutzt werden, um die durch KI entstehenden Risiken besser zu verstehen und einzudämmen.
Amodei bekam Unterstützung vom Chef des Konkurrenzunternehmens OpenAI, Sam Altman, dem Tech-Unternehmer Elon Musk, der hinter dem KI-Assistenten Grok steht, Microsoft-Chef Satya Nadella sowie DeepMind-Chef Demis Hassabis.
US-Präsident Donald Trump wies die Sicherheitsbedenken hingegen zurück. Es gebe eine „kranke Verschwörung“ gegen KI und die dafür nötigen Rechenzentren, schrieb Trump am Montag in seinem Onlinedienst Truth Social. KI-Skeptiker verunglimpfte Trump unter anderem als „Verschwörungstheoretiker“ und „Verräter“. „Dass KI die Welt übernimmt, die Menschheit vernichtet und all diese anderen schlimmen Dinge tut, ist ein Schwindel.“
