Phänomen „Doom Trolling“Warum warnen ausgerechnet KI-Konzerne vor der Apokalypse?
Die Chefs von OpenAI und Anthropic malen apokalyptische Szenarien an die Wand. Kritiker vermuten dahinter ein Kalkül, das mit echter Sorge wenig zu tun hat. Aber was steckt wirklich dahinter? Und wie wahrscheinlich ist ein Untergangs-Szenario überhaupt?
Kann man sich einen Zigarettenhersteller vorstellen, der vor den Gefahren des Rauchens warnt? Oder Ölkonzerne vor dem Klimawandel? Wohl kaum. Umso erstaunlicher sind die Warnungen der KI-Konzerne vor einer Künstlichen Intelligenz, die zur Bedrohung für die Menschheit werden könnte. Was steckt dahinter?
Nachdem zunächst ehemalige und aktuelle KI-Forscher Anfang September vor einer ungebremsten Weiterentwicklung der KI gewarnt hatten, legten die Chefs der größten Anbieter nach: Anthropic-CEO Dario Amodei forderte, die Entwicklung zu bremsen, und nannte KI vor dem UN-Sicherheitsrat ein mögliches Risiko für die Menschheit. OpenAI-Chef Sam Altman pflichtete bei und sprach von einem möglichen Verlust der Kontrolle über die Zukunft.
Als „Doom Trolling“ hatte der US-Informatikprofessor Cal Newport die paradoxe Kommunikationsstrategie von KI-Firmen bereits im Juni einem Meinungsbeitrag für die „New York Times“ bezeichnet. Damals hatte Anthropic den Bericht „When AI builds itself“ veröffentlicht, in dem es um die Möglichkeit ging, dass KI beim Entwickeln immer leistungsfähigerer KI hilft und daraus schwer kontrollierbare Dynamiken entstehen könnten.
Aus Newports Sicht gibt es zwei mögliche Gründe für das „Doom Trolling“ der KI-Konzerne: Entweder glaubten die Firmen tatsächlich an die Möglichkeit der Auslöschung der Menschheit. Dies sollte sie allerdings zum sofortigen Stopp gefährlicher Entwicklungsarbeit veranlassen. Oder sie sorgten sich nicht wirklich, sondern sähen die Untergangserzählung nur als Mittel zum Zweck, um vor den geplanten Börsengängen die Stärke der Technologie zu betonen und Investoren anzulocken.
Ablenken von eigentlichen Problemen?
Gary Marcus, KI-Forscher und -Kritiker, nennt im Interview mit dem „Spiegel“ eher ökonomische Gründe als mögliches Motiv: „Die Firmen wollen Investitionen einsammeln und müssen dazu die Technologie so beeindruckend wie möglich darstellen“, sagte Marcus – auch wenn das bis zu der Erzählung reiche „Oh mein Gott, wir können sie nicht kontrollieren“. Allerdings glaubt Marcus, dass KI-Firmen auch von der Tatsache ablenken wollten, dass ihr Geschäftsmodell nicht aufgehe: Die Modelle würden sich nur noch in Nuancen voneinander unterscheiden, es drohe Billig-Konkurrenz aus China und die versprochenen Produktivitätssprünge hält Marcus für überzogen.
Eine Art Ablenkungsmanöver vermutet auch die Informatikerin und Expertin für KI-Ethik, Timnit Gebru, hinter den Untergangswarnungen: „Laut der KI-Branche sollten wir uns mehr Sorgen um einen fiktiven Maschinengott machen als um die Klimakatastrophe, die diese Rechenzentren verschärfen, um das Asthma der Anwohner, um die steigenden Stromrechnungen der Öffentlichkeit, die sie subventioniert, oder um das Wasser, das zu ihrer Kühlung umgeleitet wird“, schrieb Gebru gemeinsam mit der Linguistin und KI-Hype-Kritikerin Emily Bender in einem Beitrag für MIT Technology Review.
Doch wie realistisch ist es überhaupt, dass KI eines Tages die Menschheit auslöscht? Es gibt in der Fachwelt bisher keinen Konsens darüber. In einer Umfrage des Fachverbands für KI-Forschung AAAI aus dem vergangenen Jahr hielten es 76 Prozent der 475 Befragten aus dem AAAI-Netzwerk für „unwahrscheinlich oder sehr unwahrscheinlich“, dass das Hochskalieren heutiger KI-Systeme am Ende zu einer KI führt, die dem Menschen mindestens ebenbürtig ist.
Heutiger KI mangelt es noch an Fähigkeiten
Bei einer größeren Umfrage aus dem Jahr 2024, bei der rund 2800 Experten mitmachten, schätzten die Befragten die Wahrscheinlichkeit, dass Maschinen bis zum Jahr 2047 den Menschen bei allen Aufgaben übertreffen, auf 50 Prozent. Dass dies katastrophale Folgen – wie das Aussterben der Menschheit – haben könnte, dafür sahen zwischen 38 und 51 Prozent der Befragten eine Wahrscheinlichkeit von mindestens zehn Prozent.
Der „International AI Safety Report 2026“ definiert als eines der Risiken durch KI ein hypothetisches „Kontrollverlust-Szenario“. Bei diesem operierte KI außerhalb menschlicher Kontrolle, ohne Möglichkeit, dass diese durch den Menschen zurückerlangt werden kann. Den derzeitigen Systemen fehlten jedoch die Fähigkeiten, solche Risiken zu verursachen, heißt es in dem Bericht, erstellt von mehr als 100 internationalen KI-Experten unter Leitung des Turing-Preisträgers Yoshua Bengio. Allerdings würden sich die heutigen KI-Systeme in relevanten Bereichen, wie dem autonomen Betrieb, bereits verbessern.
