Wer KI bremst, begeht „Mord“Hinter den Gefahren einer Superintelligenz steckt eine totalitäre Ideologie
Trotz apokalyptischer Warnungen sagen die KI-Konzerne Nein zu staatlicher Regulierung. Nicht nur, um ihre Profite zu schützen. Einige Tech-Milliardäre glauben an den bedingungslosen Fortschritt und die kommende Superintelligenz. Egal, was es die Menschheit kostet.
Donald Trump hat keine Angst vor dem Ende der Welt. „Ich sage Dir, es ist alles Schwindel“, beschwerte der US-Präsident sich Mitte September auf der All-In-Konferenz in Los Angeles in einem Anruf bei Nvidia-Chef Jensen Huang, als der gerade auf der Bühne saß. „Rechenzentren sind großartig. Sie machen Menschen reich. Sie sind das Öl der nächsten 20 bis 25 Jahre. Sie sind wichtiger als das Internet. Die Roboter werden nicht die Macht übernehmen, und die KI wird nicht den Rest der Welt erobern.“
Eine überwältigende Mehrheit der US-Bevölkerung möchte angesichts außer Kontrolle geratenden KI-Agenten der Technologie Grenzen setzen und sie staatlich kontrollieren. Doch Trump und die Tech-Milliardäre, die seit seinem zweiten Amtsantritt im Weißen Haus mitregieren, ignorieren diese Forderungen. Ihr Rezept heißt Selbstregulierung: Unter dem Motto „Vertrauen Sie uns“ wollen allein sie das letzte Wort darüber haben, welche Risiken bei der KI-Entwicklung zumutbar sind.
Das liegt an mehr als an den Eigeninteressen der Tech-Riesen, die so ihre Profite schützen. Einige von ihnen wollen in genau die dystopische Zukunft, die Trump telefonisch in Los Angeles als Hirngespinst abtat. In der eine übermächtige Superintelligenz und humanoide Roboter den Alltag bestimmen. Zumindest nehmen sie Risiken in Kauf – egal, welche Kosten das womöglich für die menschliche Spezies hat. Ihr Wertesystem trägt Züge einer potenziell totalitären Ideologie, die den bedingungslosen technologischen Fortschritt im Zweifel über das Wohlergehen aller stellt.
KI zu bremsen, ist eine Form von „Mord“
Der Tech-Philosoph Jaron Lanier hat erst vor wenigen Wochen die Denkweise in den Tech-Konzernen erklärt. Dort glaube man mit quasi-religiöser Überzeugung an eine kommende Superintelligenz. Nichts anderes sei in ihrer Arbeit wirklich wichtig: „Es gibt diese Pseudo-Religion und vielleicht ist es sogar eine vollständige Religion, dass wir diese Nachfolgespezies erschaffen, diesen digitalen Gott, das Superwesen, das vielleicht besser ist als die Menschen selbst.“ Nur unter dieser Prämisse würden unterschiedliche Meinungen zu den Folgen des technologischen Fortschritts diskutiert.
Das zentrale Mantra vieler Tech-Milliardäre ist dabei, dass nichts den technischen Fortschritt bremsen darf. Dieser sogenannte Akzelerationismus, die bedingungslose Beschleunigung technologischer Entwicklung ohne gesellschaftliche, demokratische Kontrolle, ist an höchster Stelle in Washington präsent. Marc Andreessen etwa, der höchst einflussreiche Investor, der Trump bei der Auswahl seiner Regierungsmannschaft beriet und im angeblichen Wissenschaftsbeirat PCAST sitzt, über den die Tech-Titanen faktisch mitregieren, trägt ihn schon länger vor sich her. „Wir glauben an Akzelerationismus“, hat Andreessen 2023 in seinem „Tech-Optimist Manifesto“ über die demnach vorherrschende Meinung vieler Tech-Oligarchen im Silicon Valley geschrieben. „Wir glauben, dass künstliche Intelligenz unsere Alchemie ist, unser Stein der Weisen – wir bringen buchstäblich Sand zum Denken.“ Andreessen ist einer von vielen.
OpenAI-Chef Sam Altman schwärmte schon 2017, die Menschheit werde „die erste Spezies sein, die ihre eigenen Nachkommen erschafft.“ Entweder könne sie „zum biologischen Zündschlüssel digitaler Superintelligenz werden“ und dann als „Nebenast der Evolution verblassen“ – oder sich mit ihr vereinen. Peter Thiel, der die Tech-Ideologie wie kein Zweiter geprägt hat, habe den zentralen Glaubenssatz, „dass technologischer Fortschritt rücksichtslos verfolgt werden sollte – mit wenig bis gar keiner Rücksicht auf die potenziellen Kosten oder Gefahren für die Gesellschaft“, schreibt sein Biograf Max Chafkin. Fortschritt, Fortschritt über alles: Aus dieser Überzeugung heraus haben sich einige der Tech-Milliardäre, die im Weißen Haus direkt beraten und Trump beeinflussen, von demokratischen Werten entfernt oder sogar komplett verabschiedet.
Andreessen hält es laut seinem Manifest für eine „Form von Mord“, die Entwicklung von KI zu bremsen: „Jede Verzögerung wird Menschenleben kosten.“ Als Bannerträger des Akzelerationismus in der Branche führt der Tech-Milliardär nicht nur Helden der österreichisch-libertären Wirtschaftslehre wie Friedrich August von Hayek und Ludwig von Mises oder den Tech-Futuristen Ray Kurzweil auf. Sondern auch den Philosophen James Burnham, der 1941 prognostizierte, der Kapitalismus werde zu einer Gesellschaft mit begabten Managern führen, die über ein Volk von Halbsklaven herrschten, und so die liberale Demokratie ablösen. Burnham erwartete deshalb den Sieg Nazideutschlands im Zweiten Weltkrieg.
„Ein besessener Drang zur Eile“
In dieser Radikalität liegt etwas potenziell Totalitäres. Es stellt das abstrakte Prinzip des maximal schnellen Fortschritts als absolute Ideologie und historisches Naturgesetz über das Wohlergehen von Millionen, wie es etwa Hannah Arendt als ein Wesensmerkmal des Totalitarismus definiert hat: „Ideologien interessieren sich nie für das Wunder des Daseins“. Stattdessen ordneten sie der einen Idee, mit der sie die gesamte Weltgeschichte zu erklären versuchten, alles unter. Das ultimative Ziel sei „nicht das Glück der Menschen oder das Interesse eines Einzelnen“. Sondern die „Fabrikation der Menschheit“, die Verwirklichung einer abstrakten Vorstellung von Geschichte. Dafür würden „die ‚Teile‘ im Dienste des ‚Ganzen‘ geopfert.“
Andreessen präsentierte sich und seine Glaubensgenossen in seinem Essay als Achse der Zivilisation: Ohne uns geht nichts, ohne uns seid ihr dem Untergang geweiht. Die technischen Entwicklungen müssten bewusst vorangetrieben werden, würden immer schneller und profitabler, schrieb er. Geschwindigkeit geht dabei vor Fehlerfreiheit, Scheitern ist eine Option – das ist der Kern des Mottos. Die Tech-Milliardäre setzen darauf, lieber schnell das Neue auszuprobieren, auch wenn dabei etwas kaputtgeht, als eine Innovation aus Sicherheitsgründen zu bremsen oder gar auszulassen.
So radikal ist etwa Elon Musk bei all seinen Firmen vorgegangen, von PayPal über Tesla bis SpaceX und Twitter. Im Zweifel kürzt er die Kosten erst einmal zu viel, reparieren kann man notfalls später. Auch auf die Gefahr hin, dass das System dabei zerbricht. „Wenn man hinterher nicht in mindestens zehn Prozent der Fälle wieder etwas hinzufügt, hat man eindeutig nicht genug gelöscht“, erklärte Musk seinem Biografen Walter Isaacson den wichtigsten Schritt im heiligen Fünf-Punkte-Mantra seiner Firmen, das er den „Algorithmus“ nennt: „Ein besessener Drang zur Eile ist unser Handlungsprinzip.“ Musk definierte als sein Lebensziel, die Menschheit koste es, was es wolle mit seinen Firmen auf den Mars zu bringen und in eine interplanetare Spezies zu verwandeln.
Den Preis haben bereits andere gezahlt: Zwei Menschen sind bei SpaceX bereits durch Unfälle gestorben. Nicht etwa bei der Explosion von Raketen in der Luft, sondern bei ihrer Produktion am Boden. Hinzu kamen mindestens 600 Menschen mit verschiedenen Verletzungen; zermalmte Gliedmaßen, Amputationen, Stromschläge, Kopf- und Augenverletzungen.
Demokratieunterstützer sind „eher dumm“
Dass die Tech-Milliardäre von Trump freie Bahn bei KI bekommen, liegt auch daran, dass sie inzwischen so wichtig geworden sind. Das US-Wirtschaftswachstum hängt zum Großteil vom KI-Boom ab, den sie befeuern, 2026 ging bislang etwa ein Drittel bis die Hälfte davon auf sie zurück. Ihre Ansprüche auf unternehmerische Freiheit und bedingungslosen Fortschritt können sie daher mit aller wirtschaftlicher Macht durchsetzen.
Sie und ihre Konzerne haben damit das erreicht, worüber Peter Thiel schon 2010 auf einer libertären Konferenz sinniert hatte. Technik und Politik befänden sich in einem „Rennen“, mit Technologie könnten an den Wählern vorbei Veränderungen erzwungen werden, sagte er damals. „Wir konnten bei bestimmten Themen niemals eine Wahl gewinnen, weil wir eine so kleine Minderheit waren“, erzählte er von den Überlegungen während der Gründerzeit mit Musk bei PayPal in den späten 1990er-Jahren: Man könne demnach den IQ von Menschen im Grunde ganz einfach daran messen, wie optimistisch sie in Bezug auf die Politik waren. „Die eher dummen Leute neigten dazu zu denken, wirklich alle sollten wählen gehen.“ Das Mittel gegen Mitbestimmung sei Technik. „Vielleicht könnte man die Welt tatsächlich einseitig verändern, ohne ständig Menschen überzeugen, anflehen und beschwören zu müssen, die einem niemals zustimmen werden – und zwar mithilfe technologischer Mittel.“
Warum sollten die Tech-Milliardäre also aktuell einer staatlichen Regulierung von KI durch einen demokratischen Prozess zustimmen? Schließlich wird Musks „besessener Drang zur Eile“ auf höchster Ebene von Trump mitgetragen. Für manche der Tech-Milliardäre bremst die Mitbestimmung der Wähler nur den bedingungslosen Fortschritt, die liberale Demokratie steht ihm unreformierbar im Wege. Wenn die für eine Superintelligenz durch ein neues, hierarchisches System ersetzt werden sollte, wäre es das für sie wert – oder schlicht folgerichtig.
