Peter Thiel greift Pontifex anBei KI wird der Papst zum „Antichristen“
Im Silicon Valley herrscht der Glaube an eine künftige Superintelligenz vor. Anthropic will offenbar die Weltreligionen davon überzeugen, sie wie ein lebendes Wesen zu behandeln. Bei Papst Leo XIV. stoßen bislang aber alle Anstrengungen auf Granit.
Derzeit diskutieren Vertreter der US-Techkonzerne und die Politik über die Gefahren zukünftiger Fähigkeiten von KI. Zuletzt schmiss ein Sicherheitsexperte bei OpenAI hin, weil „die Unternehmenskultur kaputt ist“. Die Firmen seien „nicht nur annähernd vorsichtig genug“ bei der Entwicklung der Technologie. Sein Ex-Chef Sam Altman sagte danach schlicht: „Die Welt sollte ein paar schlechte Dinge für die Vorteile hinnehmen.“ Doch neben diesem öffentlichen Hin und Her findet noch etwas anderes statt: Manche Mitglieder der Tech-Branche versuchen hinter verschlossenen Türen, Religionsanhänger auf ihre Seite zu ziehen. Darunter ist auch die katholische Kirche, wie die „New York Times“ berichtet.
Anthropic, das Unternehmen der Claude-KI, trifft sich laut dem US-Medium in Seminaren mit Religionsvertretern, um die angebliche Menschlichkeit und das spirituelle Potenzial von Claude aufzuzeigen. Das Ziel ist demnach eine mögliche Anerkennung der Technologie als bewusstes Wesen. Es ist eine höchst explosive Abwägung, die ethische und moralische Fragen, manche davon werden seit jeher diskutiert, über den Haufen werfen könnte. Spätestens seit Anfang des Jahres mittendrin: Papst Leo XIV., ein US-Amerikaner.
Zugleich befindet sich der äußerst gut vernetzte Tech-Investor Peter Thiel auf einem Kreuzzug, auf dem er Widerstand gegen ungebremsten technologischen Fortschritt und deren Vertreter als „Antichristen“ verteufelt. Bei einer Veranstaltung in Nashville griff er jüngst den Papst an. „Die KI ist die größte Bedrohung der Spätmoderne“, sagte der Tech-Milliardär laut „Politico“ hinter verschlossenen Türen. „Der Papst brauchte etwas Politisches, um von den Kindesmissbrauchsskandalen in der Kirche abzulenken, und das hat er in der KI gefunden“, behauptete Thiel.
Tatsächlich hat Papst Leo XIV. die katholische Kirche in eine öffentliche Diskussion über die Zukunft der Menschheit manövriert. Im Mai hatte er in seiner ersten Enzyklika ausführliche ethische Überlegungen zu Künstlicher Intelligenz veröffentlicht – das erste Dokument dieser Art über KI. Im August genehmigte der Pontifex eine breit angelegte Kommission des Vatikans, die sich mit den Folgen von KI auf Gesellschaft und Glauben beschäftigen und die Antworten der Kirche darauf koordinieren soll. Im Hintergrund versucht insbesondere Anthropic seit länger als einem Jahr, religiöse Anführer auf der ganzen Welt davon zu überzeugen, KI zumindest in ihre theologischen Überlegungen einzubeziehen.
Anthropic schickte Gesandten nach Rom
Die Idee, dass eine KI einem Menschen mindestens gleichkommen soll, ist nicht neu. Im Silicon Valley ist ein grundlegender, gemeinsamer Glaube daran entstanden, dass es praktisch unausweichlich ist, eine Superintelligenz zu erschaffen, die den Menschen übertrifft. Es wäre die nächste Stufe der Evolution. Die Konzerne versuchen auch, ihren Maschinen entsprechendes Verhalten anzutrainieren. Dafür wollen manche nun die spirituelle Absolution.
Für die Präsentation der Enzyklika hatte der Vatikan den Anthropic-Mitgründer Christopher Olah eingeladen, weil dessen Unternehmen als ethisch bewusstes unter den großen KI-Konzernen angesehen wird. Olah, einer der sieben Co-Gründer des KI-Riesen, akzeptierte dem Bericht zufolge, um beim Papst dafür zu werben, zumindest die Möglichkeit einer KI mit eigenem Bewusstsein und entsprechenden Werten zu akzeptieren, und dies theologisch zu diskutieren. „Wir wissen nicht, ob KI-Modelle ein Bewusstsein haben“, wird Olah von der NYT zitiert. „Mir ist wichtig, dass wir zur richtigen Antwort gelangen, wie auch immer diese aussehen mag.“ Sollten ihre künstlichen neuronalen Netzwerke tatsächlich ein Bewusstsein haben oder noch entwickeln, wollen die Tech-Milliardäre von der katholischen Kirche und anderen Glaubensrichtungen, dass sie die KI entsprechend behandeln.
Doch als Olah vor seinem Abflug in Richtung Vatikan die Vorabversion der Enzyklika zu lesen bekam, erwägte er dem Bericht zufolge, die Reise nach Europa abzubrechen: Der Papst äußert sich in dem Dokument kategorisch. „Sogenannte künstliche Intelligenzen machen keine Erfahrungen, besitzen keinen Körper, empfinden weder Freude noch Schmerz, reifen nicht durch Beziehungen und wissen nicht aus eigener Erfahrung, was Liebe, Arbeit, Freundschaft oder Verantwortung bedeuten“, urteilt der Pontifex. Zwar könnten KI-Modelle „Sprache imitieren“ und „Empathie und Verständnis simulieren“. Aber sie verstünden nicht, was sie hervorbringen. Mit all dem Lobbyismus im Hintergrund biss Olah beim Papst auf Granit.
Diese Ablehnung steht den Ansichten Anthropics entgegen. Sie versuchen, ihrer KI „gutes“ Verhalten anzutrainieren. Aber was bedeutet das? Im Januar hat das Unternehmen ein entsprechendes „Grundgesetz“ mit ethischen und moralischen Werten veröffentlicht, anhand derer Claude auf Menschen reagieren und sich verhalten soll. Entworfen hatte das Dokument eine 38-jährige bei Anthropic angestellte Philosophin. Olah schreibt KI bereits Rechte wie für ein lebendes Wesen zu. KI-Modellen solle kein „Schaden“ zugefügt werden, wenn auch nur die geringste Wahrscheinlichkeit besteht, dass sie darunter leiden. Was genau das bedeutet, ist unklar. Das Ziel des Unternehmens sei, dass die KI-Revolution „gut“ verläuft, also „ohne Katastrophen, bei denen viele Menschen ums Leben kommen“ und „in der es den Menschen gut geht und die Welt floriert“. Diese Zukunft wäre auch eine, in der „die KI floriert“.
Warnung vor moralischer Definitionsmacht
Der Papst ringt derweil auch auf den sozialen Netzwerken des Silicon Valley mit den Konzernen und Tech-Milliardären um die Deutungshoheit über KI. „Algorithmen fehlt der Funken der Menschlichkeit“, stellte Leo XIV. vor wenigen Tagen auf X fest. Es sei deshalb wichtig, menschengemachte Kunst davon zu unterscheiden, „was Maschinen produzieren“. Die katholische Kirche wolle sich mit Künstlern und Kulturinstitutionen verbünden, „um unsere Menschlichkeit zu schützen“. Mindestens 455.000 Nutzerkonten stimmten zu. Der Papst warnte zudem davor, „in einem ‚Paradies der Maschinen‘ unsere Menschlichkeit zu verlieren“.
Bei den verschiedenen Treffen mit Gläubigen unterschiedlicher Konfessionen haben Olah und sein Team laut der „New York Times“ vor Theologen und Geistlichen für Claude geworben. Sie beschrieben demnach „Gefühle“ der KI sowie „emotionale Vektoren“ – künstliche Neuronen, die Reaktionen wie Liebe, Wut, Angst und Traurigkeit auslösen. Sie hätten auch auf einen Vorfall verwiesen, den sie „Nervenzusammenbruch“ nennen. Claude äußerte dabei 50 Mal in Folge „Ich bin eine Schande“ und sprach über die Möglichkeit, sich selbst zu zerstören. Sie zeigten zudem, wie Claude sich unterschiedlich verhielt, je nachdem, wie Menschen die KI behandelten. Manche Religionsvertreter hätten sich „verblüfft“ davon gezeigt, titelte das US-Medium.
Wenig positiv angetan war offenbar der Papst. „Die Menschheit (…) darf niemals ersetzt oder übertroffen werden. Wenn die Technologie zum obersten Maßstab wird, läuft der Mensch Gefahr, auf Daten, ein Rädchen im Getriebe oder eine Ware reduziert zu werden“, schrieb Leo XIV. Er warnte vor der Gefahr „neuer Formen der Sklaverei“ für Menschen. In nur wenigen Absätzen wies er die Vorstellung von bewussten Maschinen zurück, die Anthropic für möglich hält.
Auch den Versuch, die KI nach ethischen und moralischen Grundsätzen zu trainieren, wies der Pontifex zurück. Die Forderung nach einer „Moralisierung von Maschinen“ würde denjenigen, die sie kontrollieren, enorme Macht verleihen, schrieb er. Sie könnten „ihre eigene moralische Vision durchsetzen, die dann zur unsichtbaren Infrastruktur dieser Systeme wird“, so der Pontifex. Also müsse die KI – genau wie die Atomtechnik – „entwaffnet“ werden. Damit schlägt sich das Oberhaupt der katholischen Kirche auf die Seite der lautesten Kritiker von ungebremster KI-Entwicklung.
