analyse
Die erste Enzyklika des Papstes ist in mehrfacher Hinsicht bemerkenswert: Nicht nur stellte er sie persönlich vor. Er setzt sich darin differenziert mit KI-Waffensystemen auseinander – im Beisein eines Tech-Pioniers. Von
Wenn der Mensch Gott spielt, kann es passieren, dass er unter die Räder kommt, beziehungsweise, dass er zu einem kleinen Rädchen wird. „Wo die Entscheidung über Leben und Tod an Codezeilen delegiert wird“, schreibt Leo XIV., „verliert der Mensch seine Würde und die Maschine triumphiert über den Geist“.
KI wird nicht generell verteufelt
Das erste große Lehrschreiben dieses Papstes beschäftigt sich mit dem Megathema unserer Tage, der Künstlichen Intelligenz. Leo XIV. maßt sich nicht an, technische Entwicklungen zu beschreiben oder zu beurteilen. Da ist die Halbwertszeit des Geschriebenen ohnehin von kurzer Dauer.
Er wirft einen kritischen Blick auf Mensch und Gesellschaft „im Zeitalter von künstlicher Intelligenz“, natürlich aus der Warte des katholischen Theologen, natürlich mit einer großen Portion Skepsis, aber immer wieder mit dem Versuch, die Technik nicht generell als „menschenfeindliche Kraft“ zu verteufeln. Doch die Skepsis überwiegt, die Sorge, dass die „großartige Menschheit“ unter die Räder kommt.
KI-Pionier anwesend
Die erste Enzyklika eines Papstes ist eine Premiere. In mehrfacher Hinsicht: Leo XIV. stellte den Text persönlich vor – das gab es noch nie. Zur Präsentation wurde zudem der KI-Entwickler und Unternehmer Christopher Olah eingeladen. Der Mitbegründer des Technologie-Konzerns Anthropic steht für eben jene „wirtschaftlichen und technologischen Akteure“, die Leo XIV. in seiner Enzyklika besonders kritisch in den Blick nimmt.
Wenn sich „Macht in wenigen Händen konzentriert“, bestehe die Gefahr, „dass sie undurchsichtig wird und sich der öffentlichen Kontrolle entzieht“. Der Kanadier Olah steht für eine Minderheit in der Branche, die neben den Chancen auch die Risiken der KI-Technologie sieht.
Enzyklika dürfte Trump nicht gefallen
Mit der US-Regierung von Donald Trump liegt sein Unternehmen über Kreuz, weil Anthropic seine KI nicht für autonom agierende Waffensysteme freigeben wollte. Für Trump ist Anthropic eine „radikal linke und woke Firma“.
Das passt zum Papst, den ja ebenfalls der Bannstrahl des US-Präsidenten getroffen hatte: Er sei „kein Fan“ von Papst Leo, schimpfte Trump, nachdem Leo XIV. den Krieg gegen den Iran scharf kritisiert hatte. Der Papst sei „politisch sehr links“. Nach dieser Enzyklika wird Trump sein Urteil kaum revidieren.
Kritik auch an Algorithmen in Sozialen Medien
Denn Leo XIV. fordert etwas, das in der Welt der großen US-Tech Konzerne nicht gewollt und nicht vorgesehen ist: Regeln. Technologische Entwicklung müsse sich an den Kriterien der Menschenwürde und des Gemeinwohls messen lassen, verhindern, dass Menschen durch „undurchsichtige Algorithmen“ benachteiligt werden.
Das heißt: Irgendjemand muss hier Verantwortung übernehmen, steuern. Und das können laut Leo XIV. nicht die Konzerne sein. Der Papst will die Staaten und Gesellschaften wieder ermächtigen, Verantwortung zu übernehmen.
Und das auch in den Sozialen Medien. „Die Algorithmen, die diese Plattformen steuern, sind nicht darauf ausgelegt, die Wahrheit zu fördern oder den Dialog zu vertiefen, sondern die Verweildauer der Nutzer zu maximieren.“ Leo XIV. identifiziert die Künstliche Intelligenz als Brandbeschleuniger im gesellschaftlichen Miteinander und insbesondere bei seinem Herzensthema „Krieg und Frieden“.
Ethische Prinzipien für Einsatz von KI-Waffensystemen
Auch hier sieht der Papst mehr Risiken als Chancen. Natürlich lasse sich im Kriegsfall mit KI der Schutz der Zivilbevölkerung verbessern, aber: „Sie kann auch die Schwelle für den Einsatz von Gewalt senken, Verantwortlichkeiten verschleiern und eine Kultur bestärken, in der der Feind auf Daten und das Opfer auf einen „Kollateralschaden“ reduziert wird.“ Deshalb müsse der Einsatz von KI-gesteuerten autonomen Waffensystemen strengsten ethischen Prinzipien unterliegen. Keine Macht den Maschinen, sozusagen.
Leo XIV. hält es für unzulässig, „tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen“. Er beklagt eine „besorgniserregende Rehabilitierung des Krieges als Instrument der internationalen Politik“.
Dialog und Vergebung zur Lösung von Konflikten
Und er verabschiedet – fast nebenbei – eine Doktrin, mit der Gewalt und Kriege lange Zeit gerechtfertigt wurden: die Lehre vom Gerechten Krieg. Als gäbe es den sauberen, moralisch einwandfreien Einsatz von Gewalt. „Um Konflikte zu bewältigen, verfügt die Menschheit über Mittel, die weitaus wirksamer sind und geeigneter, das menschliche Leben zu fördern, wie zum Beispiel den Dialog, die Diplomatie und die Vergebung.“
Gegen eine Realpolitik, die Krieg als unvermeidlich darstellt, betreibt der Papst in seiner ersten Enzyklika eine Ehrenrettung des christlichen Pazifismus.
Mensch in den Mittelpunkt stellen
Die erste Enzyklika dieses Papstes kann als Grundsatzprogramm gelesen werden. Leo XIV. verurteilt darin nicht kategorisch den Einsatz von KI. Aber er sieht eine Entwicklung, bei der der Einzelne unterzugehen droht. Deshalb stellt er den Menschen in den Mittelpunkt und macht ihn zum Maßstab jeder technologischen Entwicklung.
