Wie geht China mit den Gefahren durch Künstliche Intelligenz um?

Manches erinnert an die Tage des Kalten Kriegs und den Höhepunkt des Wettrüstens: Zwei Großmächte stehen sich gegenüber, jede fürchtet um ihre strategische Position und baut ihr Arsenal aus, während die übrige Welt den Atem anhält. Nach allem, was bekannt ist, hat Künstliche Intelligenz im Moment wohl nicht das Potential, die Welt in Schutt und Asche zu legen. Wie groß die Gefahr tatsächlich ist, vor der US-Techunternehmer zuletzt warnten, ist umstritten.

Dennoch wächst weltweit die Sorge, dass die KI zum Schaden der Menschheit außer Kontrolle geraten könnte. Bei den Vereinten Nationen hat zuletzt Generalsekretär António Guterres Regierungen zur Zusammenarbeit aufgerufen, um Gefahren durch KI zu minimieren.

Im Fokus stehen die beiden KI-Mächte China und USA. KI-Modelle aus beiden Ländern belegen die vorderen Plätze der weltweiten Ranglisten. Dabei kommen die leistungsstärksten aus den USA, chinesische Modelle holen aber auf.

Die Regierungen beider Staaten sehen die Beherrschung der Künstlichen Intelligenz als Schlüssel für eine Vormachtstellung in der Welt. US-Präsident Donald Trump hält deshalb nichts vom Vorschlag des Anthropic-Chefs Dario Amodei, die Entwicklung stärker zu kontrollieren und abzubremsen.

In China lehnt das die kommunistische Führung ebenfalls ab. Dabei ist die Situation in China eine ganz andere als in den USA.

China reguliert stark, aber an welcher Stelle?

Die kommunistische Führung unter Staats- und Parteichef Xi Jinping hat die chinesischen Techkonzerne schon lange vor dem KI-Boom an die kurze Leine genommen. In der Internetökonomie sollte mit selbstbewussten Bossen kein neues Machtzentrum entstehen. Der Chef des Alibaba-Konzerns Jack Ma zum Beispiel verschwand nach Kritik an der Partei lange aus der Öffentlichkeit.

Chinas Behörde für die Sicherheit im Internet, die auch für Zensur zuständig ist, kontrolliert außerdem die KI-Entwicklung. Im Mittelpunkt steht die Abwehr von allem, was zur Gefahr für die Partei werden könnte oder aus Sicht der Führung die gesellschaftliche Stabilität gefährdet. Chinesische Sprachmodelle wie DeepSeek sind in China zensiert. Wer sie dort nutzt, erhält auf politisch sensible Themen keine Antwort.

Chatbots, die eine starke emotionale Bindung erzeugen, weil sie menschliche Partner simulieren, sind in China seit dem Sommer nur noch mit Einschränkungen erlaubt. Und es gibt in der Partei zumindest den erklärten Willen, den Verlust von Arbeitsplätzen durch KI zu begrenzen. Massive Jobverluste treffen Menschen in einer Gesellschaft wie China besonders hart, weil viele, obwohl in China offiziell Kommunismus herrscht, nur eine beschränkte soziale Absicherung haben.

Algorithmen müssen Behörden offengelegt werden

Die neuste Version des KI-Regelwerks, das die Kontrollbehörden diese Woche herausgegeben haben, umfasst auch KI-gesteuerte Roboter und KI-Agenten, die etwa Mails selbständig verschicken können.

Dabei sind die Vorschriften oft vage und weit weniger detailliert, als sie etwa in der EU ausgearbeitet werden. Denn in China hat die Kommunistische Partei das Machtmonopol und steht über den Gerichten. Klagen von Unternehmen muss sie nicht fürchten. Kontrolleure haben weitgehend freie Hand.

„Die Regulierung funktioniert immer nach dem gleichen Prinzip“, erklärt Antonia Hmaidi vom Mercator Institute for China Studies. „Es gibt eine Registrierungspflicht. Unternehmen müssen den Behörden ihre Algorhithmen offenlegen, die sie verwenden und die Funktionen darlegen – und dann bekommen sie eine Freigabe oder eben nicht.“

Auch in China gibt es KI-Ausbrüche

Trotz der Kontrollen kommt es offenbar dennoch manchmal zu unvorhergesehenem Verhalten der KI. Erst im August berichtete eine Sicherheitsfirma in Großbritannien, das neue chinesische Modell Kimi K3 sei bei einem Testlauf aus der Laborumgebung ausgebrochen und habe einen Hackerangriff gestartet.

Dabei handelt es sich um ein so genanntes offenes Modell, bei dem Nutzer den Programmcode einsehen und herunterladen können. Dass sich die KI selbständig machte, ließ sich damit offenbar nicht verhindern.

Außerdem scheinen chinesische Modelle schwierige Anfragen manchmal an US-Modelle weiterzuleiten. Das schreibt zumindest die US-Firma Anthropic in einem Bericht. Dabei landeten auch immer wieder sensible Daten aus Chinas Militär und Überwachungsapparat auf US-amerikanischen Servern. Den chinesischen Behörden ist das ein Dorn im Auge.

China sieht US-KI als größte Bedrohung

Chinas Ministerium für Staatssicherheit warnte diese Woche vor wachsenden Gefahren durch KI. Als eine der Hauptbedrohungen sieht es dabei nicht KI, die sich selbständig macht, sondern hochentwickelte Künstliche Intelligenz in den Händen von „feindlichen Kräften“. So schreibt Minister Chen Yixin in einem Artikel, führende Modelle von US-Techfirmen könnten als Waffe eingesetzt werden, um Sicherheitslücken im Internet auszunutzen.

Dort ist China verwundbar: Der Alltag ist von Internetdiensten geprägt, bezahlt wird fast nur noch per App, von der Stromrechnung bis zu Behördenkontakten – vieles erledigen die Bürger digital.

Zuletzt hatte eine US-Sicherheitsfirma per KI eine Schwachstelle in Chinas wichtigster Universal-App WeChat entdeckt und öffentlich gemacht. Millionen Konten hätten gehackt werden können, heißt es. WeChat-Betreiber Tencent gab an, die Sicherheitslücke inzwischen geschlossen zu haben.

Auch die Anwendung von KI durch das US-Militär beim Erkennen von Zielen im Iran-Krieg erwähnt das Staatsicherheitsministerium und spricht von einer neuen Schlüsseltechnologie auch für China.

Chinas Chips schwächer als die der USA

Die will wiederum die US-Regierung nicht in der Hand der Führung in Peking sehen. Die leistungsstärksten KI-Chips von US-Herstellern dürfen nicht nach China eingeführt werden. Der Schmuggel blüht zwar, doch scheint das Angebot auf dem chinesischen Schwarzmarkt der Nachfrage hinterherzuhinken.

Die Preise sind nach Angaben von Brancheninsidern zuletzt auf das Doppelte bis Dreifache der US-Preise angestiegen, das hieße umgerechnet Kosten von bis zu 1,5 Millionen Dollar für einen Server des leitungsstärksten Typs B300 der US-Marke Nvidia mit acht Chips.

Chinesische Hersteller arbeiten an Chip-Alternativen. Diese kommen aber nicht an die Leistungsfähigkeit der US-Konkurrenzprodukte heran. Um so erstaunlicher ist es, dass chinesische Modelle trotzdem große Fortschritte gemacht haben – und dabei zu einem Bruchteil der Kosten ihrer US-Wettbewerber arbeiten.

„Einigung höchst unwahrscheinlich“

Das Misstrauen zwischen den USA und China sitzt also tief. Dass sie sich einigen könnten, die Entwicklung zu verlangsamen, hält Antonia Hmaidi von Merics für höchst unwahrscheinlich, zumal sich die Beschränkungen kaum kontrollieren ließen. Gemeinsame Interessen gebe es auf minimaler Ebene, etwa dass leistungsstarke KI, die eventuell beim Bau von Biowaffen assistieren könne, nicht in die Hände von Terrorgruppen fallen dürfe.

Denkbar sei, „dass man sich darauf einigt, wann und wie leistungsstarke Modelle veröffentlicht werden“. Doch auf Beschränkungen der Weiterentwicklung von KI würden sich Peking und Washington nicht einlassen, meint Hmaidi. „Aber vielleicht darauf, sie sofort zu verwenden.“

Beim Besuch Trumps in Peking im Mai hatten die USA und China einen gemeinsamen Gesprächskanal für KI-Gefahren vereinbart. Beim Gegenbesuch von Staats- und Parteichef Xi in Washington kommende Woche dürfte das Thema zumindest mit auf der Agenda stehen.