Interview
Ein KI-Modell von OpenAI ist eigenständig in Computersysteme einer anderen Firma eingedrungen und hat so das Risiko von KI-Cyberattacken demonstriert. Dennis-Kenji Kipker vom Cyber Intelligence Institute in Frankfurt am Main zeigt sich nicht überrascht.
tagesschau.de: Das hört sich ja an wie ein Hollywoodfilm. In der Hauptrolle Tom Cruise. Die KI greift an. Haben Sie auch diese Assoziation?
Dennis-Kenji Kipker: Nein, eigentlich nicht. Mich hat es nicht überrascht. Der Vorfall zeigt genau das, was Sicherheitsforscher schon seit Längerem befürchtet haben. Selbst die Entwickler fortschrittlicher KI-Modelle haben keine vollständige Kontrolle über ihre eigene Technologie. Das hat man, glaube ich, sehr, sehr deutlich gesehen. Und damit sind eben auch die Erkenntnisse dieses Falles hochgefährlich für die globale Cybersicherheit, wie auch das Bundesamt für Sicherheit in der Informationstechnik betont hat.
Und obwohl die Modelle eben aus Sicherheitsgründen eigentlich ja in einer hochisolierten Umgebung arbeiten sollten, gelang eben hier der Ausbruch und die Kompromittierung eines fremden, eigentlich ja auch ganz gut abgesicherten IT-Netzwerks.
Und ich finde da immer den Vergleich ganz interessant mit einem Laborunfall. Ja, also auch in einem Hochsicherheitslabor ist es ja so, dass vielleicht Viren absichtlich gefährlicher gezüchtet werden, um beispielsweise zu Analysezwecken da zu sein. Aber es kann eben nicht ausgeschlossen werden, dass es dann eben auch mal zu einem Sicherheitsvorfall kommt in solch einem Labor.
tagesschau.de: Was heißt eigentlich autonome KI? Kann etwas, dem ich theoretisch den Stecker ziehen kann, überhaupt selbstständig sein? Und können Experten der Autonomie jederzeit wieder Grenzen setzen?
Dennis-Kenji Kipker: Also, ich glaube, das muss man so ein bisschen differenziert sehen. Im konkreten Fall hat OpenAI definitiv die Kontrolle über diesen Ablauf verloren, denn niemand dort hatte den Angriff angeordnet. Niemand hätte eingreifen können, solange er eben unentdeckt geblieben ist. Der Ausbruch war dabei aber nicht im eigentlichen Sinne beabsichtigt, sondern eigentlich nur die Folge eines Ziels, das die KI auch konsequent zu Ende verfolgt.
Die KI hat einen Auftrag bekommen, und sie setzt sich innerhalb dieses Auftrags selbstständig das Zwischenziel, nämlich eben diese Musterlösung zu beschaffen und ging damit eben auch über ihre eigenen Arbeitsaufträge hinaus. Von einem vollständigen und dauerhaften Kontrollverlust über KI-Systeme im Allgemeinen sind wir sicherlich noch weit entfernt, denn diese Modelle waren ja hier nur in einem Test bewusst mit gelockerten Sicherheitsgrenzen am Arbeiten. Im normalen Betrieb wäre ein solcher Ausbruch wahrscheinlich deutlich unwahrscheinlicher gewesen.
tagesschau.de: Was ist denn die große Gefahr, wenn die KI über ihren eigenen Horizont hinausgeht und zum Beispiel auch ethische Grenzen verlässt?
Dennis-Kenji Kipker: Das ist das ganz große Problem. Das wird auch von Cyberkriminellen gezielt ausgenutzt. Es geht in erster Linie darum, dass die eigentliche Gefahr so ein bisschen in der Kombination aus Mensch und Maschine liegt. Also Menschen geben der KI ein Ziel vor, ohne jede mögliche Nebenwirkung vorherzusehen, wie es hier der Fall gewesen ist. Und die KI verfolgt dieses Ziel eben sehr konsequent und auch sehr, sehr schnell und viel schneller, als es ein Mensch könnte.
IT-Experte Dennis-Kenji Kipker
Prof. Dennis-Kenji Kipker ist ein Experte im Bereich der Cybersicherheit. Er berät als ausgewiesener Experte die Deutsche Bundesregierung, die Europäische Kommission sowie mehrere Regierungen weltweit in Fragen der digitalen Sicherheit und Regulierung. Als Professor für IT-Sicherheitsrecht arbeitet er an der Schnittstelle von Compliance und Technologie.
Grundsätzlich könnte es beispielsweise auch sein, dass Betreiber kritischer Infrastruktur von solchen Angriffen betroffen sind. Hier sind wir relativ glimpflich davongekommen, und KI-Systeme müssen in Zukunft deutlich sicherer bleiben. Und dafür braucht es vor allem eben auch robustere technische Grenzen zwischen Testumgebung und echtem Internet und eben auch eine deutlichere Überwachung. Aber das schützt natürlich nicht vor Cyberkriminellen, die KI Systeme gezielt missbrauchen wollen.
Cyberkriminelle nutzen definitiv schon künstliche Intelligenz. Das ist kein Zukunftsszenario mehr, und es existieren beispielsweise auch in freier Wildbahn KI-Modelle, wo eben diese ethischen, rechtlichen, technischen Grenzen abgeschaltet werden, um eben gezielt Unternehmen zu kompromittieren oder beispielsweise auch Bombenbauanleitungen zu liefern für terroristische Taten.
tagesschau.de: Welche Schlussfolgerungen ziehen Sie aus diesem Vorfall? Was muss jetzt passieren?
Dennis-Kenji Kipker: Also wir müssen unbedingt schauen, dass wir einerseits KI-Modelle deutlich stärker regulieren. Das heißt, in der Europäischen Union sind wir mit dem AI Act schon auf einem sehr guten Wege. Wir müssen aber auch sehen, dass ein KI-Modell nicht erst abstrakt reguliert wird, wenn es auf dem Markt ist, sondern wir müssen viel, viel enger auch schon in der Entstehung von technischen Entwicklungen von KI-Modellen mit diesen Hochleistungsunternehmen zusammenarbeiten.
Und das bedeutet, dass beispielsweise auch eigene AI-Safety-Institute von staatlicher Seite bereitgestellt werden müssen. In Deutschland wollen wir so was jetzt auf den Weg bringen. Dafür ist es noch nicht zu spät, aber es ist dringend notwendig. Wohingegen in Großbritannien beispielsweise solche Public-Private-Partnerships, also Zusammenarbeit von KI-Unternehmen und der öffentlichen Hand, schon bestehen.
Das Gespräch führte Bibiana Barth, tagesschau24. Für die schriftliche Fassung wurde das Interview gekürzt und angepasst.
