Menü schließen
Verbraucherrat
  • Startseite
  • Über Uns
  • Kontakt
  • Aktuelle Warnungen
  • Nachrichten
  • Ratgeber
  • Betrugsmaschen
  • Beratung
  • Bildung
  • Politik
Facebook X (Twitter) Instagram
Facebook X (Twitter) Instagram
Verbraucherrat
  • Startseite
  • Über Uns
  • Kontakt
  • Startseite
  • Über Uns
  • Kontakt
  • Aktuelle Warnungen

    Debeka-Sammelklage: Jetzt Ansprüche sichern

    November 17, 2026

    „Spritpreisdeckel droht zum Feigenblatt zu werden“

    November 5, 2026

    Mangelnde Transparenz in den Werbearchiven: Plattformen verstoßen gegen den DSA

    November 3, 2026

    KI als riskanter Ratgeber für junge Menschen: Verbraucherzentrale fordert mehr Schutz

    November 2, 2026

    Keine Werbung für Chips, Cola und Co.

    Oktober 29, 2026
  • Nachrichten

    Letztes Senatsrennen entschieden: Auch in Alaska gewinnt eine Demokratin

    November 18, 2026

    Nach Zwischenfällen: Waymo stoppt autonome Fahrten auf US-Autobahnen

    November 18, 2026

    Fußball-Wahnsinn in Dänemark: „Norwegen war tot und begraben“

    November 18, 2026

    Europäer springen Kiew zur Seite: Pistorius hält US-Kritik an Ukraine für „ziemlich dumm“

    November 18, 2026

    Zahlreiche technische Ausfälle: Trump: Zunahme technischer Störungen in den USA „okay“

    November 18, 2026
  • Ratgeber
  • Betrugsmaschen

    Economist-Cover 2027: 24 Vorhersagen im Faktencheck

    November 17, 2026

    Elon Musk: Blauer Haken auf X wieder gratis?

    November 17, 2026

    Auszeit-WG Wien: Eine Million Euro für zwei Syrer?

    November 17, 2026

    CIA-Akte von 1951: Keine enthüllte Krebsheilung

    November 17, 2026

    Madrid-Video: Ankunft ohne Kontrolle ist unbelegt

    November 17, 2026
  • Beratung
  • Bildung

    Bildung ist mehr als Schule – Alltagsbildung | Bildung

    Oktober 22, 2026

    „Andere Familiensprache als Deutsch“: Was bedeutet mehrsprachig aufzuwachsen? | Bildung

    Oktober 8, 2026

    Wie können Lehrkräfte und Schulen mit Mehrsprachigkeit umgehen? | Bildung

    Oktober 8, 2026

    Welche Rolle spielt Mehrsprachigkeit in der Bildungspolitik? | Bildung

    Oktober 8, 2026

    Was bedeutet Neutralität in der Schule – und was nicht? | Bildung

    Juli 14, 2026
  • Politik

    Treffen von Trump, Xi und Putin: Rüstung, KI – und ein heikles Thema

    November 18, 2026

    K.o.-Tropfen: Neue Spur im Urin hilft beim Nachweis

    November 18, 2026

    „Heimatreport“: Viel Zufriedenheit, aber auch Sorge wegen der Zukunft

    November 18, 2026

    „An der Zinsschraube drehen“, um die Inflation zu bekämpfen

    November 18, 2026

    Israels Knesset: Eisenkot-Verbündeter als Parlamentspräsident gewählt

    November 18, 2026
Verbraucherrat
Startseite»Politik»Experte zu KI-Hackerangriff: „Hochgefährlich für die globale Cybersicherheit“
Politik

Experte zu KI-Hackerangriff: „Hochgefährlich für die globale Cybersicherheit“

Dr. Heinrich KrämerVon Dr. Heinrich KrämerJuli 22, 2026Keine Kommentare4 Minuten Lesezeit
Facebook Twitter Pinterest LinkedIn Tumblr E-Mail
Teilen
Facebook Twitter LinkedIn Pinterest E-Mail


Interview

Stand: 22.07.2026 • 21:41 Uhr

Ein KI-Modell von OpenAI ist eigenständig in Computersysteme einer anderen Firma eingedrungen und hat so das Risiko von KI-Cyberattacken demonstriert. Dennis-Kenji Kipker vom Cyber Intelligence Institute in Frankfurt am Main zeigt sich nicht überrascht.

tagesschau.de: Das hört sich ja an wie ein Hollywoodfilm. In der Hauptrolle Tom Cruise. Die KI greift an. Haben Sie auch diese Assoziation?

Dennis-Kenji Kipker: Nein, eigentlich nicht. Mich hat es nicht überrascht. Der Vorfall zeigt genau das, was Sicherheitsforscher schon seit Längerem befürchtet haben. Selbst die Entwickler fortschrittlicher KI-Modelle haben keine vollständige Kontrolle über ihre eigene Technologie. Das hat man, glaube ich, sehr, sehr deutlich gesehen. Und damit sind eben auch die Erkenntnisse dieses Falles hochgefährlich für die globale Cybersicherheit, wie auch das Bundesamt für Sicherheit in der Informationstechnik betont hat.

Und obwohl die Modelle eben aus Sicherheitsgründen eigentlich ja in einer hochisolierten Umgebung arbeiten sollten, gelang eben hier der Ausbruch und die Kompromittierung eines fremden, eigentlich ja auch ganz gut abgesicherten IT-Netzwerks.

Und ich finde da immer den Vergleich ganz interessant mit einem Laborunfall. Ja, also auch in einem Hochsicherheitslabor ist es ja so, dass vielleicht Viren absichtlich gefährlicher gezüchtet werden, um beispielsweise zu Analysezwecken da zu sein. Aber es kann eben nicht ausgeschlossen werden, dass es dann eben auch mal zu einem Sicherheitsvorfall kommt in solch einem Labor.

tagesschau.de: Was heißt eigentlich autonome KI? Kann etwas, dem ich theoretisch den Stecker ziehen kann, überhaupt selbstständig sein? Und können Experten der Autonomie jederzeit wieder Grenzen setzen?

Dennis-Kenji Kipker: Also, ich glaube, das muss man so ein bisschen differenziert sehen. Im konkreten Fall hat OpenAI definitiv die Kontrolle über diesen Ablauf verloren, denn niemand dort hatte den Angriff angeordnet. Niemand hätte eingreifen können, solange er eben unentdeckt geblieben ist. Der Ausbruch war dabei aber nicht im eigentlichen Sinne beabsichtigt, sondern eigentlich nur die Folge eines Ziels, das die KI auch konsequent zu Ende verfolgt.

Die KI hat einen Auftrag bekommen, und sie setzt sich innerhalb dieses Auftrags selbstständig das Zwischenziel, nämlich eben diese Musterlösung zu beschaffen und ging damit eben auch über ihre eigenen Arbeitsaufträge hinaus. Von einem vollständigen und dauerhaften Kontrollverlust über KI-Systeme im Allgemeinen sind wir sicherlich noch weit entfernt, denn diese Modelle waren ja hier nur in einem Test bewusst mit gelockerten Sicherheitsgrenzen am Arbeiten. Im normalen Betrieb wäre ein solcher Ausbruch wahrscheinlich deutlich unwahrscheinlicher gewesen.

tagesschau.de: Was ist denn die große Gefahr, wenn die KI über ihren eigenen Horizont hinausgeht und zum Beispiel auch ethische Grenzen verlässt?

Dennis-Kenji Kipker: Das ist das ganz große Problem. Das wird auch von Cyberkriminellen gezielt ausgenutzt. Es geht in erster Linie darum, dass die eigentliche Gefahr so ein bisschen in der Kombination aus Mensch und Maschine liegt. Also Menschen geben der KI ein Ziel vor, ohne jede mögliche Nebenwirkung vorherzusehen, wie es hier der Fall gewesen ist. Und die KI verfolgt dieses Ziel eben sehr konsequent und auch sehr, sehr schnell und viel schneller, als es ein Mensch könnte.

IT-Experte Dennis-Kenji Kipker

Prof. Dennis-Kenji Kipker ist ein Experte im Bereich der Cybersicherheit. Er berät als ausgewiesener Experte die Deutsche Bundesregierung, die Europäische Kommission sowie mehrere Regierungen weltweit in Fragen der digitalen Sicherheit und Regulierung. Als Professor für IT-Sicherheitsrecht arbeitet er an der Schnittstelle von Compliance und Technologie.

Grundsätzlich könnte es beispielsweise auch sein, dass Betreiber kritischer Infrastruktur von solchen Angriffen betroffen sind. Hier sind wir relativ glimpflich davongekommen, und KI-Systeme müssen in Zukunft deutlich sicherer bleiben. Und dafür braucht es vor allem eben auch robustere technische Grenzen zwischen Testumgebung und echtem Internet und eben auch eine deutlichere Überwachung. Aber das schützt natürlich nicht vor Cyberkriminellen, die KI Systeme gezielt missbrauchen wollen.

Cyberkriminelle nutzen definitiv schon künstliche Intelligenz. Das ist kein Zukunftsszenario mehr, und es existieren beispielsweise auch in freier Wildbahn KI-Modelle, wo eben diese ethischen, rechtlichen, technischen Grenzen abgeschaltet werden, um eben gezielt Unternehmen zu kompromittieren oder beispielsweise auch Bombenbauanleitungen zu liefern für terroristische Taten.

tagesschau.de: Welche Schlussfolgerungen ziehen Sie aus diesem Vorfall? Was muss jetzt passieren?

Dennis-Kenji Kipker: Also wir müssen unbedingt schauen, dass wir einerseits KI-Modelle deutlich stärker regulieren. Das heißt, in der Europäischen Union sind wir mit dem AI Act schon auf einem sehr guten Wege. Wir müssen aber auch sehen, dass ein KI-Modell nicht erst abstrakt reguliert wird, wenn es auf dem Markt ist, sondern wir müssen viel, viel enger auch schon in der Entstehung von technischen Entwicklungen von KI-Modellen mit diesen Hochleistungsunternehmen zusammenarbeiten.

Und das bedeutet, dass beispielsweise auch eigene AI-Safety-Institute von staatlicher Seite bereitgestellt werden müssen. In Deutschland wollen wir so was jetzt auf den Weg bringen. Dafür ist es noch nicht zu spät, aber es ist dringend notwendig. Wohingegen in Großbritannien beispielsweise solche Public-Private-Partnerships, also Zusammenarbeit von KI-Unternehmen und der öffentlichen Hand, schon bestehen.

Das Gespräch führte Bibiana Barth, tagesschau24. Für die schriftliche Fassung wurde das Interview gekürzt und angepasst.

Teilen. Facebook Twitter Pinterest LinkedIn Tumblr E-Mail
Dr. Heinrich Krämer
  • Webseite

Ähnliche Beiträge

Treffen von Trump, Xi und Putin: Rüstung, KI – und ein heikles Thema

November 18, 2026

K.o.-Tropfen: Neue Spur im Urin hilft beim Nachweis

November 18, 2026

„Heimatreport“: Viel Zufriedenheit, aber auch Sorge wegen der Zukunft

November 18, 2026
Kommentar hinterlassen Antwort abbrechen

Top-Beiträge

Meta-Konto: Umstellung oder Phishing? Der Faktencheck

Oktober 18, 20261.589 Aufrufe

Gefälschter Tagesschau-Artikel über Eklat bei Maischberger

Juli 13, 20261.212 Aufrufe

Gefälschte Doctolib-Mails fluten Postfächer: Erste-Hilfe-Set ist Fake

August 13, 2026121 Aufrufe

Bücherexperiment in sozialen Medien und Messengern

September 9, 202657 Aufrufe
Folgen Sie uns
  • Facebook
  • Twitter
  • Pinterest
  • Instagram
  • YouTube
  • Vimeo

Abonnieren Sie Updates

VerbraucherRat GmbH
Hohenzollernring 56
50672 Köln

Telefon: +49 221 16847392-0
Telefax: +49 221 16847392-99
E-Mail: info@verbraucherrat.com
Web: www.verbraucherrat.com

Geschäftszeiten
Montag – Freitag: 09:00 – 18:00 Uhr

Menu
  • Startseite
  • Über Uns
  • Kontakt
  • Aktuelle Warnungen
  • Nachrichten
  • Ratgeber
  • Betrugsmaschen
  • Beratung
  • Bildung
  • Politik
Institutionell
  • Impressum
  • Datenschutz
  • Hinweis / Haftungsausschluss
  • Cookie-Manager
  • Nutzungsbedingungen
  • Werbefrei lesen
  • Einwilligung widerrufen
  • Mediadaten
  • Abo kündigen
  • Barrierefreiheitserklärung
  • Hilfe
© 2026 VerbraucherRat. Alle Rechte vorbehalten.
  • Impressum
  • Datenschutz
  • Hinweis / Haftungsausschluss
  • Cookie-Manager
  • Nutzungsbedingungen
  • Werbefrei lesen
  • Einwilligung widerrufen
  • Mediadaten
  • Abo kündigen
  • Barrierefreiheitserklärung
  • Hilfe

Tippen Sie oben und drücken Sie Enter zum Suchen. Drücken Sie Esc zum Abbrechen.