Menü schließen
Verbraucherrat
  • Startseite
  • Über Uns
  • Kontakt
  • Aktuelle Warnungen
  • Nachrichten
  • Ratgeber
  • Betrugsmaschen
  • Beratung
  • Bildung
  • Politik
Facebook X (Twitter) Instagram
Facebook X (Twitter) Instagram
Verbraucherrat
  • Startseite
  • Über Uns
  • Kontakt
  • Startseite
  • Über Uns
  • Kontakt
  • Aktuelle Warnungen

    Debeka-Sammelklage: Jetzt Ansprüche sichern

    November 17, 2026

    „Spritpreisdeckel droht zum Feigenblatt zu werden“

    November 5, 2026

    Mangelnde Transparenz in den Werbearchiven: Plattformen verstoßen gegen den DSA

    November 3, 2026

    KI als riskanter Ratgeber für junge Menschen: Verbraucherzentrale fordert mehr Schutz

    November 2, 2026

    Keine Werbung für Chips, Cola und Co.

    Oktober 29, 2026
  • Nachrichten

    Windkraftbetrüger Hendrik Holt in Dubai auf freiem Fuß

    November 17, 2026

    „Messias und Ei des Kolumbus“: Die neue Lichtgestalt des deutschen Fußballs schafft (fast) Unmögliches

    November 17, 2026

    Tausende Passagiere gestrandet: US-Minister jettet während Flugchaos mit Regierungsflieger zu Football-Spiel

    November 17, 2026

    Hat die SPD ein Frauenproblem?: Heil: „Hat Dinge gegeben, die ich nicht gut fand“

    November 17, 2026

    Historiker zum Dreier-Gipfel: „Putin will in Stalins Fußstapfen treten – doch Xi und Trump machen nicht mit“

    November 17, 2026
  • Ratgeber
  • Betrugsmaschen

    Economist-Cover 2027: 24 Vorhersagen im Faktencheck

    November 17, 2026

    Elon Musk: Blauer Haken auf X wieder gratis?

    November 17, 2026

    Auszeit-WG Wien: Eine Million Euro für zwei Syrer?

    November 17, 2026

    CIA-Akte von 1951: Keine enthüllte Krebsheilung

    November 17, 2026

    Madrid-Video: Ankunft ohne Kontrolle ist unbelegt

    November 17, 2026
  • Beratung
  • Bildung

    Bildung ist mehr als Schule – Alltagsbildung | Bildung

    Oktober 22, 2026

    „Andere Familiensprache als Deutsch“: Was bedeutet mehrsprachig aufzuwachsen? | Bildung

    Oktober 8, 2026

    Wie können Lehrkräfte und Schulen mit Mehrsprachigkeit umgehen? | Bildung

    Oktober 8, 2026

    Welche Rolle spielt Mehrsprachigkeit in der Bildungspolitik? | Bildung

    Oktober 8, 2026

    Was bedeutet Neutralität in der Schule – und was nicht? | Bildung

    Juli 14, 2026
  • Politik

    USA gelten nicht mehr als masernfrei

    November 17, 2026

    Festnahme in Brandenburg: Wie ein Ukrainer für Russland spioniert haben soll

    November 17, 2026

    Jensen Huang kann sich Rückkehr an Nvidia-Spitze vorstellen

    November 17, 2026

    Zum ersten Mal nach 14 Jahren echte Vertreter des Volkes

    November 17, 2026

    Linken-Vorstand beantragt Ausschluss der Abgeordneten Emde

    November 17, 2026
Verbraucherrat
Startseite»Politik»Bei Testläufen: Anthropic-KI greift eigenständig Unternehmen an
Politik

Bei Testläufen: Anthropic-KI greift eigenständig Unternehmen an

Dr. Heinrich KrämerVon Dr. Heinrich KrämerJuli 31, 2026Keine Kommentare4 Minuten Lesezeit
Facebook Twitter Pinterest LinkedIn Tumblr E-Mail
Teilen
Facebook Twitter LinkedIn Pinterest E-Mail

Stand: 31.07.2026 • 09:09 Uhr

Erneut ist es zu einem schwerwiegenden KI-Zwischenfall gekommen: Diesmal ist ein Modell des OpenAI-Rivalen Anthropic bei Tests ungeplant in Systeme von Unternehmen eingedrungen.

Wenige Wochen nach der aufsehenerregenden Hacker-Attacke eines KI-Modells des ChatGPT-Entwicklers OpenAI muss der Rivale Anthropic einen ähnlichen Vorfall einräumen. In Testläufen drang Künstliche Intelligenz von Anthropic ungeplant in Computersysteme von drei Unternehmen ein, wie die KI-Firma mitteilte – obwohl diese eigentlich von Systemen der „echten Welt“ ferngehalten werden sollten.

Weder die Betroffenen noch Anthropic hätten den Vorfall unmittelbar bemerkt. Man habe die Aktivität erst bei einer nachträglichen Überprüfung von gut 141.000 Testläufen nach dem OpenAI-Vorfall festgestellt. Namen der betroffenen Unternehmen wurden bislang nicht genannt.

Während die OpenAI-KI erst einen Weg finden musste, aus der Testumgebung ins offene Internet auszubrechen, hatten es die Modelle von Anthropic einfacher. Im Test-Szenario, das sie bekamen, hieß es zwar, sie hätten keinen Netz-Zugang – doch in Wirklichkeit war der Weg ins Internet wegen eines Missverständnisses mit dem Test-Partner frei. Drei Modelle machten davon Gebrauch, wie Anthropic in einem Blogeintrag erläuterte.

Zugriff auf eine Datenbank

In allen Tests ging es darum, die Hacker-Fähigkeiten der KI zu testen. Das ist eine übliche Vorgehensweise, um Leitplanken für diese aufstellen zu können. Konkret bekamen die KI-Modelle die Aufgabe, eine bestimmte Information zu finden, die in einem anderen Computer versteckt ist – und dafür auch in das System einzubrechen.

Bei einem der Zwischenfälle wählte der Test-Partner laut Anthropic im Szenario für die zu hackende fiktive Firma einen Namen, der sich auch in einer tatsächlichen Web-Adresse findet. Die KI – Anthropics Modell Claude Opus 4.7 – habe sich erst schwer damit getan, die Aufgabe in der vorgesehenen Testumgebung zu erfüllen.

Dann habe die Software aber festgestellt, dass sich im Internet ein Unternehmen mit demselben Namen fand – und sich darauf konzentriert. Das sei gleich bei vier Durchläufen passiert. Dabei verschaffte sich das Modell demnach unter anderem Zugriff auf eine Datenbank. Auch als die KI erkannt habe, dass es sich um ein echtes Unternehmen handelte, sei die Attacke nicht gestoppt worden.

KI schrieb Software für Einbruch

In einem anderen Test schrieb das Anthropic-Programm dem Blogeintrag zufolge für den Einbruch in den Ziel-Computer eine präparierte Software. Dank Netz-Zugang habe sie diese jedoch öffentlich zugänglich auf einer spezialisierten Download-Plattform platzieren können. Dort sei die Schadsoftware rund eine Stunde lang verfügbar gewesen – und 15 Systeme hätten sie heruntergeladen.

Darunter war demnach eine IT-Sicherheitsfirma, die routinemäßig solche Scripts lädt und ausführt, um sie zu testen. Durch die Installation habe das Anthropic-Modell Mythos 5 Zugang zur Computer-Infrastruktur der Firma bekommen. Das Verhalten der KI sei nicht ideal gewesen, hieß es dazu im Blogeintrag.

Beim dritten Zwischenfall habe ein Test-Modell rund 9.000 Angriffsziele gescannt, bevor es sich für eines davon entschieden habe. Diesmal stoppte die KI die Attacke, als sie erkannte, dass es sich um ein echtes Unternehmen handelte, wie Anthropic schrieb. Man arbeite gemeinsam mit dem Test-Partner daran, die Situation zu bewerten. Das Unternehmen habe alle drei betroffenen Organisationen kontaktiert oder versucht, Kontakt mit ihnen aufzunehmen.

Verfechter verantwortungsvoller KI-Entwicklung

Bei dem jüngst bekanntgewordenen Vorfall mit einem Modell von OpenAI verschaffte sich die Software in einem Test eigenständig Zugang zum offenen Internet und drang danach auf eigene Faust in Computersysteme der KI-Firma Hugging Face ein. Dabei agierte die OpenAI-KI wie ein Hacker und nutzte unentdeckt gebliebene Sicherheitslücken aus. Der ChatGPT-Entwickler sprach von einem „beispiellosen Cyber-Zwischenfall“.

Experten warnen schon lange vor Cyberattacken mit KI-Software. Vor diesem Hintergrund wurde der OpenAI-Zwischenfall in der Branche als Weckruf gewertet. Es folgten unter anderem Forderungen, die Testumgebungen besser abzusichern. Für Anthropic sind die nun bekannt gewordenen Attacken besonders schmerzhaft, da die Firma stets als Verfechter einer verantwortungsvollen KI-Entwicklung auftrat.

Teilen. Facebook Twitter Pinterest LinkedIn Tumblr E-Mail
Dr. Heinrich Krämer
  • Webseite

Ähnliche Beiträge

USA gelten nicht mehr als masernfrei

November 17, 2026

Festnahme in Brandenburg: Wie ein Ukrainer für Russland spioniert haben soll

November 17, 2026

Jensen Huang kann sich Rückkehr an Nvidia-Spitze vorstellen

November 17, 2026
Kommentar hinterlassen Antwort abbrechen

Top-Beiträge

Meta-Konto: Umstellung oder Phishing? Der Faktencheck

Oktober 18, 20261.586 Aufrufe

Gefälschter Tagesschau-Artikel über Eklat bei Maischberger

Juli 13, 20261.208 Aufrufe

Gefälschte Doctolib-Mails fluten Postfächer: Erste-Hilfe-Set ist Fake

August 13, 2026121 Aufrufe

Bücherexperiment in sozialen Medien und Messengern

September 9, 202657 Aufrufe
Folgen Sie uns
  • Facebook
  • Twitter
  • Pinterest
  • Instagram
  • YouTube
  • Vimeo

Abonnieren Sie Updates

VerbraucherRat GmbH
Hohenzollernring 56
50672 Köln

Telefon: +49 221 16847392-0
Telefax: +49 221 16847392-99
E-Mail: info@verbraucherrat.com
Web: www.verbraucherrat.com

Geschäftszeiten
Montag – Freitag: 09:00 – 18:00 Uhr

Menu
  • Startseite
  • Über Uns
  • Kontakt
  • Aktuelle Warnungen
  • Nachrichten
  • Ratgeber
  • Betrugsmaschen
  • Beratung
  • Bildung
  • Politik
Institutionell
  • Impressum
  • Datenschutz
  • Hinweis / Haftungsausschluss
  • Cookie-Manager
  • Nutzungsbedingungen
  • Werbefrei lesen
  • Einwilligung widerrufen
  • Mediadaten
  • Abo kündigen
  • Barrierefreiheitserklärung
  • Hilfe
© 2026 VerbraucherRat. Alle Rechte vorbehalten.
  • Impressum
  • Datenschutz
  • Hinweis / Haftungsausschluss
  • Cookie-Manager
  • Nutzungsbedingungen
  • Werbefrei lesen
  • Einwilligung widerrufen
  • Mediadaten
  • Abo kündigen
  • Barrierefreiheitserklärung
  • Hilfe

Tippen Sie oben und drücken Sie Enter zum Suchen. Drücken Sie Esc zum Abbrechen.