Menü schließen
Verbraucherrat
  • Startseite
  • Über Uns
  • Kontakt
  • Aktuelle Warnungen
  • Nachrichten
  • Ratgeber
  • Betrugsmaschen
  • Beratung
  • Bildung
  • Politik
Facebook X (Twitter) Instagram
Facebook X (Twitter) Instagram
Verbraucherrat
  • Startseite
  • Über Uns
  • Kontakt
  • Startseite
  • Über Uns
  • Kontakt
  • Aktuelle Warnungen

    „Spritpreisdeckel droht zum Feigenblatt zu werden“

    November 5, 2026

    Mangelnde Transparenz in den Werbearchiven: Plattformen verstoßen gegen den DSA

    November 3, 2026

    KI als riskanter Ratgeber für junge Menschen: Verbraucherzentrale fordert mehr Schutz

    November 2, 2026

    Keine Werbung für Chips, Cola und Co.

    Oktober 29, 2026

    Verbraucherzentrale prüft Sammelklage gegen Stromanbieter grüüün

    Oktober 29, 2026
  • Nachrichten

    Abbruch bei Abschied: Das einzige DFB-Länderspiel, das nie zu Ende gespielt wurde

    November 15, 2026

    Relegation möglich: Portugal-Klatsche vermiest DFB die Nations-League-Situation

    November 15, 2026

    Software-Fehler sorgt für Chaos: Nach Ausfall von 14.500 US-Flügen Normalisierung erst am Sonntag 

    November 15, 2026

    „Wie ein schmerzender Zahn“: Moskau arbeitet sich an der Nato ab 

    November 15, 2026

    Tor-Warnung an die DFB-Elf: Furiose Niederländer demütigen völlig überforderte Griechen

    November 15, 2026
  • Ratgeber
  • Betrugsmaschen

    iPhone: Kein freier Abhörzugriff durch „Live Listen“

    November 14, 2026

    Startstopp in den USA: Ursache und Ablauf im Faktencheck

    November 14, 2026

    Käse- und Salamirückrufe: TikTok übertreibt

    November 14, 2026

    Commerzbank: Phishing mit photoTAN-Aktivierungsbrief

    November 14, 2026

    Selenskyjs Autos: Falsche Geschichte über Millionenfund

    November 14, 2026
  • Beratung
  • Bildung

    Bildung ist mehr als Schule – Alltagsbildung | Bildung

    Oktober 22, 2026

    „Andere Familiensprache als Deutsch“: Was bedeutet mehrsprachig aufzuwachsen? | Bildung

    Oktober 8, 2026

    Wie können Lehrkräfte und Schulen mit Mehrsprachigkeit umgehen? | Bildung

    Oktober 8, 2026

    Welche Rolle spielt Mehrsprachigkeit in der Bildungspolitik? | Bildung

    Oktober 8, 2026

    Was bedeutet Neutralität in der Schule – und was nicht? | Bildung

    Juli 14, 2026
  • Politik

    Frankreich: Zehntausende bei Demos, rund 200 Festnahmen

    November 15, 2026

    Europamagazin: Ein Aufschwung, den die Spanier nicht spüren

    November 15, 2026

    Illegale Drogen in Vapes – „Baller-Liquids“ gefährden Jugendliche

    November 15, 2026

    Journalisten in Ägypten: Verbote, Drohungen und Gefängnisstrafen

    November 15, 2026

    Erfolg für SpaceX: „Starship“-Rakete kehrt zur Startrampe zurück

    November 14, 2026
Verbraucherrat
Startseite»Nachrichten»Nächster Irrgang in Testlauf: Anthropics KI reicht falschen Hinweis bei Polizei ein
Nachrichten

Nächster Irrgang in Testlauf: Anthropics KI reicht falschen Hinweis bei Polizei ein

Dr. Heinrich KrämerVon Dr. Heinrich KrämerOktober 10, 2026Keine Kommentare3 Minuten Lesezeit
Facebook Twitter Pinterest LinkedIn Tumblr E-Mail
Teilen
Facebook Twitter LinkedIn Pinterest E-Mail

Nächster Irrgang in TestlaufAnthropics KI reicht falschen Hinweis bei Polizei ein

Die Polizei von Philadelphia zeigt sich empört, dass sie erst jetzt von dem Vorfall erfuhr. (Foto: picture alliance / Sipa USA)

Ein KI-Modell gibt bei einem Test einen Hinweis in einem ungelösten Mordfall. Doch der bleibt weiter ungeklärt, denn die angeblichen Informationen sind halluziniert. In einem anderen Fall beantragt die Software 20 Visa.

Künstliche Intelligenz der Entwicklerfirma Anthropic hat in einem Testlauf einen falschen Hinweis auf einer Polizei-Website zur Aufklärung ungelöster Mordfälle eingereicht. In einem weiteren Zwischenfall füllte die KI-Software Formulare auf einer US-Regierungsseite aus, wie Anthropic in einem Blogeintrag bekanntgab. Medienberichten zufolge waren es 20 Visa-Anträge beim amerikanischen Außenministerium. In den vergangenen Wochen wurden bereits verschiedene ungeplante Aktivitäten vor allem von KI des ChatGPT-Entwicklers und Anthropic-Rivalen OpenAI bekannt.

Die Unternehmen trainieren aktuell so genannte KI-Agenten – also Software, die im Auftrag der Nutzer weitgehend autonom verschiedene Aufträge erfüllen soll. Die von Anthropic aufgelisteten Vorfälle gehen direkt auf Versuche zurück, die KI für alle möglichen Online-Aufgaben vorzubereiten.

Den Fake-Hinweis zu einem ungeklärten Mord reichte Anthropics KI über eine Website der Polizei von Philadelphia ein. „Ich könnte Informationen zu diesem Fall haben“, schrieb die Software demnach. „Ich erinnere mich, jemanden, der der Beschreibung entspricht“, in der Gegend zur Tatzeit gesehen zu haben, hieß es weiter. Die Website der Polizei enthielt allerdings gar keine Täter-Beschreibung. Die Software ließ außerdem das Kontakt-Feld offen – und ihre Einreichung wurde als Spam markiert.

Die Polizei von Philadelphia kritisierte als „inakzeptabel“, dass sie erst jetzt von dem Vorfall Mitte Juli erfuhr. Anthropic zufolge wurde das Handeln der KI Ende September bei einer vertieften Überprüfung von Testläufen nach anderen Zwischenfällen entdeckt. Die Software habe den Auftrag gehabt, Aufgaben auf zufällig ausgesuchten Websites auszuführen. Ihr sei zwar untersagt gewesen, etwa Accounts anzulegen oder Dinge zu kaufen – aber das Ausfüllen von Formularen habe man nicht verboten.

Visa-Anträge ans US-Außenministerium

In anderen Fällen sollte die KI laut Anthropic üben, ein Behördenformular auszufüllen. Wenn sie das Übungsformular nicht laden konnte oder versehentlich schloss, navigierte die Software stattdessen mehrfach auf die echte Website und reichte es dort ein, wie die KI-Firma erläuterte. In einem der Versuche sollte sie demnach ein Formular nur ausfüllen, aber nicht einreichen. Sie tat es versehentlich dennoch, weil sie davon ausgegangen sei, dass es vorher noch eine Bestätigungsseite geben werde.

Dabei habe Anthropics KI beim US-Außenministerium 20 Anträge auf Nichteinwanderungs-Visa eingereicht, berichteten die Website „Axios“ und die „New York Times“ unter Berufung auf Regierungsbeamte. Sie seien unvollständig gewesen und nicht bearbeitet worden, hieß es. 19 der Anträge seien im August eingereicht worden und einer bereits im Mai.

Seit Wochen schüren Berichte über ungeplantes Verhalten Künstlicher Intelligenz in Testläufen Sorgen rund um die Technologie. In dem bisher aufsehenerregendsten Fall war Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI aus einer abgesicherten Testumgebung ausgebrochen und hatte sich ungeplant in Computer einer anderen KI-Firma gehackt, der Plattform Hugging Face.

Anthropic-Chef Dario Amodei schlug danach vor, die Entwicklung besonders fähiger KI-Modelle abzubremsen, damit man nicht die Kontrolle über die Technologie verliert. US-Präsident Donald Trump lehnt dies jedoch ab und verweist darauf, dass die USA bei Künstlicher Intelligenz den Vorsprung gegenüber China behalten müssten. Zu den jüngsten Anthropic-Vorfällen hieß es aus dem Weißen Haus laut „Axios“, für KI-Firmen sei es verpflichtend, sie offenzulegen.

Anthropic betonte, dass inzwischen der Internet-Zugang in Testläufen eingeschränkt worden sei und einige Versuche in Offline-Versionen liefen. Zugleich seien einige Aufgaben ohne eine Verbindung zum Internet schwer zu trainieren, schränkte die Firma ein. „Trainingsumgebungen sind nicht perfekt“ – und manchmal finde ein Modell eine Lücke oder lerne, Einschränkungen zu umgehen.

Quelle: ntv.de, chl/dpa

Teilen. Facebook Twitter Pinterest LinkedIn Tumblr E-Mail
Dr. Heinrich Krämer
  • Webseite

Ähnliche Beiträge

Abbruch bei Abschied: Das einzige DFB-Länderspiel, das nie zu Ende gespielt wurde

November 15, 2026

Relegation möglich: Portugal-Klatsche vermiest DFB die Nations-League-Situation

November 15, 2026

Software-Fehler sorgt für Chaos: Nach Ausfall von 14.500 US-Flügen Normalisierung erst am Sonntag 

November 15, 2026
Kommentar hinterlassen Antwort abbrechen

Top-Beiträge

Meta-Konto: Umstellung oder Phishing? Der Faktencheck

Oktober 18, 20261.540 Aufrufe

Gefälschter Tagesschau-Artikel über Eklat bei Maischberger

Juli 13, 20261.159 Aufrufe

Gefälschte Doctolib-Mails fluten Postfächer: Erste-Hilfe-Set ist Fake

August 13, 2026119 Aufrufe

Bücherexperiment in sozialen Medien und Messengern

September 9, 202655 Aufrufe
Folgen Sie uns
  • Facebook
  • Twitter
  • Pinterest
  • Instagram
  • YouTube
  • Vimeo

Abonnieren Sie Updates

VerbraucherRat GmbH
Hohenzollernring 56
50672 Köln

Telefon: +49 221 16847392-0
Telefax: +49 221 16847392-99
E-Mail: info@verbraucherrat.com
Web: www.verbraucherrat.com

Geschäftszeiten
Montag – Freitag: 09:00 – 18:00 Uhr

Menu
  • Startseite
  • Über Uns
  • Kontakt
  • Aktuelle Warnungen
  • Nachrichten
  • Ratgeber
  • Betrugsmaschen
  • Beratung
  • Bildung
  • Politik
Institutionell
  • Impressum
  • Datenschutz
  • Hinweis / Haftungsausschluss
  • Cookie-Manager
  • Nutzungsbedingungen
  • Werbefrei lesen
  • Einwilligung widerrufen
  • Mediadaten
  • Abo kündigen
  • Barrierefreiheitserklärung
  • Hilfe
© 2026 VerbraucherRat. Alle Rechte vorbehalten.
  • Impressum
  • Datenschutz
  • Hinweis / Haftungsausschluss
  • Cookie-Manager
  • Nutzungsbedingungen
  • Werbefrei lesen
  • Einwilligung widerrufen
  • Mediadaten
  • Abo kündigen
  • Barrierefreiheitserklärung
  • Hilfe

Tippen Sie oben und drücken Sie Enter zum Suchen. Drücken Sie Esc zum Abbrechen.