KURZMELDUNG · INTERNATIONAL; DURCH DIE TRANSPARENZVORGABEN DES EU AI ACT AUCH FÜR DEN DACH-RAUM RELEVANT.
Zwei KI-Modelle erhalten denselben Auftrag. Eine Ausgabe entsteht ohne Wasserzeichen, die andere mit einem unsichtbaren Muster im Text. Im Forschungsbericht von Lasso Security vom 17. September 2026 unterscheiden sich danach mitunter nicht nur Wörter, sondern auch die Aktionen des KI-Agenten.
Andrea Siposova von Lasso Security untersuchte das offene Verfahren SynthID-Text. Es beeinflusst bei der Texterzeugung, welche nächsten Textbausteine ein Modell auswählt. So entsteht ein statistisches Muster, das später als Herkunftshinweis dienen kann. Dieselbe Steuerung kann aber auch Argumente eines Werkzeugaufrufs verändern – etwa Empfänger, Dateipfad oder Betrag.
Über 21 Kombinationen aus Modell und Temperatur wechselte bei durchschnittlich 6,5 Prozent der Aufgaben die Bewertung zwischen korrektem und inkorrektem Werkzeugaufruf. Die Temperatur bestimmt, wie stark ein Modell zwischen möglichen Ausgaben variiert. Bei Phi-4 lag der Wechsel unter hoher Temperatur bei 16,8 Prozent, obwohl die Gesamtgenauigkeit nur um 2,87 Prozentpunkte sank.
Unter einer festen Prompt-Injection wechselten manche Modelle außerdem häufiger von Verweigerung zu Befolgung. Eine Prompt-Injection ist eine eingeschleuste Anweisung, die Sicherheitsregeln umgehen soll. Bei Gemma-3-27B stieg die schädliche Befolgung in einer getesteten Konfiguration um 12,5 Prozentpunkte.
Der Bericht ist nicht peer-reviewed, also nicht unabhängig wissenschaftlich begutachtet. Er verwendet künstliche Benchmarks, offene Modelle und nur ein Muster für Prompt-Injection. Produktive Schlüssel und Einstellungen von Anthropic oder Google wurden nicht direkt getestet. Die Ergebnisse belegen daher weder reale Schäden noch einen Fehler im derzeitigen Claude- oder Gemini-Betrieb.
Wasserzeichen sollen die Herkunft von KI-Texten erkennbar machen. Das ist eine andere Anforderung als gleichbleibendes Verhalten. Ein nahezu unveränderter Durchschnittswert kann verdecken, dass ein Agent im Einzelfall einen anderen Empfänger, Suchbegriff oder Pfad auswählt – genau dort können kleine technische Änderungen praktische Folgen haben.
Quellen
Über dieses Format: Für unsere Kurzmeldungen sammeln und prüfen wir aktuelle Entwicklungen aus verlässlichen Quellen. Nach der redaktionellen Bearbeitung werden die Meldungen über unser eigenes Mimikama-Kurzmeldungs-System veröffentlicht. Daher können mehrere Beiträge denselben Veröffentlichungszeitpunkt tragen.
