Stammt dieser Text von einer Künstlichen Intelligenz? Aufschluss geben können Wasserzeichen, die KI-generierte Texte markieren. OpenAI hat das nun für ChatGPT angekündigt.
Seit Anfang August gilt ein neues Gesetz des EU AI-Acts, das von Maschinen lesbare Kennzeichnungen für KI-generierte Inhalte fordert. KI-Anbieter wie Anthropic und Google haben entsprechende Wasserzeichen angekündigt oder nutzen sie teilweise schon.
Wer heute im Netz unterwegs ist, liest sehr wahrscheinlich jeden Tag KI‑Texte – ohne es zu merken. Chatbots schreiben Produktbeschreibungen, Bewerbungen, Uni-Hausarbeiten, sogar politische Stellungnahmen. Wasserzeichen für KI-Texte sollen künftig kenntlich machen, ob ein Text von einer Maschine stammt.
Beim Einbau eines Wasserzeichens wird eine Besonderheit der Sprache genutzt: Häufig gibt es mehrere Formulierungen für denselben Inhalt, etwa „Ich gehe heute ins Kino“ statt „Ich möchte heute ins Kino gehen“. In diesen sprachlichen Freiräumen kann die KI bei der Texterzeugung unauffällig gesteuert werden.
Wie ein gezinkter Würfel
Normalerweise berechnet das Modell für jedes mögliche nächste Wort eine Wahrscheinlichkeit und „würfelt“ dann, welches gewählt wird. Für das Wasserzeichen wird dieser Wahrscheinlichkeitswürfel leicht „gezinkt“: Bestimmte Alternativwörter, die den Sinn nicht verändern, werden minimal bevorzugt, andere minimal benachteiligt. So entsteht ein statistisches Muster im Text, das für Leserinnen und Leser nicht sichtbar ist.
Diese leichte Veränderung wird für jedes Wort neu berechnet, deswegen bleiben die Veränderungen über den ganzen Text unsichtbar. Die Anpassung der KI-Texte sind sowohl für Menschen als auch Maschinen selbst mit langem Nachrechnen nicht zu erkennen. Ob ein Text ein solches Wasserzeichen trägt, lässt sich später nur erkennen, wenn man den geheimen „Schlüssel“ kennt, der beschreibt, wie genau der „Würfel“ manipuliert wurde.
Warum das so ist, erklärt Waldemar Berchtold, Gruppenleiter für Multimedia Sicherheit am Fraunhofer Institut für Sichere Informationstechnologie in Darmstadt: „Wenn es jeder nachvollziehen kann, kann er das Wasserzeichen entfernen, kann es sozusagen rückgängig machen, und er kann auch ein Wasserzeichen erzeugen.“
Nur begrenzt sichere Überprüfbarkeit
Berchtold gibt zu Bedenken, dass Wasserzeichen auch technische Einschränkungen haben. Zum einen müsse ein Text eine bestimmte Länge haben, damit die Wasserzeichentechnologie funktioniere. Erst ab einer Länge von ca. 200 bis 300 Wörtern funktioniere es gut, Wasserzeichen zu verstecken und zu erkennen, sagt der Forscher. Probleme gebe es zum anderen, wenn man den Text verändert: „Weil ich auch die Ausgabe verändere und meinen Stil wieder reinbringe, und damit quasi auch die Spur des KI-Generators – des Wasserzeichens – verwische.“
Die Eleganz der Wasserzeichen liegt zwar darin, dass das Zeichen in dem Text selbst verborgen ist. Allerdings: Verändert man den Text, verändert man auch das Wasserzeichen. Deshalb kann das Entschlüsselungsverfahren nur eine Wahrscheinlichkeit angeben, dass der Text ein Wasserzeichen enthält, keine hundertprozentige Sicherheit.
Auch den KI-Anbietern nützt Erkennung von KI-Texten
Fachleute wie Berchtold weisen darauf hin, dass die KI-Anbieter mit den Wasserzeichen letztlich nicht nur EU-Vorgaben folgen. Sie haben auch ein Eigeninteresse daran, zu erkennen zu können, welche Texte von der KI stammen und welche nicht. „Wenn Sie Sprachmodellhersteller sind, dann müssen Sie diese Sprachmodelle permanent mit guten Texten füllen“, erklärt der Forscher. „Es ist im Interesse der Sprachmodellhersteller, ihre eigenen Texte zu erkennen. Diesen Nutzen, den übersieht man oft.“
Für Verbraucher, aber auch Institutionen könnte es bald einfacher werden, KI-generierte Texte zu erkennen: In Zukunft werden die KI-Anbieter auch Detektoren anbieten, um Texte auf ihren Ursprung testen zu können. Dabei wird dann vermutlich eine Wahrscheinlichkeitsangabe gemacht wie: „Dieser Text ist mit einer Wahrscheinlichkeit von 80 Prozent durch unser KI-Modell erstellt worden.“
