KI-Nacktfälschungen: Wer das Geschäft ermöglicht

Wer ein gefälschtes Nacktbild einer anderen Person erstellt oder verbreitet, trägt Verantwortung für diesen Übergriff. Doch ein kommerzielles Angebot braucht oft weitere Unterstützung: Es muss Kundschaft erreichen und Geld einnehmen können. Suchmaschinen und Appstores können den Zugang erleichtern; Zahlungsdienste ermöglichen Einnahmen. Damit haben auch diese Unternehmen Möglichkeiten, das Geschäft zu unterbrechen. Welche Rolle sie tatsächlich spielen, muss jeweils konkret geprüft werden.

Diesen größeren Zusammenhang beschreibt die Untersuchung von Michelle L. Ding, Harini Suresh und Suresh Venkatasubramanian. Das Team der Brown University führt mehr als 100 Quellen zusammen und ordnet elf Technologiekategorien. Dazu kommen Fallanalysen zu Grok und eine Auswertung von US-Bundesrecht sowie 63 Gesetzen auf Ebene der US-Bundesstaaten. Die Rechtsanalyse beschreibt die untersuchten US-Regelungen; daraus lassen sich keine entsprechenden Pflichten für Österreich, Deutschland oder die Schweiz ableiten.

Die Arbeit liegt seit dem 4. Februar 2026 auf arXiv vor, zuletzt revidiert am 20. Oktober. Brown berichtete am 9. November über die Konferenzvorstellung am 7. November. Der aktuelle Anlass ist damit die Präsentation einer bereits verfügbaren Untersuchung.

Vom KI-Modell bis zur Bezahlung

Die Übersicht der Forschenden unterscheidet mehrere Funktionen. Trainingsdaten und KI-Modelle bilden die technische Grundlage; eine App oder Website macht deren Funktionen zugänglich. Andere Dienste verbreiten die Bilder oder machen Angebote auffindbar. Entwicklerplattformen stellen Software bereit, Infrastrukturunternehmen unterstützen den Betrieb. Zahlungsabwickler ermöglichen schließlich, für Leistungen Geld zu verlangen. Ein Unternehmen kann mehrere dieser Rollen übernehmen. Diese Zuordnung erklärt Einflussmöglichkeiten, sie stellt keine pauschale rechtliche Mitschuld fest.

Suchmaschinen können Reichweite begrenzen

Suchmaschinen entscheiden durch ihre Reihung mit, wie leicht Menschen Angebote finden. Google beschreibt in seinen aktuellen Suchrichtlinien Herabstufungen für Websites, zu denen viele Entfernungen wegen nicht einvernehmlicher intimer Inhalte bearbeitet wurden. Die Werberichtlinien verbieten außerdem Werbung für Angebote zur Erzeugung oder Verbreitung sexuell expliziter KI-Fälschungen. Damit liegen Ansatzpunkte sowohl bei gewöhnlichen Suchtreffern als auch bei bezahlter Werbung.

Für Änderungen an der Suche meldete Google bereits am 31. Juli 2024 einen Rückgang der Sichtbarkeit expliziter Bildtreffer um über 70 Prozent bei bestimmten personenbezogenen Suchanfragen nach solchen Inhalten. Das ist eine Unternehmensangabe zu einem begrenzten Ausschnitt der Suche. Sie misst weder die Zahl neu erzeugter Fälschungen noch den gesamten Schaden für Betroffene.

Appstores können Anwendungen aus dem Vertrieb nehmen

Wer eine App in einem großen Store findet, kann sie besonders einfach installieren. Die Betreiber kontrollieren damit einen wichtigen Vertriebsweg. Apple verlangt bei Apps mit nutzergenerierten oder KI-erzeugten Inhalten unter anderem Filter und Meldewege; bei Verstößen sind Entfernungen vorgesehen. Google Play untersagt ausdrücklich Apps, die vorgeben, Menschen auszuziehen, sowie nicht einvernehmliche sexuelle Deepfake-Inhalte.

Dass solche Regeln tatsächlich eingesetzt werden, dokumentierte das Tech Transparency Project im April 2026: Nachdem das Rechercheprojekt und Bloomberg entsprechende Apps gemeldet hatten, entfernte Apple 15 Anwendungen und Google sieben. Die Untersuchung zeigte zugleich, dass Suchfunktionen und Anzeigen der Stores zu problematischen Apps führten. Die Entfernungen sind ein belegter Eingriff. Ob die Nutzer anschließend auf andere Angebote wechselten oder insgesamt weniger Missbrauch stattfand, beantwortet diese Recherche nicht.

Zahlungsdienste können Einnahmewege unterbrechen

Bei kostenpflichtigen Angeboten führt eine weitere Verbindung zu Unternehmen, die Zahlungen abwickeln. Ihre Regeln können bereits vor einer gerichtlichen Entscheidung ansetzen. Stripe schließt beispielsweise pornografische Inhalte zur sexuellen Befriedigung ausdrücklich aus, einschließlich entsprechend erzeugter KI-Inhalte. Das ist eine Geschäftsbedingung dieses Anbieters und kein allgemeines Gesetz.

Konkrete Eingriffe beschrieb Bellingcat im Februar 2024: Nach Anfragen der Redaktion funktionierte ein zuvor dokumentiertes Stripe-Zahlungskonto nicht mehr; ein verwendetes PayPal-Konto wurde gelöscht. Patreon bestätigte die Sperre eines gemeldeten Kontos wegen Verstößen gegen seine Regeln zu nicht einvernehmlichen intimen Darstellungen. Das belegt unterbrochene Geschäftsbeziehungen, aber keine dauerhafte Stilllegung des gesamten Angebots.

Weitergehende Forderungen enthält ein Schreiben von 47 US-Generalstaatsanwältinnen und Generalstaatsanwälten aus Bundesstaaten und Territorien vom 22. August 2025. Sie verlangten von großen Zahlungsunternehmen eine aktivere Suche nach solchen Geschäftskunden und den Entzug ihrer Zahlungsberechtigung. Dieses Schreiben dokumentiert eine Aufforderung; es belegt keine flächendeckende Umsetzung.

Welche Eingriffe wie viel bewirken, bleibt eine Forschungsfrage

Die Brown-Arbeit zeigt, an welchen Verbindungen weitere Untersuchungen ansetzen können. Auswirkungen von Eingriffen auf andere Teile der Anbieterkette nennt sie ausdrücklich als Aufgabe künftiger Forschung. Für einen Wirksamkeitsnachweis müsste etwa geprüft werden, ob eine Sperre den Zugang insgesamt erschwert oder ob ein Angebot zu einem anderen Dienst wechselt. Ein entferntes Konto lässt sich dokumentieren; eine dauerhafte Verringerung des Missbrauchs braucht weitergehende Belege.

Unser Hintergrund zu verbliebenen Suchtreffern nach Seitensperren erklärt die Folgen für die Auffindbarkeit einzelner Inhalte. Wer selbst betroffen ist, findet im Beitrag über digitale sexuelle Gewalt konkrete Hilfestellung und Hinweise zur Löschung.