Die EU will KI-Anwendungen zum missbräuchlichen Erstellen von sexualisierten Deepfakes verbieten – und hat jetzt eine Einigung erzielt. Andere Regeln für KI-Anbieter sollen hingegen erst später gelten als bisher geplant.
KI-Anwendungen zum missbräuchlichen Erstellen von sexualisierten Deepfakes sollen in der EU künftig verboten sein. Vertreter der Mitgliedstaaten und des Europäischen Parlaments einigten sich auf eine entsprechende Anpassung des KI-Gesetzes, wie die zyprische EU-Ratspräsidentschaft mitteilte. Zugleich sollen andere KI-Regeln vereinfacht werden, um das wirtschaftliche Potenzial von Künstlicher Intelligenz in Europa auszuschöpfen.
Bevor die Änderungen in Kraft treten können, muss die Einigung noch vom Plenum des EU-Parlaments und dem Rat der Regierungen der Mitgliedstaaten bestätigt werden. In der Regel gilt das als Formalie. Geht die Reform durch, würde das Verbot ab 2. Dezember 2026 federführend vom KI-Amt der EU durchgesetzt werden, das vor zwei Jahren geschaffen wurde.
Bei Deepfakes wird etwa das Gesicht einer Frau in ein anderes Video – etwa eine Porno-Sequenz – eingefügt oder die Stimme künstlich nachgeahmt, so dass es wirkt, als würde sie Dinge tun oder sagen, die tatsächlich nie passiert sind. Durch die Entwicklung von KI ist die Erstellung täuschend echter Inhalte sehr viel einfacher geworden.
Chatbot Grok rückte Thema in den Fokus
Auf EU-Ebene rückte das Thema Ende vergangenen Jahres durch den KI-Chatbot Grok in den Fokus. Bis die von Elon Musk geführte US-Firma hinter der Software diese Funktion einschränkte, befahlen Menschen der KI immer wieder, Frauen in Bildern zu entkleiden. An Silvester entschuldigte sich der Chatbot selbst dafür, ein Bild von zwei Mädchen im Teenager-Alter „in sexualisierten Outfits“ erstellt zu haben. Das neue Verbot soll explizit auch auf das Erstellen von Inhalten abzielen, die sexuellen Kindesmissbrauch darstellen.
Das neue Verbot in der KI-Verordnung auf EU-Ebene, das sich nun abzeichnet, würde die Perspektive von der Bestrafung der Tat hin zum Verbot des Werkzeugs wechseln, also der KI-Anwendung an sich. Verhandlungsteilnehmer betonen aber, dass das Verbot nicht dazu führen soll, die Erstellung oder Manipulation von Bildern übermäßig stark einzuschränken.
Deepfake
Der Begriff Deepfake setzt sich aus den englischen Begriffen „Deep Learning“ (eine Lernmethode der künstlichen Intelligenz) und „Fake“ (dt. Fälschung) zusammen. „Deepfake“ bezeichnet manipulierte Medien, meist Videos oder Bilder, in denen Gesichter oder Stimmen mithilfe von Künstlicher Intelligenz (KI) täuschend echt verändert oder ausgetauscht werden. Je mehr Material etwa von einer Person vorliegt, umso authentischer wirken die manipulierten Bilder.
Gesetz soll sexualisierte Inhalte genau definieren
Dafür soll in dem neuen Gesetz genau definiert sein, was sexualisierte Inhalte sind und was nicht. Nicht-einvernehmliche Bikini-Bilder, wie sie von Grok erstellt und auf X verbreitet wurden, könnten demnach möglicherweise erlaubt bleiben.
An Teile des Gesetzes, die das Europäische KI-Amt ursprünglich bereits ab August durchsetzen sollte, müssen sich die Firmen hinter ChatGPT, Claude und Co. jetzt erst ab Dezember 2026 halten. Spätestens dann sollen die Anbieter KI-Inhalte deutlich als solche kennzeichnen – generierte Bilder und Videos müssten sie also mit Wasserzeichen markieren. Andere Regeln soll das KI-Amt erst ab Dezember 2027 durchsetzen. Die Unternehmen hatten zuletzt immer wieder mehr Zeit gefordert, um die nötigen Anpassungen für die strikteren Vorgaben umzusetzen.
EU-Regeln gegen digitale Gewalt bereits vorhanden
Die geplanten Gesetzesverschärfungen sind nicht die ersten EU-Regeln zur Bekämpfung digitaler Gewalt. Bestehende Regularien sehen bereits vor, dass in allen Mitgliedstaaten das Anfertigen und Verbreiten von manipulierten Darstellungen sexueller Handlungen ohne Zustimmung der Betroffenen unter Strafe gestellt werden soll.
Die entsprechende EU-Richtlinie ist zwar seit Mai 2024 in Kraft, von Deutschland allerdings bisher nicht in nationales Recht übertragen worden. Dafür hat die Bundesrepublik noch bis zum Sommer nächsten Jahres Zeit. Zuletzt kündigte Justizministerin Stefanie Hubig (SPD) entsprechende Verschärfungen im Strafrecht und mehr Rechte für Geschädigte an.
