Geschrieben von Whitebird am 07.05.2026 um 12:09:
EU kippt KI-Tools für sexualisierte Deepfakes
EU kippt KI-Tools für sexualisierte Deepfakes
KI , die sexualisierte Deepfakes erzeugt, soll in der EU verboten sein. Die Verordnung zielt erstmals auf die Werkzeuge selbst – nicht nur auf die Täter dahinter.
7. Mai 2026 um 09:03 Uhr / Andreas Donath
Vertreter der EU-Mitgliedstaaten und des Europäischen Parlaments haben sich auf eine Anpassung der KI-Verordnung geeinigt, die Anwendungen zur Erstellung sexualisierter Deepfakes untersagt. Das teilte
die zyprische EU-Ratspräsidentschaft nach Verhandlungen mit. Greift die Reform, würde das Verbot ab dem 2. Dezember 2026 federführend vom KI-Amt der EU durchgesetzt. Plenum und Ministerrat müssen die Einigung noch bestätigen, was als Formalie gilt.
Grok-Skandal als Auslöser
Auf EU-Ebene rückte das Thema Ende vergangenen Jahres durch den KI-Chatbot Grok in den Fokus. Bis das Unternehmen von Elon Musk die Funktion einschränkte, ließen Nutzer die KI wiederholt Frauen auf ausgewählten Bildern entkleiden.
Vom Strafrecht zum Werkzeugverbot
Die Verschärfung markiert einen Perspektivwechsel: Während eine bereits seit Mai 2024 geltende EU-Richtlinie die Tat selbst unter Strafe stellt – also das Anfertigen und Verbreiten manipulierter sexueller Darstellungen ohne Zustimmung -, zielt die neue Regelung auf das Werkzeug ab, also die KI-Anwendung selbst. Deutschland hat die Richtlinie bislang nicht umgesetzt, hat dafür aber noch bis zum Sommer kommenden Jahres Zeit.
Verhandlungsteilnehmer betonen, dass die Bildbearbeitung nicht übermäßig eingeschränkt werden soll. Dafür soll im Gesetz genau definiert werden, was als sexualisierter Inhalt gilt. Nicht einvernehmliche Bikini-Bilder, wie sie über Grok auf X verbreitet wurden, könnten demnach erlaubt bleiben.
Wasserzeichenpflicht verschoben
Andere Teile der KI-Verordnung werden auf Wunsch der Industrie entschärft oder verschoben. Anbieter von Chatbots wie ChatGPT oder Claude müssen sich erst ab Dezember 2026 an Vorschriften halten, die ursprünglich bereits ab August greifen sollten – dazu zählt die Pflicht, generierte Bilder und Videos mit Wasserzeichen zu kennzeichnen. Weitere Regeln werden erst ab Dezember 2027 durchgesetzt. Auch für die Maschinenbaubranche sollen Ausnahmen geschaffen werden, um Doppelregulierung zu vermeiden.
quelle: golem.de