Wasserzeichen ab 2026 Pflicht EU verbietet sexualisierte KI-Deepfakes

Die Europäische Union (EU) will das Erstellen von sexualisierten Deepfakes mit Künstlicher Intelligenz (KI) verbieten. Nach einer Einigung zwischen Vertreter*innen der EU-Mitgliedstaaten und dem Europäischen Parlament soll das neue Verbot in das geplante KI-Gesetz aufgenommen werden. Ziel ist es, insbesondere den Missbrauch von KI zur Erstellung gefälschter pornografischer Inhalte einzudämmen und Betroffene vor digitaler Gewalt zu schützen.

Das Wichtigste im Überblick

• Die EU einigt sich auf ein Verbot von KI-Anwendungen zur Erstellung sexualisierter Deepfakes.
• Das Verbot soll ab dem 2. Dezember 2026 in Kraft treten, sofern Parlament und Rat zustimmen.
• Das EU-KI-Amt wird die Umsetzung des Verbots überwachen.
• Besonders queere Menschen und Minderjährige gelten als gefährdete Gruppen.
• Verpflichtende Wasserzeichen für KI-Inhalte werden ebenfalls eingeführt, ab Dezember 2026.

Neuer EU-Rechtsrahmen gegen Deepfake-Missbrauch

Die geplante Regelung konkretisiert das Vorgehen gegen KI-generierte Inhalte, bei denen das Aussehen oder die Stimme einer Person täuschend echt in neue, meist sexualisierte Darstellungen transferiert wird. Diese Inhalte verbreiten sich zunehmend in sozialen Netzwerken wie X (früher Twitter) und sind dort längst ein massives Problem. Künftig sollen Anbieter*innen von KI-Diensten EU-weit dafür haftbar gemacht werden, wenn ihre Technologie zur Produktion solcher Deepfakes missbraucht wird.

Eine besondere Zielgruppe des Schutzes sind queere Menschen sowie Mädchen und junge Frauen, die laut einer internationalen Studie von 2022 überproportional häufig von digitaler bildbasierter Gewalt betroffen sind. Auch das Erstellen von Deepfake-Inhalten, die sexuellen Kindesmissbrauch zeigen, soll explizit verboten werden. Die FDP-Europaabgeordnete Svenja Hahn betonte nach den Verhandlungen:

„KI darf kein Werkzeug für sexualisierte Gewalt gegen Kinder sein.“

Umsetzungsdetails und wirtschaftliche Aspekte

Bis die neuen Regeln gelten, müssen sie noch formell vom EU-Parlament und vom Rat bestätigt werden – dies gilt als Formsache. Die zentralen Bestimmungen treten dann ab Dezember 2026 in Kraft und werden durch das Europäische KI-Amt kontrolliert. Die Umsetzung anderer Teile des Gesetzes, etwa die verpflichtende Kennzeichnung (Wasserzeichen) von KI-generierten Bildern und Videos, ist ebenfalls für Ende 2026 beziehungsweise 2027 geplant. Unternehmen wie OpenAI und Anthropic erhalten dadurch mehr Zeit, ihre Dienste an die neuen Vorgaben anzupassen.

Die Industrie fürchtet jedoch eine Doppelregulierung durch mehrere parallele Gesetze auf europäischer Ebene. Deshalb sollen Ausnahmen geschaffen werden, etwa für den Maschinenbau. Auch Politiker wie Axel Voss (CDU) fordern einen klaren, innovationsfördernden Rahmen statt eines Flickenteppichs aus Einzelregeln. Dennoch bleibt das Hauptziel, den Schutz vor Missbrauch durch KI zu stärken.

Hintergrund: Bestehende EU-Regelungen und offene Fragen

Bereits seit Mai 2024 sieht eine EU-Richtlinie Sanktionen für die unbefugte Erstellung und Verbreitung sexueller Darstellungen durch KI vor. Deutschland hat diese Vorgaben bislang jedoch noch nicht in nationales Recht umgesetzt und bleibt hierzu bis Sommer 2025 in der Pflicht. Künftig soll das KI-Gesetz verhindern, dass strafbare Deepfakes überhaupt entstehen – ein Systemwechsel von der Strafverfolgung zur Prävention. Die genaue Definition, was als sexualisierte Inhalte gilt, soll im Gesetz differenziert festgelegt werden.

Wichtige Fragen zum Thema

Wie werden KI-generierte Deepfakes technisch erkennbar?
Ab Dezember 2026 müssen Anbieter*innen KI-generierte Bilder und Videos verpflichtend mit Wasserzeichen kennzeichnen.

Was passiert bei Verstößen gegen das neue Verbot?
Das EU-KI-Amt überwacht die Einhaltung, bei Verstößen drohen empfindliche Sanktionen und Bußgelder.

Warum sind gerade queere Menschen besonders gefährdet?
Studien zeigen, dass queere Personen, besonders wenn sie jung und online sichtbar sind, häufiger Opfer von digitalem Missbrauch durch Deepfakes werden.

In der Einschätzung der öffentlich-rechtlichen Redaktion markiert diese EU-weite Einigung einen Meilenstein im Kampf gegen digitale Gewalt und gezielten KI-Missbrauch. Die kommenden Monate werden zeigen, wie wirksam die neuen Regeln gerade in Bezug auf Prävention, Opferschutz und technische Umsetzung wirken.