EU-Chatkontrolle gescheitert EU-Parlament votiert für Verbot von sexualisierten KI-Inhalten
Das Europäische Parlament hat neue Regeln im Umgang mit künstlich erzeugten sexualisierten Inhalten beschlossen. Geplant ist ein Verbot von KI-Anwendungen, die Nacktbilder oder Videos von Personen ohne deren Einwilligung erstellen. Gleichzeitig scheiterte ein Vorschlag, die Online-Chats aller Nutzer in Europa anlasslos weiterhin freiwillig auf Kinderpornografie überprüfen zu lassen.
Verbot von heimlichen KI-Sexbildern
Damit reagiert das Parlament auf Vorfälle, bei denen Nutzer mithilfe des Chatbots Grok von Elon Musk massenhaft sexualisierte KI-Bilder von Frauen und Kindern erzeugten und verbreiteten. Aktuell gibt es mehr als einhundert Apps, die ähnliche Inhalte entwickeln. Die neue Regelung verbietet ausdrücklich KI-Anwendungen, mit denen Nutzer intime oder sexualisierte Darstellungen von identifizierbaren Personen ohne deren Einwilligung erzeugen. In der Begründung des Gesetzesentwurfs heißt es, solche Inhalte schädigten die Betroffenen und verletzten deren Grundrechte auf Würde und Privatsphäre. Besonders gefährdet von solchen Apps waren nebst Frauen auch besonders vulnerable Gruppen wie die LGBTIQ+-Community. Das Verbot soll in einigen Monaten in Kraft treten, sobald die endgültige Genehmigung erfolgt.
Ende der EU-Chatkontrolle
Ein Versuch, die bestehende freiwillige Kontrolle von Chats durch Plattformen wie Google, Meta, Microsoft oder Snapchat über den 3. April hinaus zu verlängern, scheiterte bei einer Abstimmung in Brüssel. Damit ist es diesen Diensten nicht mehr erlaubt, private Nachrichten systematisch auf Darstellungen sexuellen Kindesmissbrauchs zu prüfen. Bürgerrechtsorganisationen, Datenschutzexperten und auch Vertreter von queeren Verbänden hatten sich gegen die anlasslose Überwachung aller Nutzer gestellt.
Das Vorhaben war von Anfang an sehr umstritten, gerade auch innerhalb der LGBTIQ+-Community. Der LSVD+ hatte gegenüber SCHWULISSIMO erklärt: „Eine anlasslose und automatisierte Überwachung privater Kommunikation greift tief in die Grundrechte auf Privatsphäre, freie Entfaltung und Vertraulichkeit ein. Besonders betroffen wären queere Menschen, die in digitalen Räumen häufig einen geschützten Ort finden, um über ihre Identität, Sexualität oder ihr Coming-Out zu sprechen. Wenn künftig staatliche Stellen oder Algorithmen jede Nachricht und jedes Bild potenziell mitlesen und bewerten, entsteht ein Klima des Misstrauens und der Angst.“
Neue Maßnahmen in Deutschland
Bundeskanzler Friedrich Merz (CDU) indes äußerte seine Enttäuschung über die Entscheidung. „Das ist ein schwerer Rückschlag für den Schutz unserer Kinder“, sagte er in Berlin. Nationale Maßnahmen sollen nun die Lücke schließen, kündigte er an. Familienministerin Karin Prien (CDU) arbeite an Vorschlägen, um noch vor den Sommerferien eine politische Entscheidung im Bundeskabinett zu erreichen. Parallel plant Bundesjustizministerin Stefanie Hubig (SPD) strengere Strafregeln für Täter, die pornografische Deepfakes erstellen und verbreiten. Bislang ist die bloße Erstellung solcher Inhalte in Deutschland nicht strafbar. Nach dem Entwurf sollen künftig bis zu zwei Jahre Haft drohen. Hubig begründet die Pläne unter anderem mit dem Fall der Schauspielerin Collien Fernandes, die Vorwürfe digitaler sexualisierter Gewalt öffentlich machte.
