Das Europäische Parlament hat ein umfangreiches Maßnahmenpaket zur Regulierung von Anwendungen der Künstlichen Intelligenz (KI) auf den Weg gebracht. Im Mittelpunkt steht ein Verbot von Systemen, mit denen sexualisierte Deepfakes erstellt werden können. Nach monatelangen Verhandlungen stimmten die Abgeordneten in Straßburg den neuen Regelungen zu. Aus der queeren Community sind gemischte Reaktionen zu hören.
Das Wichtigste im Überblick
- Das Europäische Parlament hat neue Regelungen zur Künstlichen Intelligenz beschlossen.
- KI-Anwendungen zur Erstellung sexualisierter Deepfakes sollen künftig verboten werden.
- Anbieter entsprechender Systeme müssen technische Schutzmaßnahmen einbauen.
- Die formelle Zustimmung der EU-Staaten steht noch aus, gilt aber als wahrscheinlich.
- Die queere Community reagiert teilweise gespalten auf die EU-Pläne
Anbieter von Deepfake-Systemen
Bevor die Vorschriften in Kraft treten können, müssen die EU-Mitgliedstaaten noch formell zustimmen. Dies gilt jedoch als Formsache. Das Verbot soll nach den Planungen ab dem 2. Dezember gelten. Deepfakes sind mithilfe von Künstlicher Intelligenz erzeugte oder manipulierte Bild-, Video- und Tonaufnahmen, die oft kaum von echten Aufnahmen zu unterscheiden sind. Die neuen Regelungen erweitern die bereits bestehenden Vorgaben und richten sich künftig nicht nur gegen die Nutzer solcher Anwendungen, sondern auch gegen die Anbieter entsprechender Technologien. Betroffen sind insbesondere Systeme, die Bilder, Videos oder Tonaufnahmen mit kinderpornografischem Inhalt erzeugen können oder intime Darstellungen identifizierbarer Personen ohne deren Zustimmung erstellen. Anbieter müssen ihre Anwendungen bis zum Inkrafttreten der neuen Vorschriften mit technischen Schutzmechanismen ausstatten.
Reaktion auf Vorfälle mit Chatbot Grok
Mit den verschärften Vorgaben reagiert die Europäische Union unter anderem auf Ereignisse zu Beginn des Jahres. Damals hatten Nutzer mithilfe des Chatbots Grok millionenfach sexualisierte KI-Bilder von Frauen und Kindern erstellt und im Internet verbreitet. In der Folge nahmen mehrere Staaten sowie die Europäische Kommission Ermittlungen gegen den Chatbot auf. In einigen Ländern wurde der Dienst zeitweise gesperrt. Parallel zu den europäischen Maßnahmen hatte Bundesjustizministerin Stefanie Hubig bereits einen Gesetzentwurf vorgelegt, der Sanktionen für Nutzer in Deutschland vorsieht. Die SPD-Politikerin schlug vor, die Herstellung und Verbreitung pornografischer Deepfakes künftig mit Freiheitsstrafen von bis zu zwei Jahren zu ahnden.
Umstrittene Position in der Community
Fachleute und Interessenverbände weisen darauf hin, dass Deepfakes insbesondere für queere Menschen erhebliche Gefahren bergen können. Mithilfe künstlicher Intelligenz lassen sich täuschend echte Bilder und Videos erstellen, die Betroffene in sexuellen oder kompromittierenden Situationen zeigen. Solche Inhalte können gezielt eingesetzt werden, um Menschen zu diffamieren, zu erpressen oder öffentlich bloßzustellen. Besonders problematisch ist dies für lesbische, schwule, bisexuelle, trans* und queere Menschen in Staaten oder gesellschaftlichen Umfeldern, in denen sexuelle Orientierung oder Geschlechtsidentität stigmatisiert werden. Dort können manipulierte Aufnahmen dazu genutzt werden, Betroffene zwangsweise zu outen oder Hasskampagnen gegen sie zu organisieren.
Es gibt aber auch einzelne queere Aktivisten Wissenschaftler und Bürgerrechtsgruppen, die ein pauschales Verbot bestimmter Deepfake-Technologien kritisch sehen. Dabei geht es in der Regel nicht um die Verteidigung missbräuchlicher oder nicht einvernehmlicher Inhalte, sondern um grundsätzliche Fragen von Meinungsfreiheit, Kunstfreiheit und technologischer Entwicklung. Innerhalb der queeren Community gibt es Stimmen, die vor zu weitgehenden Verboten von KI-generierten Inhalten warnen. Sie argumentieren, dass Deepfake-Technologien nicht ausschließlich für Missbrauch eingesetzt werden, sondern auch kreative, künstlerische oder politische Zwecke erfüllen können. So nutzen manche queere Künstler und Aktivisten digitale Identitäten, Avatare oder KI-generierte Darstellungen, um sich auszudrücken, ihre Privatsphäre zu schützen oder gesellschaftliche Normen zu hinterfragen.
Kritiker eines umfassenden Verbots befürchten zudem, dass unklare gesetzliche Regelungen unbeabsichtigt auch legitime Formen digitaler Kunst, Satire oder queerer Selbstdarstellung erfassen könnten. Statt eines generellen Verbots sprechen sie sich häufig für eine gezielte Regulierung aus. Aus ihrer Sicht sollte nicht die Technologie selbst verboten werden, sondern deren schädlicher Einsatz. Allerdings besteht auch innerhalb der queeren Community weitgehend Einigkeit darüber, dass nicht einvernehmliche pornografische Deepfakes, Zwangs-Outings und digitale Belästigung wirksam bekämpft werden müssen. Die Debatte dreht sich daher meist um die Frage, wie weit staatliche Eingriffe reichen sollten und wo die Grenze zwischen Schutz vor Missbrauch und der Wahrung von Freiheitsrechten verläuft.
