Beschluss zur EU-Chatkontrolle Überwachung aller Chat-Verläufe auf „freiwilliger“ Basis?

Vertreter der EU-Mitgliedstaaten haben sich heute auf eine gemeinsame Position zur geplanten Chatkontrolle geeinigt. Diese Regelung wird vorerst auf einer „freiwilligen“ Basis umgesetzt. Nach der Verabschiedung des Gesetzes müssen digitale Unternehmen wie WhatsApp oder Signal zukünftig Maßnahmen ergreifen, um die Verbreitung von kinderpornografischem Material sowie die Anwerbung von Kindern zu verhindern, wie der EU-Rat heute erklärte. Queere Verbände und Bürgerrechtsorganisationen hatten zuletzt immer wieder vor einer anfangs angedachten, verpflichtenden Chatkontrolle gewarnt. 

Gefahr für LGBTIQ+-Menschen?

Erik Jödicke aus dem Bundesvorstand des LSVD+ hatte dazu gegenüber SCHWULISSIMO erklärt: „Der LSVD+ hat große Bedenken gegenüber der geplanten EU-Chatkontrolle. Eine anlasslose und automatisierte Überwachung privater Kommunikation greift tief in die Grundrechte auf Privatsphäre, freie Entfaltung und Vertraulichkeit ein. Besonders betroffen wären queere Menschen, die in digitalen Räumen häufig einen geschützten Ort finden, um über ihre Identität, Sexualität oder ihr Coming-Out zu sprechen. Wenn künftig staatliche Stellen oder Algorithmen jede Nachricht und jedes Bild potenziell mitlesen und bewerten, entsteht ein Klima des Misstrauens und der Angst.“ Diese verpflichtende Massenüberwachung aller Chatverläufe europaweit ist nun erst einmal offenbar vom Tisch – doch ist die Gefahr von Zensur und Überwachung damit tatsächlich langfristig gebannt?  

Durch die neue Regelung erhalten die zuständigen nationalen Behörden das Recht, Unternehmen zu verpflichten, solches Material zu entfernen und den Zugang zu blockieren oder – bei Suchmaschinen – entsprechende Suchergebnisse zu löschen. Zudem wird eine neue EU-Agentur ins Leben gerufen, die die Mitgliedstaaten und Online-Anbieter bei der Umsetzung dieser Maßnahmen unterstützen soll. 

Neues EU-Kontrollzentrum 

Das „EU-Zentrum für sexuellen Missbrauch von Kindern“ wird eine zentrale Rolle bei der Bekämpfung von Missbrauch im Netz spielen. Es soll die Informationen von Online-Anbietern bezüglich Missbrauchsmaterial bewerten, eine Datenbank zur Meldung solcher Inhalte führen und die nationalen Behörden bei der Risikobewertung unterstützen. Das Zentrum wird auch Daten an Europol und nationale Strafverfolgungsbehörden weitergeben sowie eine Datenbank mit Indikatoren für sexuellen Missbrauch aufbauen, die von den Unternehmen genutzt werden kann, um freiwillige Maßnahmen zu ergreifen. Der genaue Standort des Zentrums wird noch gemeinsam mit dem Europäischen Parlament festgelegt.

Verpflichtungen für Online-Dienste

Online-Diensteanbieter müssen künftig das Risiko bewerten, dass ihre Plattformen für die Verbreitung von Missbrauchsmaterial oder für die Rekrutierung von Kindern missbraucht werden könnten. Auf Grundlage dieser Bewertung sind sie verpflichtet, „Risikominderungsmaßnahmen“ zu ergreifen, wie etwa die Einführung von Meldetools, die Kontrolle über geteilte Inhalte sowie standardisierte Datenschutzeinstellungen für Kinder. Nationale Behörden werden benannt, um die Umsetzung dieser Maßnahmen zu überwachen. Bei Nichteinhaltung können Strafzahlungen verhängt werden. Der Rat führt drei Risikokategorien ein: hoch, mittel und gering. Anbieter in der Hochrisikokategorie könnten verpflichtet werden, an der Entwicklung von Technologien zur Risikominderung mitzuwirken.

Nach der Einigung der Mitgliedstaaten kann nun mit dem Europäischen Parlament über die endgültige Verordnung verhandelt werden. Das Parlament hat seine Position bereits im November 2023 festgelegt. Der nächste wichtige Schritt ist die Besprechung im EU-Innenministerrat im Dezember. Eine endgültige Abstimmung über die Verordnung wird für das Jahr 2026 erwartet.

Viel Kritik und Bedenken

Kritiker der geplanten Regelung werfen der EU-Kommission vor, mit der Chatkontrolle ein System zur Massenüberwachung privater Nachrichten zu etablieren. Der ursprüngliche Entwurf sah vor, dass alle Messaging-Dienste verpflichtet werden könnten, die Kommunikation aller Nutzer zu scannen, um Missbrauchsdarstellungen zu erkennen. Trotz wiederholter Blockaden und erheblicher Kritik wegen der möglichen Verletzung von Privatsphäre und Grundrechten wurden die Vorschläge angepasst, sodass nun zumindest eine „freiwillige“ Chatkontrolle eingeführt werden soll.

Genau diese „Freiwilligkeit“ ist nach wie vor Mittelpunkt der Kritik – WhatsApp, Telegram oder Signal müssen nicht mehr alle Nachrichten ihrer User scannen, dürfen es aber. Die große Gefahr bestünde darin, dass aus „freiwillig“ schlussendlich „üblicherweise“ würde – und daraus am Ende doch eine Pflicht durch die Hintertür. Die Angst vor dem „gläsernen Bürger“ ist daher vielerorts nach wie vor sehr groß, Europa könnte aus Sicht der Kritiker zum „Überwachungsstaat“ werden – was insbesondere für marginalisierte Gruppen wie der LGBTIQ+-Community schwerwiegende Folgen haben könnte. 

Schlupfloch in der Gesetzgebung 

Derzeit dürfen Anbieter von Messaging-Diensten bereits freiwillig Inhalte auf ihren Plattformen scannen, die Missbrauchsmaterial betreffen, und diese melden oder entfernen. Diese Regelung gilt durch eine Ausnahme von bestimmten Vorschriften im Bereich der elektronischen Kommunikation. Diese Ausnahme läuft zwar Anfang April 2026 aus, könnte jedoch laut der aktuellen Ratsposition weiterhin bestehen bleiben.

Nach massiver Kritik an den ursprünglichen Plänen hat die dänische EU-Ratspräsidentschaft den verpflichtenden Scan von Nachrichten aus dem Entwurf gestrichen. Allerdings könnte ein Schlupfloch in Artikel 4 des neuen Kompromissvorschlags dazu führen, dass Anbieter wie WhatsApp oder Signal weiterhin zur Einführung von „allen angemessenen Risikominderungsmaßnahmen“ verpflichtet sind. Dies könnte auch das Scannen privater Nachrichten betreffen, insbesondere bei Ende-zu-Ende-verschlüsselten Kommunikationsdiensten. Signal hatte vorab angekündigt, sich bei einer Verpflichtung dieser Privatkommunikation aus Europa zurückzuziehen. Trotz positiver Reaktionen auf den dänischen Kompromiss, etwa von Bundesjustizministerin Stefanie Hubig (SPD), die Ende Oktober erklärte, „eine staatlich angeordnete Chatkontrolle sei vom Tisch“, bleibt der endgültige Ausgang der Verhandlungen daher immer noch mit vielen Fragezeichen versehen.