Debatte über EU-Chatkontrolle Wird eine KI künftig alle Chatnachrichten europaweit mitlesen?

Die Debatte über ein mögliches neues EU-Gesetz nimmt in diesen Tagen massiv an Fahrt auf – nächste Woche am 14. Oktober wird über eine europaweite Chatkontrolle abgestimmt, das Zünglein an der Waage könnte dabei Deutschland sein. Wie sich das Bundesinnenministerium final dabei positioniert, ist noch unklar. Wissenschaftler und zahlreiche Vereine befürchten eine massive Einschränkung der Grundrechte aller EU-Bürger. Der Verband Queere Vielfalt (LSVD+) warnt jetzt ebenso mit eindringlichen Worten auf Anfrage von SCHWULISSIMO vor dem geplanten Gesetzentwurf. 

Eingriff in Grundrechte und Privatsphäre

Tritt das neue Gesetz 2026 tatsächlich in Kraft, sind alle Messenger-Dienste wie Whatsapp oder Signal dazu verpflichtet, die Kommunikation aller Nutzer zu überwachen. Die bisherige Eins-zu-Eins Verschlüsselung würde de facto entfallen, eine europaweite KI liest dann alle Nachrichten mit und kontrolliert ebenso alle Videos und Sprachmessages – verdächtige Inhalte würden dann an die ländereigenen Strafermittlungsbehörden weitergeleitet. Kernziel des Vorhabens ist ein besserer Kinderschutz. 

Erik Jödicke aus dem Bundesvorstand des LSVD+ erklärt dazu gegenüber SCHWULISSIMO: „Der LSVD+ hat große Bedenken gegenüber der geplanten EU-Chatkontrolle. Eine anlasslose und automatisierte Überwachung privater Kommunikation greift tief in die Grundrechte auf Privatsphäre, freie Entfaltung und Vertraulichkeit ein. Besonders betroffen wären queere Menschen, die in digitalen Räumen häufig einen geschützten Ort finden, um über ihre Identität, Sexualität oder ihr Coming-Out zu sprechen. Wenn künftig staatliche Stellen oder Algorithmen jede Nachricht und jedes Bild potenziell mitlesen und bewerten, entsteht ein Klima des Misstrauens und der Angst.“ 

Besondere Gefahr für Jugendliche 

Dabei betont Jödicke zudem: „Für viele queere Jugendliche sind Online-Chats und Communitys oft die einzigen sicheren Räume, in denen sie sich austauschen und Unterstützung finden können, gerade, wenn sie in einem nicht-unterstützenden Umfeld leben. Eine solche Überwachung könnte dazu führen, dass junge Menschen sich nicht mehr trauen, Hilfe zu suchen oder ehrlich über ihre Gefühle zu sprechen. Auch in der queeren Bildungs- und Beratungsarbeit wären vertrauliche Gespräche gefährdet.“ 

Ähnlich sieht das auch der Deutsche Kinderschutzbund, der ausdrücklich vor dem neuen Gesetz warnt – so sinnvoll der Grundgedanke auch sei, so gefährlich ist der derzeitige Gesetzentwurf insbesondere für Jugendliche: „Gerade das Recht auf Privatsphäre, aber auch das Recht auf freie Meinungsäußerung, das Recht auf Information sowie der Schutz vor Gewalt, sind für die Entwicklung von Kindern unerlässlich. Nur wenn sie darauf vertrauen können, nicht konstant überwacht zu werden, können sie das notwendige Vertrauen in ihre Erziehungsberechtigten, Lehrer*innen und Freund*innen entwickeln, das dazu beiträgt, dass sie Hilfe bei Vertrauenspersonen suchen, wenn sie welche benötigen, und sich über gewisse Themen informieren, ohne Konsequenzen befürchten zu müssen.“ 

Widerstand gegen Gesetz wächst 

Zahlreiche weitere Verbände, IT-Experten und über 700 Wissenschaftler weltweit haben sich inzwischen den Forderungen angeschlossen, das Gesetz so keineswegs zu verabschieden – noch dazu, wo Kriminelle, die beispielsweise mit Kinderpornografie handeln, sowieso zumeist im Dark-Net unterwegs sind und damit gar nicht erfasst werden können. Dazu werden aber auch ernste Konsequenzen in der Wirtschaft befürchtet, wenn jeder Chat künftig mitgelesen wird. Ähnlich betroffen sind alle besonders sensiblen Gespräche, beispielsweise bei Journalisten, Ärzten, Therapeuten, Anwälte oder auch bei queere Aktivisten. Dazu kommen Befürchtungen, dass Kriminelle Sicherheitslücken missbrauchen könnten – ganz zu schweigen von dem Fakt, dass KIs bereits heute nicht zuverlässig sind bei der sachlichen Bewertung von menschlicher Kommunikation. 

Laut Carmela Troncoso, wissenschaftliche Direktorin am Max Planck Institut für Sicherheit und Privatsphäre, kann eine KI bis heute sehr schwer harmlose oder auch sexuell erlaubte Inhalte wie erotische Fotos unter Erwachsenen von Aufnahmen sexualisierter Gewalt an Kindern unterscheiden. Der Kinderschutzbund betonte dazu weiter: „Zu befürchten ist nicht nur ein Anstieg von Ermittlungsverfahren gegen Kinder und Jugendliche, die unbedarft sexualisiertes Bildmaterial teilen, sondern auch eine Überlastung der Strafverfolgungsbehörden durch eine große Zahl fehlerhafter Meldungen, die wirksame Ermittlungen eher erschweren als erleichtern würde, sowie ein Missbrauch dieser technisch implementierten ‚Hintertür‘ für antidemokratische Zwecke.“

Kinderschutz Ja, aber nicht so!

Dabei ist klar: Ein sinnvoller Einsatz gegen Kinderpornografie wird allseits begrüßt, aber keine Generalüberwachung, wie Jödicke vom LSVD+ weiter betont: „Der LSVD+ teilt das Ziel eines wirksamen Kinderschutzes ausdrücklich, aber dieser darf nicht durch eine flächendeckende Massenüberwachung auf Kosten der Privatsphäre und der digitalen Selbstbestimmung erreicht werden. Wir brauchen gezielte, verhältnismäßige Maßnahmen, bessere Prävention und Aufklärung, nicht die pauschale Kontrolle aller Bürger*innen. Sicherheit entsteht durch Vertrauen, nicht durch Misstrauen.“ 

Gegenüber dem Berliner Tagesspiegel äußerten weitere Fachleute starke Bedenken: Der Jurist Patrick Breyer spricht von einer „in der freien Welt einzigartigen Überwachungsinfrastruktur“; Klaus Landefeld vom Internetwirtschaftsverband eco sagt: „Wer Verschlüsselung schwächt, schwächt immer auch den Schutz von Bürger:innen, Unternehmen und kritischen Infrastrukturen.“ Und die Co-Vorsitzende des digitalpolitischen Vereins D64, Svea Windwehr, gab zu bedenken: „Die sogenannte Chatkontrolle untergräbt Grundrechte, ohne den Schutz von Betroffenen zu verbessern.“ Auch die Betreiber der Messenger-Dienste wie Meta haben sich gegen das Vorhaben positioniert. Der Messenger-Dienst Signal kündigte überdies an, Europa ganz zu verlassen, sollte die „Integrität seiner Verschlüsselung“ angegriffen werden. Weit über eine Viertelmillion Menschen fordern aktuell bisher auch in einer Petition den sofortigen Stopp des gefährlichen Gesetzesvorhabens.