Das Gefährdungspotenzial für Kinder und Jugendliche im Netz nimmt zu. Dabei macht aktuell der Einsatz von künstlicher Intelligenz immer schwerer, Realität von Fälschung zu unterscheiden und verstärkt so auch die Risiken wie sexualisierte Gewalt, Mobbing und Extremismus. Dies ist der zentrale Befund des Jahresberichts von jugendschutz.net, dem gemeinsamen Projekt von Bund und Ländern für den Jugendschutz im Internet, gegründet 1997.
Besonders betroffen: LGBTI*-Menschen
Mit stetig steigenden Fallzahlen sind dabei vor allem LGBTI*-Menschen betroffen – erst vor kurzem zeigten Studienergebnisse auf, dass mehr als die Hälfte der Internetnutzer in Deutschland bereits digitale Angriffe von Homosexuellen erlebt hat. Jeder dritte junge LGBTI*-Mensch ist direkt davon betroffen, weitere 63 Prozent erleben digitale Gewalt indirekt.
Die neusten Daten von jugendschutz.net sprechen dabei ebenso eine deutliche Sprache: 2023 bearbeitete der Verband fast 7.700 Verstoßfälle, davon sind zwei Drittel sexualisierte Gewalt. Bei zwölf Prozent handelt es sich direkt um Sex sowie Pornografie, bei elf Prozent um politischen Extremismus. Fünf Prozent gingen auf selbstgefährdende Inhalte zurück und zwei Prozent auf Cybermobbing.
Selbstkontrolle und Strafverfahren
Insgesamt 3.210 Verstöße meldete jugendschutz.net an Anbieter und Selbstkontrolleinrichtungen mit dem Ziel der schnellen Abhilfe. 3.582 Fälle sendete jugendschutz.net an die Strafverfolgungsbehörden weiter, da kinder- und jugendpornografische Inhalte verbreitet wurden oder Gefahr für Leib und Leben bestand. Am Jahresende waren bei 6.902 Fällen, als etwa 90 Prozent, die Verstöße beseitigt.
Stefan Glaser, Leiter von jugendschutz.net, betont dabei: „Online-Trends werden schnelllebiger und riskanter, Deepfakes sind inzwischen täuschend echt und einfach zu erstellen. Die Hemmschwellen für Übergriffe im digitalen Raum sinken (…) Darstellungen sexualisierter Gewalt an Kindern werden ohne Skrupel verbreitet. Und wir nehmen vermehrt Beiträge in Social Media wahr, die junge Menschen zu gesundheitsgefährdendem Verhalten anstiften. Bei all dem kommen auch KI-generierte Inhalte zum Einsatz. Gleichzeitig muss leider konstatiert werden: Betreiber von Angeboten tun zu wenig, um Kinder und Jugendliche zu schützen. Sie reagieren unzureichend, wenn ihnen Verstöße gemeldet werden.“
Schwachstelle Alterskontrollen
Dazu komme, dass Altersangaben nicht angemessen kontrolliert werden, sodass viele Sicherheitsvorkehrungen kaum Wirkung zeigen würden. Das sieht auch Dr. Marc Jan Eumann, Vorsitzender der Kommission für Jugendmedienschutz (KJM), ähnlich: „Eins ist klar: Altersprüfung ist der Schlüssel zum sicheren Surfen für Kinder und Jugendliche. Die Technologie ist vorhanden, nun sind die Plattformen gefordert, Verantwortung zu übernehmen.“
Bundesjugendministerin Lisa Paus resümierte dabei schlussendlich: „Der Jahresbericht von jugendschutz.net zeigt, dass Kinder und Jugendliche im Netz immer mehr mit Hass, Hetze und Desinformation konfrontiert sind. Dazu kommt eine Debattenkultur, die nicht durchgehend sozialen Regeln folgt. Junge Menschen haben jedoch ein Recht auf sichere und unbeschwerte Teilhabe an der digitalen Welt! Davon sind wir noch weit entfernt. Hier sind besonders die Plattform-Anbieter in der Pflicht.“ Paus setzt dabei vor allem auf den Digital Services Act, der europaweit online vor Diskriminierung und Hetze schützen soll.
