KI gegen digitale Hetze Das neue KI-System soll der Polizei helfen, schneller Online-Hass zu erkennen

Hetze und Hass im Internet sowie in den sozialen Medien haben zuletzt binnen eines Jahres um 136 Prozent in Deutschland zugenommen – besonders davon betroffen sind junge Homosexuelle. Ein neues Tool von Forschern der TU Berlin soll nun mittels einer künstlichen Intelligenz (KI) dazu beitragen, gezielter Hassreden zu erkennen. 

Arbeitserleichterung für die Polizei 

Die neue KI kann dabei große Datenmengen in sehr kurzer Zeit verarbeiten und soll außerdem auch ethische und rechtliche Aspekte berücksichtigen. Das neue Tool soll außerdem die Fälle vorsortieren und somit die Arbeit der Polizei erleichtern. Ziel ist es dabei zu helfen, strafrechtlich relevante Hassreden schneller zu erkennen und dagegen vorgehen zu können.

Dazu haben die Forscher der Technischen Universität die KI-Modelle eingehend trainiert und ausgearbeitet – gefördert wird das Projekt vom Bundesforschungsministerium. Ein zentraler Punkt sei dabei auch, dass die KI schlussendlich bei der Flut von großen Daten nicht selbst Rassismus oder Sexismus reproduziere, wie das anderenorts bei KI-Systemen schon der Fall gewesen sei, so der WDR. Umso wichtiger sei es daher, dass dieses neue Tool aus Berlin von unabhängigen Wissenschaftlern entwickelt und stetig weiter überprüft werde. 

So soll die KI schlussendlich diskriminierungsfrei sein, sodass Herkunft oder Religion der potenziellen Täter bei der Auswertung keine Rolle spielen sollen. Gegenüber dem WDR erklärten die Wissenschaftler außerdem, sie wollen damit einen Beitrag zur Versachlichung von Debatten über die Meinungsfreiheit leisten.

Starke Zunahme bei Online-Hass

Der Hass und die Hetze gegenüber der LGBTI*-Community haben zuletzt stark zugenommen, inzwischen ist jeder dritte Homosexuelle in Deutschland davon betroffen. Besonders im Fokus stehen junge Menschen aus der Community. Für über die Hälfte aller Internet-Nutzer ist Hass gegen Homosexuelle online inzwischen erlebter Alltag. Bundesfamilienministerin Lisa Paus hatte dazu in diesem Jahr bereits erklärt: „Hass im Netz ist allgegenwärtig. Viele Menschen sind davon abgestoßen oder eingeschüchtert, halten sich zurück oder schweigen. Das gibt denen Raum, die laut und aggressiv sind.“

Der Einsatz von KI ist dabei allerdings nicht unumstritten, zuletzt im August dieses Jahres belegten neuste Daten, dass durch KI-Systeme und Fake News der Islamismus in Deutschland weiter verbreitet wird und dazu beiträgt, dass junge Muslime sich verstärkt radikalisieren könnten. Ebenso strittig diskutiert wird bis heute die Frage, wo Meinungsfreiheit endet und digitaler Hass beginnt.