Der KI-Chatbot „Grok“ des von Elon Musk gegründeten Unternehmens xAI reagiert jetzt auf die stetig wachsende internationale Kritik an der Erstellung sexualisierter Bilder über die Plattform X. Künftig sollen bestimmte Darstellungsformen in einzelnen Ländern eingeschränkt werden.
EU prüft neue Schutzmechanismen
Wie X mitteilte, werde die Möglichkeit, Personen in Bikinis oder Unterwäsche darzustellen, in denjenigen Staaten blockiert, in denen solche Inhalte gesetzlich untersagt sind. Die Einschränkung gilt demnach für alle Nutzerinnen und Nutzer – auch für zahlende Abonnenten. Die EU-Kommission kündigte an, die geplanten Schritte zu prüfen. Sollten die Maßnahmen nicht ausreichen, werde man „nicht zögern, das volle Arsenal des europäischen Digitalgesetzes DSA einzusetzen.“ Die deutsche Justizministerin Stefanie Hubig (SPD) bezeichnete die Manipulationen als „fürchterlich“ und kündigte gestern bereits an, an einem neuen digitalen Gewaltschutzgesetz zu arbeiten, das Betroffene künftig besser schützen und ihre Persönlichkeitsrechte stärken soll.
Ermittlungen und Warnungen
Zuvor hatten mehrere Behörden Ermittlungen eingeleitet. In Großbritannien untersucht die Medienaufsicht das Angebot von X´, während der US-Bundesstaat Kalifornien eine rechtliche Prüfung aufgenommen hat. Indonesien und Malaysia sperrten den Chatbot Grok inzwischen bereits vollständig. International richtet sich die Kritik unter anderem gegen die Möglichkeit, mithilfe der KI auch Bilder zu erzeugen, in denen Minderjährige sexualisiert dargestellt werden.
Queere Vereine hatten mehrfach davor gewarnt, dass durch den leichtfertigen Einsatz der KI insbesondere homosexuellen und queeren Menschen Schaden zugefügt werden könnte, gerade bei Jugendlichen oder Personen, die noch nicht geoutet sind. Zudem bestünde die Gefahr, dass Mobbing, Hass und Hetze gegenüber LGBTIQ+-Menschen durch den Einsatz des KI-Chatbots weiter befeuert werde.
