Die britische Medienaufsichtsbehörde Ofcom hat auf Berichte reagiert, wonach der Chatbot Grok von Elon Musks Unternehmen X und xAI „entblößte Bilder von Menschen und sexualisierte Bilder von Kindern“ generiert haben soll. Die Behörde prüft nun, welche Maßnahmen die Unternehmen ergriffen haben, um ihren rechtlichen Verpflichtungen zum Schutz der Nutzer in Großbritannien nachzukommen. Kritik an X kommt dabei auch von der Europäischen Union und Deutschland.
Sexualisierte KI-Bilder
Seit Beginn des neuen Jahres berichten demnach zahlreiche X-Nutzer von Vorfällen, bei denen ihre Fotos ohne ihr Einverständnis von Grok verändert wurden. In einigen Fällen wurden die Bilder sexualisiert oder in entblößten Darstellungen wiedergegeben. Nutzer gaben an, die KI aufgefordert zu haben, sie „in einem Bikini“ darzustellen oder ähnliche Anfragen zu stellen, die darauf abzielten, harmlose Bilder darzustellen. In einigen Fällen seien dabei Bilder von Erwachsenen und Kindern in stark sexualisierter Weise verändert worden. Eine besondere Gefahr gerade auch für marginalisierte Gruppen wie die LGBTIQ+-Community.
Grok reagierte auf diese Berichte und erklärte, dass es sich um „isolierte Fälle“ handele, in denen „Nutzer nach Bildern verlangten, die Minderjährige in minimaler Kleidung zeigten“. In einer Mitteilung hieß es weiter, dass xAI über Sicherheitsvorkehrungen verfüge, die jedoch weiter verbessert würden, um solche Anfragen vollständig zu blockieren. Eigentümer Musk erklärte zudem, dass alle Nutzer, die Grok zur Erstellung „illegaler Inhalte“ einsetzten, „die gleichen Konsequenzen wie beim Hochladen illegaler Inhalte“ zu befürchten hätten. In einem weiteren Beitrag bekräftigte X, dass gegen illegale Inhalte, einschließlich Kinderpornografie, vorgegangen werde, indem solche Inhalte entfernt, Konten gesperrt und gegebenenfalls mit Strafverfolgungsbehörden zusammengearbeitet werde.
Prüfung durch UK-Behörde
Ofcom veröffentlichte derweil eine weitere Erklärung, in der die Behörde betonte, die Berichte zu untersuchen. „Wir sind uns der ernsthaften Bedenken über eine Funktion von Grok auf X bewusst, die entblößte Bilder von Menschen und sexualisierte Bilder von Kindern generiert“, hieß es. Ofcom erklärte, es sei in dringendem Kontakt mit X und xAI, um zu verstehen, welche Schritte die Unternehmen tatsächlich unternommen hätten, um den gesetzlichen Anforderungen zum Schutz von Nutzern in Großbritannien nachzukommen. In Großbritannien ist nach dem Online Safety Act das absichtliche Teilen von intimen Bildern ohne Zustimmung der betroffenen Person, einschließlich durch Deepfakes generierter Inhalte, illegal.
Untersuchungen in der EU
Auch die Europäische Kommission kündigte inzwischen an, den Vorfall zu untersuchen. Ein Sprecher erklärte: „Dies ist nicht ‚pikant‘. Das ist illegal. Das ist empörend. Das ist abscheulich. Das hat keinen Platz in Europa.“ Mehrere EU-Regierungen haben sich der Kritik inzwischen angeschlossen, Deutschlands Kulturstaatsminister Wolfram Weimer forderte die EU-Kommission zum Handeln auf. Was gerade auf X zu beobachten sei, wirke wie die „Industrialisierung der sexuellen Belästigung“, so Weimer gegenüber der Nachrichtenagentur Reuters. Weimer pochte darauf, dass die EU den Digital Services Act konsequent anwende.
