Verfahren gegen Grok KI-Programm von Elon Musk in der Kritik wegen sexuellen Bildern

Wie angekündigt, hat die EU-Kommission jetzt ein Verfahren gegen den KI-Chatbot Grok des US-Unternehmens X von Elon Musk eingeleitet. Die Behörde wirft X vor, bei der Einführung des Dienstes Risiken nicht verantwortungsvoll bewertet und nicht ausreichend gemindert zu haben. Insbesondere geht es um von der Künstlichen Intelligenz generierte sexualisierte Bilder.

Prüfungen trotz Kehrtwende 

Grok, ein KI-Chatbot von X, der zur Generierung von Bildern verwendet wird, war in den letzten Wochen mehrfach in die Kritik geraten. Nutzer des Dienstes konnten die KI auffordern, gepostete Bilder zu sexualisieren, was insbesondere bei Fotos von Frauen, die zum Beispiel in Bikinis dargestellt wurden, zu Besorgnis führte. Queere Vereine befürchteten zudem Manipulationen zum Schaden von LGBTIQ+-Menschen. Zum Jahreswechsel entschuldigte sich das Unternehmen, darüber hinaus kündigte X weitere Änderungen an, um solche Vorfälle zu verhindern. Die EU-Kommission prüft jetzt trotzdem, ob in diesem Zusammenhang Bilder erzeugt wurden, die als Kindesmissbrauch eingestuft werden könnten.

Konfrontationskurs mit den USA

EU-Kommissionspräsidentin Ursula von der Leyen betonte, dass die Verantwortung für den Schutz von Konsumenten und insbesondere von Kindern nicht an Tech-Unternehmen abgegeben werden dürfe. „In Europa werden wir unvorstellbares Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht tolerieren“, erklärte von der Leyen. Der rechtliche Rahmen für das Verfahren bildet der Digital Services Act, ein zentrales Gesetz der EU zur Regulierung von Online-Plattformen.

Mit diesem Schritt geht die EU-Kommission ein Risiko ein, die US-Regierung zu verärgern. Insbesondere könnten die politischen Spannungen mit den USA erneut aufflammen, wie dies bereits in der Vergangenheit der Fall war. Kritiker werfen der EU vor, ihre Digitalvorschriften nicht konsequent genug durchzusetzen, da gegen X bereits mehrere Ermittlungen laufen, unter anderem wegen der Moderation und des Risikomanagements illegaler Inhalte.

Erst im Dezember 2025 verhängte die EU eine Geldstrafe von 120 Millionen Euro gegen X wegen mangelnder Transparenz. Als Reaktion darauf hatte die US-Regierung das Vorgehen scharf kritisiert und Sanktionen gegen europäische Entscheidungsträger verhängt, die an der Ausarbeitung der Digitalgesetze beteiligt waren.