Die EU-Kommission verfolgt den Chatbot Grok des US-Milliardärs Elon Musk wegen sexualisierter KI-Bilder von Frauen und Kindern. „In Europa wird kein Unternehmen Geld verdienen, indem es unsere Grundrechte verletzt“, sagte ein Kommissionssprecher am Montag in Brüssel. Brüsseler Ermittler untersuchen nun, ob Musks Onlinedienst genug unternimmt, um die Verbreitung der X-Bilder zu stoppen. Folglich kann die Kommission höhere Geldbußen verhängen.
Hinterlassen Sie eine Anzeige
EU-Kommissionspräsidentin Ursula von der Leyen sagte, Europa werde „inakzeptables Verhalten wie die digitale Entkleidung von Frauen und Kindern nicht tolerieren“. Die EU wird nicht akzeptieren, dass große Digitalunternehmen mit solchen Bildern Geld verdienen.
Anfang des Monats nutzten X-Benutzer den Chatbot, um ohne ihre Zustimmung Millionen von KI-Bildern zu erstellen und zu veröffentlichen, die Frauen und Mädchen in Bikinis, fast nackt oder in sexuellen Posen zeigen. Nach Schätzungen der britischen Nichtregierungsorganisation CCDH handelte es sich um 23.000 Bilder von Kindern. X sagt, er habe die Arbeit inzwischen verboten.
„Materialien über Kindesmissbrauch“ sollten nicht zugänglich sein
Die Bilderstellung mit Grok steht inzwischen nur noch zahlenden Nutzern zur Verfügung – aus Sicht der EU-Kommission reicht dies jedoch nicht aus. „Inhalte über Kindesmissbrauch sind kein Privileg für Premium-Nutzer“, sagte ein Kommissionssprecher in Brüssel. „Solches Zeug hat in Europa keinen Platz.“
EU-Digitalkommissarin Hanna Virkkunen sagte, die KI-Bilder seien „eine gewalttätige, inakzeptable Form der Demütigung“. Die Kommission wird nun in ihren internen Leitlinien für Grok feststellen, ob X die EU-Gesetze einhält und erklärt, dass sie „die Rechte der europäischen Bürger – einschließlich Frauen und Kinder – als Kollateralschaden betrachtet“.
Sollten sich die Vorwürfe bestätigen, wäre dies ein Verstoß gegen den EU Digital Services Act (DSA). Mit dem Gesetz braucht die EU große Internetplattformen, um verbotene Inhalte zu entfernen. Dazu gehören sexuelle Bilder, Kinderpornografie, Morddrohungen und Nazi-Symbole, die sowohl im Internet als auch auf der Straße verboten sind.
Gegen die Plattform läuft in Brüssel bereits ein Verfahren
X wird in Brüssel bereits wegen der Verbreitung von Inhalten wie Gewalt und Hassreden angeklagt. Nun kommen Untersuchungen zum Chatbot Grok hinzu. Die Kommission will auch Empfehlungssysteme auf Plattformen überprüfen, die bestimmen, was den Nutzern angezeigt wird. Dies basiert nun auf der künstlichen Intelligenz hinter Grok.
Für laufende Verfahren gibt es keine zeitliche Begrenzung. Anfang Dezember hatte die Kommission bereits ein Bußgeld in Höhe von zunächst 120 Millionen Euro gegen Die Vorwürfe gegen Grok sind schwerwiegender.
Vertreter der US-Regierung und X-Eigentümer Musk reagierten im Dezember heftig auf das Urteil und warfen der EU „Zensur“ vor, Musk forderte sogar die Abschaffung der EU. Die Beziehungen zu den USA haben sich in den letzten Wochen erst abgekühlt, nachdem US-Präsident Donald Trump wegen des Grönlandstreits mit Zöllen gedroht hatte.
Video: KI-Nacktbilder – Onlinedienst X verbietet Chatbot Grok
Hinterlassen Sie eine Anzeige