EU leitet Verfahren gegen X wegen sexualisierter KI-Bilder ein

Die EU-Kommission prüft nun, ob das soziale Netzwerk X von Elon Musk bei der Einführung von Funktionen des Chatbots Grok gegen den Digital Services Act verstoßen hat. Es besteht der Verdacht, dass Elon Musk die Risiken bei der Einführung der KI nicht richtig bewertet und reduziert hat. Nach den Angaben der amerikanisch-britischen Nichtregierungsorganisation „Zentrum gegen Hass im Internet“ hat der Chatbot innerhalb von 11 Tagen rund drei Millionen KI-Bilder von Frauen und Mädchen in sexualisierten Posen generiert und veröffentlicht. Davon waren mindestens 23.000 Fotos von Kindern. Die Artikel 34 und 35 des Digital Services Act (DSA) verpflichten Unternehmen, die sehr große Online-Plattformen bzw. Suchmaschinen betreiben, ihre Dienste einer Risikobewertung zu unterzeihen und erkannte Risiken zu minimieren. Bei Verstößen kann es zu hohen Geldbußen von bis zu sechs Prozent des Vorjahresumsatzes verhängt werden.

Konkret besteht das Problem in dem Chatbot Grok, welchen die Nutzer auf der Plattform X benutzen können. Dabei konnte er unter anderem dazu aufgefordert werden gepostete Bilder zu sexualisieren. So wurden Fotos manipuliert und Frauen in Bikinis gekleidet. An Silvester wurde außerdem ein Bild von zwei Teenagerinnen in sexualisierten Outfits von Grok erstellt und gepostet. Daher geht es bei der Untersuchung auch um Bilder, die als Kindesmissbrauch gelten könnten. Außerdem schockierte Grok letztes Jahr auch mit Lobpreisungen für Adolf Hitler. Die Dauer des Verfahrens ist noch nicht bekannt, das Einleiten des Verfahrens bestätigt noch keinen Verstoß.

Spannungen zwischen der EU und USA?

Die EU toleriert derartiges Verhalten, wie das entkleiden von Frauen und Kindern, nicht. Die Verantwortung für Konsens und Kinderschutz liegt bei der EU und wird nicht an die Tech-Unternehmen abgegeben.

Aufgrund der europäischen Digitalgesetze laufen bereits mehrere Untersuchungen gegen Elon Musks Online-Plattform. Erst vor kurzem wurde eine Strafe von 120 Millionen Euro wegen Transparenzmängeln verhängt. Damals reagierte die USA sehr extrem und verhängte Einreiseverbote gegen einen der Architekten der Digitalgesetze und andere Europäer. Man konnte diese Reaktion auch als Drohung verstehen, dass keine weiteren Maßnahmen gegen die US-Techriesen ergriffen werden sollen. Sie sind der Meinung die EU attackiere gezielt US-Plattformen. Sie seien auch bereit gewesen die Einreiseverbote zu erweitern, wenn es keine Kurskorrekturen mehr gebe. Elon Musk selbst sprach sich für eine Abschaffung der EU aus. In der jetzigen Untersuchung geht es konkret darum, ob X das Risiko für „geschlechterspezifische Gewalt und schwerwiegende negative Folgen für das körperliche und geistige Wohlbefinden“ genügend eingeschränkt hat. Von einer Sperre des Dienstes wird zunächst abgesehen, dies sei nicht das Ziel der EU.

Bereits geltende Beschränkungen von Grok

Aufgrund des zunehmenden Drucks, etwa von Schwedens stellvertretenden Ministerpräsidenten Ebba Busch, hatte X die Bilderzeugung und Bearbeitung zuletzt auf zahlende Abonnenten beschränkt. Diese Bilder lassen sich allerdings weiterhin öffentlich anzeigen. Diesen Schritt empfanden jedoch einige Aufsichtsbehörden auf der Welt, unteranderem die EU, als nicht ausreichend. Es folgten somit weitere Beschränkungen. Jetzt sei die Bearbeitung von Bildern realer Personen mit leichter Bekleidung verhindert worden. Diese Beschränkung gilt für kostenlose Accounts als auch für zahlende Nutzer.

Weiter Untersuchungen in Frankreich und Großbritannien

Auch in Großbritannien wurden vor kurzem erst eine offizielle Untersuchung gegen Musks Online-Plattform eingeleitet. Als Grund galten hier ebenfalls die von Grok sexualisierten Bilder. In den Berichten von X zur Risikobewertung wird Grok nirgends erwähnt. Das könnte bedeuten, dass X die Risiken von Grok nie bewertet hat.

In Frankreich wird seit letztem Sommer ebenfalls gegen X ermittelt. Ursprünglich drehten sich die Ermittlungen um den Vorwurf, dass Algorithmen in dem sozialen Netzwerk verändert wurden, um rechtsextremen Inhalten mehr Aufmerksamkeit zu bescheren. Neu seien jetzt Vorwürfe wegen Holocaustleugnungen und sexueller Abbildungen hinzugekommen.