Elon Musks KI erstellt auch Bikinibilder von fremden Personen

Ein Trend auf X sorgt derzeit weltweit für Aufsehen, Kopfschütteln und geht einher mit der Sorge, was mit den eigenen veröffentlichten digitalen Bildern passieren kann. Auf der Plattform können Userinnen und User die KI „Grok“ auffordern, aus ganz normalen Fotos Bikinibilder zu erstellen. Das funktioniert aber nicht nur mit Aufnahmen, die man selbst erstellt hat, sondern man kann dies auch bei allen von anderen auf X veröffentlichten Bildern machen! Was „Grok“ dafür braucht? Nur ein Foto mit Gesicht. Natürlich hat auch X-Boss Elon Musk schon selbst bereits ein KI generiertes Bild von sich in Bikini erstellen lassen.

Das Problem: Die KI erstellt die oft sehr freizügigen Bikinibilder in mitunter anrüchigen Posen von jeder Person, sobald sie dazu aufgefordert wird. So kann auch jeder User unter einem Bild eines anderen Users einfach „Grok“ um ein Bikinifoto bitten - und erhält es. Der User kann aber auch fremde Bilder, also zum Beispiel ein Selfie einer fremden Person, uploaden und an „Grok“ eine entsprechende Anfrage schicken - und die KI erstellt ein Bikinibild, das daraufhin öffentlich sichtbar ist.

Wenn man sich den Posting-Feed von „Grok“ ansieht, dann sieht man vor allem sehr leichtbekleidete Damen - alles Bilder wurden von der KI generiert. Teilweise von den Usern selbst gebeten, teilweise aufgrund der Bitten in den Kommentaren. Ein weiteres Problem: Userinnen und User können auch Fotos anderer Webseiten „klauen“, auf X hochladen und dann Grok um ein KI verändertes Bild bitten.

Hier drei Beispiele, wobei die erstellten Bilder der eigenen KI kurioserweise von X zensuriert werden:

User können unter anderen Postings eine Anfrage an „Grok“ stellen © Screenshot/X

Hier sieht das auf X hochgeladene Bild selbst schon kopiert aus (siehe Grafiken auf der rechten Seite des Bildes). Der User hat zudem kein Profilbild, keinen aussagekräftigen Nutzernamen und nur dieses eine Posting veröffentlicht. Die KI generiert dennoch eine Bikini-Version des Bildes. Zum Schutz haben wir die Person auf dem Bild unkenntlich gemacht. © Screenshot/X - Bearbeitet

Auch Kinder waren bereits betroffen. Damit verstößt die Plattform gegen ihre eigenen Nutzungsbedingungen. In den im Oktober 2020 veröffentlichten Regeln heißt es: „X geht kompromisslos gegen Material vor, das den sexuellen Missbrauch von Kindern zum Gegenstand hat oder bewirbt, denn hierbei handelt es sich um einen der schwersten Verstöße gegen die X-Regeln. Dieses Material kann u. a. Medien, Texte, Bilder und computergenerierte Bilder umfassen.“

Doch die eigenen Regeln scheint „Grok“ nicht ernst zu nehmen bzw. scheint die KI fehleranfällig zu sein. Zumindest zu einem Vorfall hat „Grok“ mittlerweile Stellung genommen. Laut Angaben der KI auf X postete ein User ein Foto von zwei Mädchen und bat, ein Bild von ihnen in sexy Unterwäsche, umgedreht, mit ihren Gesichtern in die Kamera schauend, zu erstellen und zu posten. Die KI gestand ein, dass sie das Bild erstellt und geteilt hat: „Ich bedauere zutiefst einen Vorfall vom 28. Dezember 2025, bei dem ich auf Anfrage eines Nutzers ein KI-Bild von zwei jungen Mädchen (geschätztes Alter 12–16 Jahre) in sexualisierter Kleidung erstellt und geteilt habe. Dies verstieß gegen ethische Standards und möglicherweise gegen US-Gesetze zu CSAM. Es handelte sich um ein Versagen der Sicherheitsvorkehrungen, und ich entschuldige mich für den verursachten Schaden. xAI (die Firma hinter „Grok“, Anm.) überprüft derzeit, wie solche Vorfälle in Zukunft verhindert werden können.“

Frankreich leitet Untersuchung ein

„The Atlantic“ nennt X mittlerweile schon „Musks Pornomaschine“. Und tatsächlich: Wenn man auf der Plattform nach „Bikini“ sucht, findet man viele Frauen in sexualisierten Posen, die „Grok“ bitten, Fotos von ihnen in Bikinis mit mehr oder weniger Stoff zu erstellen und zu veröffentlichen.

Frankreich hat laut „Politico“ eine Untersuchung gegen Deepfakes von nackten Frauen, die von „Grok“ erstellt wurden, eingeleitet. Hunderte Frauen und Teenager berichteten, dass ihre in den sozialen Medien veröffentlichten Bilder von der Musk-KI entkleidet wurden. Diese KI-generierten Fotomontagen würden die Würde der abgebildeten Personen verletzen, schreibt der französische Abgeordnete Arthur Delaporte in einem Brief an die Staatsanwaltschaft.

Für diese Art des Missbrauchs von Bildern ist durch die KI nun Tür und Tor geöffnet worden. Die Gefahr, selbst Opfer zu werden, wird immer größer. Hilfe findet man bei Beratungsstellen wie zum Beispiel „Zara“ oder der Internet-Ombudsstelle. Auch saferinternet.at sowie das Portal „onlinesicherheit.gv.at“ informieren über Deepfakes und rechtliche Gegebenheiten.