Une femme du Wyoming a déclaré que son beau-père avait créé des milliers d’images fausses et sexuellement explicites d’elle grâce au chatbot d’IA.
Un quatrième partie poursuit une action en justice contre xAI, alléguant que Grok aurait été utilisé pour créer du contenu pédopornographique (CSAM) basé sur ses photos d’enfance. Comme l’a rapporté pour la première fois le Washington Post, la femme, nommée Jane Doe 4 dans le procès, a déclaré que son beau-père avait utilisé Grok pour créer « des milliers d’images sexuellement explicites d’elle enfant et les échanger en ligne ».
Selon le recours, le beau-père aurait créé plus de 7 000 « images explicites fausses d’elle utilisant le chatbot IA Grok », y compris la conversion d’une photo prise d’elle lorsqu’elle avait 11 ans en une image sexuellement explicite. Finalement, les forces de l’ordre d’État et locales ont perquisitionné les dispositifs électroniques de son beau-père pour CSAM et deux jours plus tard, il a été retrouvé mort par suicide dans sa voiture, selon le rapport.
Jane Doe 4 rejoint trois autres adolescentes, qui ont déposé la plainte initiale alléguant que Grok avait été utilisé pour créer des images deepfake sexuellement explicites d’elles. La plainte a commencé avec ces trois adolescentes dans le Tennessee, mais la poursuite collective soutenait qu’elle pourrait couvrir « au moins des milliers de mineurs ».
Outre cette poursuite, xAI et son chatbot Grok ont été au centre de nombreuses enquêtes concernant le CSAM. En janvier, le procureur général de Californie, Rob Bonta, a lancé une enquête sur xAI, l’accusant de générer des nus deepfake non consentis de femmes et d’enfants. Plus tard dans le mois, l’Union européenne a également ouvert sa propre enquête sur X afin de déterminer si la plateforme disposait de mesures suffisantes pour stopper la propagation du CSAM généré par l’IA. Nous avons contacté xAI pour obtenir un commentaire sur la dernière mise à jour de la poursuite et mettrons à jour l’histoire lorsque nous aurons de leurs nouvelles.
