Grok a déjà suscité une vive controverse après que l’outil de génération d’images du chatbot IA a été utilisé pour créer environ 3 millions d’images sexualisées sur 11 jours, dont 23 000 d’entre elles concernaient des mineurs, selon le Center for Countering Digital Hate. Des régulateurs du monde entier ont limité l’accès ou ouvert des enquêtes sur la génération d’images potentiellement illégales et non consensuelles par la plateforme. Le gouvernement américain n’a pris aucune mesure contre xAI ou sa plateforme au niveau fédéral, mais aujourd’hui, la ville de Baltimore a engagé une poursuite municipale contre l’entreprise.
La poursuite adopte une approche différente, soutenant que les activités d’Elon Musk ont violé l’Ordonnance sur la protection des consommateurs de la ville. Cette plainte, comme l’a rapporté The Guardian, a déclaré que xAI avait commercialisé Grok comme un assistant IA polyvalent sans divulguer les risques et l’exposition à des dommages liés à l’utilisation à la fois de Grok et du réseau social X.
« Les lois de protection des consommateurs de Baltimore existent pour protéger les résidents contre ce type précis de préjudice émergent », a déclaré le solliciteur municipal Ebony M. Thompson. « Lorsque les entreprises introduisent des technologies puissantes sans garde-fous adéquats, la Ville a à la fois l’autorité et l’obligation d’agir. Nous intervenons maintenant pour protéger nos résidents, rendre ces entreprises responsables et empêcher que ces préjudices ne s’enracinent davantage à mesure que cette technologie continue d’évoluer. »
Une autre action notable contre Grok aux États-Unis découle d’une éventuelle action collective déposée par trois adolescents qui allèguent que des photos d’eux ont été utilisées pour créer du matériel pédopornographique impliquant des mineurs.
