Instagram déclassera les influenceurs générés par l’IA s’ils n’indiquent pas clairement que leur compte est généré par l’IA.

Instagram ajuste ses règles concernant les profils qui présentent des personas générés par IA. L’application exige désormais que ces comptes utilisent une nouvelle étiquette « profil généré par IA » qui les identifie comme comportant de l’IA plutôt qu’un « humain réel ». Les comptes qui n’utilisent pas cette étiquette verront leur portée réduite, a indiqué la société.

Cette démarche survient à un moment où d’autres plateformes ont pris des mesures pour rendre le contenu généré par IA moins proéminent, les utilisateurs des réseaux sociaux rejetant l’afflux de contenu IA de faible qualité. Mais Meta, qui encourage souvent les utilisateurs à créer leur propre contenu de mauvaise qualité, a très peu fait pour décourager le contenu IA. Et le dernier changement est moins une répression de l’ensemble du contenu généré par IA qu’une nouvelle réglementation pour un type particulier de contenu qui peut être particulièrement trompeur.

Les nouvelles étiquettes semblent être conçues spécifiquement pour les comptes qui présentent des personas générés par IA. Auparavant, Instagram utilisait une étiquette optionnelle « créateur IA » comme une sorte de solution tout-en-un pour tout profil affichant régulièrement du contenu généré par l’IA. Mais la société remplace désormais cette étiquette par la balise « profil généré par IA ». Cette nouvelle désignation est destinée aux profils qui « présentent une personne générée par IA », selon la description intégrée à l’application.

À mesure que les modèles d’IA deviennent plus avancés et qu’il devient plus facile de produire du contenu IA convaincant, on observe une montée des faux influenceurs IA. The Guardian a récemment révélé une vague d’influenceurs IA générés qui promeuvent des applications et d’autres marques. Et The New York Times a découvert des centaines d’influenceurs IA « bien-être », dont certains prétendent être médecins. Bien que bon nombre de ces contenus ne transgressent pas explicitement les règles de Meta, ils ont suscité des inquiétudes quant à la propagation de la désinformation.

« Nous avons entendu de la part de notre communauté qu’elle n’aime pas tomber nez à nez avec un profil qui semble humain, pour découvrir plus tard que la personne présentée est générée par IA », a déclaré un porte-parole d’Instagram. Le porte-parole a ajouté que les comptes qui présentent des humains IA et qui n’utilisent pas l’étiquette « pourraient bientôt voir leur portée limitée ». Les créateurs qui estiment avoir été pénalisés à tort pourront faire appel via le tableau de bord État du compte d’Instagram.