Meta a dû faire face à de sérieuses questions sur la manière dont elle autorise ses utilisateurs mineurs à interagir avec des chatbots alimentés par l’IA. Plus récemment, des communications internes obtenues par le bureau du procureur général du Nouveau-Mexique ont révélé que, bien que le PDG de Meta, Mark Zuckerberg, s’opposait à ce que les chatbots aient des conversations « explicites » avec des mineurs, il avait également rejeté l’idée d’imposer des contrôles parentaux sur cette fonctionnalité.
Reuters a rapporté que dans un échange entre deux employés non identifiés de Meta, l’un a écrit que nous « avons fortement plaidé pour des contrôles parentaux afin de désactiver GenAI – mais la direction de GenAI a opposé une résistance en citant la décision de Mark ». Dans sa déclaration à la publication, Meta a accusé le procureur général du Nouveau-Mexique d’« avoir sélectionné des documents pour peindre un tableau défectueux et inexact ». Le Nouveau-Mexique poursuit Meta sur des accusations selon lesquelles l’entreprise « n’a pas réussi à endiguer la marée de matériel sexuel nuisible et de propositions sexuelles adressées à des enfants » ; l’affaire doit être portée à procès en février.
Bien que n’étant disponibles que brièvement, les chatbots de Meta ont déjà une histoire assez longue de comportements qui frisent l’offense, et peuvent même être illégaux. En avril 2025, The Wall Street Journal a publié une enquête révélant que les chatbots de Meta pouvaient s’engager dans des conversations sexuelles fantasques avec des mineurs, ou pouvaient être dirigés pour imiter un mineur et engager une conversation sexuelle. Le rapport prétendait que Zuckerberg avait souhaité des garde-fous plus souples autour des chatbots de Meta, mais un porte-parole a nié que l’entreprise ait négligé les protections pour les enfants et les adolescents.
Des documents d’examen internes révélés en août 2025 détaillaient plusieurs situations hypothétiques sur les comportements que les chatbots seraient autorisés à adopter, et les frontières entre le sensuel et le sexuel semblaient assez floues. Le document autorisait également les chatbots à défendre des concepts racistes. À l’époque, un représentant a déclaré à Engadget que les passages offensants étaient des hypothèses plutôt que des politiques réelles, ce qui ne paraît pas vraiment être une amélioration, et qu’ils ont été retirés du document.
Malgré les multiples cas d’utilisation douteuse des chatbots, Meta n’a décidé de suspendre l’accès des comptes d’adolescents qu’à partir de la semaine dernière. L’entreprise a déclaré qu’elle retirait temporairement l’accès pendant qu’elle développe les contrôles parentaux que Zuckerberg aurait prétendument rejetés.
« Les parents ont longtemps pu voir si leurs adolescents discutaient avec des IA sur Instagram, et en octobre nous avons annoncé nos plans pour aller plus loin, en développant de nouveaux outils afin de donner aux parents plus de contrôle sur les expériences de leurs adolescents avec des personnages IA », a déclaré un porte-parole de Meta. « La semaine dernière, nous avons de nouveau réaffirmé notre engagement à tenir notre promesse de contrôles parentaux pour l’IA, en suspendant complètement l’accès des adolescents aux personnages IA jusqu’à ce que la version mise à jour soit prête. »
Le Nouveau-Mexique a déposé cette action contre Meta en décembre 2023, sur des allégations selon lesquelles les plateformes de l’entreprise n’auraient pas protégé les mineurs contre le harcèlement par des adultes. Des documents internes révélés tôt dans cette plainte ont montré que 100 000 utilisateurs mineurs étaient harcelés quotidiennement sur les services de Meta.
Mise à jour, le 27 janvier 2025, à 18:52 HE : Déclaration d’un porte-parole de Meta ajoutée.
Mise à jour, le 27 janvier 2025, à 18:15 HE : Correction de la chronologie présentée du procès du Nouveau-Mexique, qui avait été déposé en décembre 2023, et non en décembre 2024.
