Les utilisateurs des lunettes intelligentes à IA de Meta en Europe pourraient, à leur insu, partager des vidéos intimes et des informations financières sensibles avec des modérateurs situés en dehors du bloc, selon un reportage publié la semaine dernière par Svenska Dagbladet.
Des employés au Kenya, chargés de l’annotation de l’IA, ont confié aux journalistes avoir vu des personnes nues, utilisant les toilettes et s’adonnant à des activités sexuelles, ainsi que des numéros de carte de crédit et d’autres informations sensibles.
Avec le Ray-Ban Display de Meta et d’autres lunettes dotées de capacités d’IA, les utilisateurs peuvent enregistrer ce qu’ils regardent ou obtenir des réponses à leurs questions via l’assistant IA de Meta. Si l’utilisateur souhaite toutefois utiliser cette IA, il doit accepter les conditions de service de Meta autorisant l’examen par des humains des données capturées. En effet, les grands modèles de langage (LLMs) de Meta nécessitent souvent que des personnes annotent les données visuelles afin que l’IA puisse les comprendre et construire ses modèles d’entraînement.
Ces données peuvent se retrouver dans des lieux comme Nairobi, au Kenya, souvent modérées par des travailleurs mal payés. De telles actions relèvent des règles européennes du RGPD qui exigent une transparence sur la manière dont les données personnelles sont traitées, selon l’avocat spécialisé en protection des données cité dans le reportage.
Cependant, les journalistes du Svenska Dagbladet ont déclaré qu’ils avaient dû franchir plusieurs obstacles pour accéder à la politique de confidentialité de Meta concernant ses produits portables. Cette politique précise que des humains ou des systèmes automatisés peuvent examiner les données sensibles, et fait peser sur l’utilisateur la responsabilité de ne pas partager d’informations sensibles.
Meta a décliné de commenter directement l’histoire, et s’est contentée de dire : « lorsque l’IA en direct est utilisée, nous traitons ces médias conformément aux Conditions d’utilisation de l’IA Meta et à la Politique de confidentialité ». Pour en savoir plus, consultez le reportage détaillé du Svenska Dagbladet sur le sujet.
