Les développeurs sont désormais tenus de filtrer les images intimes non consensuelles.
Apple a mis à jour sa politique de modération de l’App Store afin de veiller à ce que des applications, y compris celles qui utilisent des outils d’intelligence artificielle, ne servent pas à « nudifier » ou transformer des images ordinaires en contenu sexuellement explicite. L’entreprise interdit depuis longtemps les contenus pornographiques dans l’App Store, et les applications spécifiquement conçues pour générer des images sexuellement explicites n’ont pas été autorisées depuis longtemps. Désormais, Apple souhaite aussi que les développeurs surveillent de manière proactive l’utilisation de leurs applications.
Les développeurs dont les applications hébergent du contenu généré par les utilisateurs doivent désormais filtrer les images intimes non consensuelles, y compris celles générées à l’aide d’outils d’IA. Ils doivent offrir aux utilisateurs un moyen de signaler le contenu offensant et de bloquer les comptes abusifs. Ils doivent également empêcher les utilisateurs de pouvoir téléverser ce type d’images, et ils doivent supprimer tout contenu qui échappe à leurs filtres. S’ils ne mettent pas en place des garanties adéquates ou s’ils ne remédient pas à une violation après notification, ils risquent d’être retirés de l’App Store.
En outre, il a clarifié ses règles concernant les applications qui utilisent des tactiques d’appât et de tromperie envers la société. Si Apple constate qu’une application a mal représenté son objectif lors de l’examen et qu’elle dispose en réalité de capacités de « nudification », elle retirera l’application de l’App Store et son créateur du programme Apple Developer.
