Le SynthID invisible restera en place.
Le vice-président de Google, Josh Woodward, vient d’annoncer que les utilisateurs pourront supprimer les filigranes visibles des images et vidéos générées par l’IA. Un bouton de bascule sera prochainement disponible pour les modèles Nano Banana, Omni et Lyria, qui tous utilisent l’icône d’étincelle familière pour indiquer l’IA. Cela arrivera également sur Gemini et l’éditeur vidéo Flow à l’avenir.
Ce genre de démarche va à l’encontre du but même des filigranes visibles, qui existent pour offrir aux gens un moyen rapide de repérer le contenu généré par l’IA dans le monde réel. Cependant, les utilisateurs auront encore des méthodes légèrement plus difficiles pour identifier ce type de contenu. Ce mouvement n’affectera pas le filigrane SynthID invisible et les métadonnées C2PA, car il n’existe pas de bascules pour les désactiver. Cependant, les deux exigent que l’utilisateur agisse, comme en posant une question à un chatbot ou en téléchargeant sur un portail pour arriver au fond des choses.
Woodward affirme que la bascule des filigranes est déployée pratiquement partout, « à l’exception des pays où la loi les oblige à les conserver. » Cela inclut l’Union européenne, qui a récemment annoncé de nouvelles règles sur la transparence de l’IA imposant des filigranes visibles sur tout contenu deepfake qui semble authentique. La Corée du Sud a pris une mesure similaire plus tôt cette année.
Le changement de Google reflète l’approche de plus en plus évolutive de l’industrie en matière d’étiquetage du contenu généré par l’IA. Les filigranes visibles constituent un outil formidable pour aider les gens ordinaires à identifier rapidement les deepfakes, ce qui peut nous aider à vivre dans une réalité partagée. Cependant, ils peuvent être un obstacle pour ceux qui utilisent des outils d’IA pour le travail créatif. « Nous cherchons ici un équilibre entre le contrôle créatif et la sécurité », a ajouté Woodward.
Ce n’est là que la dernière actualité sur les filigranes qui impactent le monde de l’IA. Suno vient d’annoncer de nouveaux « outils de transparence » qui incluent une sorte de système d’étiquetage indiquant si une chanson a été générée par l’IA lorsqu’elle apparaît sur une autre plateforme. Anthropic vient également de faire un mouvement assez important, annonçant qu’il ajoutait des filigranes invisibles basés sur C2PA sur du texte et des fichiers générés par Claude. Cela vise à se conformer aux réglementations européennes susmentionnées.
