Anthropic a dévoilé comment il appose un filigrane sur le texte généré par Claude AI afin de se conformer aux nouvelles règles de transparence de l’IA de l’Union européenne. L’entreprise a déclaré que le filigrane textuel n’affichera pas de visuels faciles à repérer, ne sera pas discernable par les lecteurs et n’ajoutera pas de caractères cachés au texte. Au lieu de cela, la méthode d’Anthropic consiste à laisser un motif dans le texte qui ne peut être décodé que par quelqu’un possédant la clé correspondante.
La société a expliqué que les grands modèles de langage sélectionnent un mot à la fois lors de la génération de texte en choisissant parmi une liste de mots potentiellement appropriés à utiliser. Ils choisissent les mots de manière aléatoire, tant que le contexte dans lequel ils s’insèrent reste cohérent. Avec le filigrane activé, Claude utilisera une clé pour décider du mot à choisir, plutôt que d’utiliser un générateur de nombres aléatoires arbitraire pour déterminer le mot suivant.
Dans son exemple, Anthropic a utilisé les chiffres de pi comme clé. Supposons que la clé commence par le chiffre 2 de la séquence pi 3.1415926535. Le mot suivant généré est le sixième dans la liste des choix, puis le cinquième, le troisième et ensuite de nouveau le cinquième. Cette méthode est une adaptation de l’approche SynthID-Text de Google DeepMind pour le filigranage, que l’équipe a décrite dans un article publié dans Nature. Le filigranage n’affecte pas la qualité de la production de Claude ni ne la ralentit, selon l’entreprise, et il ne nécessitera pas de jetons supplémentaires ni n’augmentera le coût des générations.
Bien sûr, les textes générés par l’IA présentent généralement des indices. Les modèles ont tendance à utiliser certaines constructions de phrase comme « ce n’est pas [X], c’est [Y] », par exemple. Mais ces indices ne suffisent qu’à vous indiquer qu’une IA a participé à l’écriture de ce texte, et non le modèle utilisé. Anthropic va proposer une API qui contient des « clés » pour déverrouiller le filigranage de Claude et pourra dire si le bloc de texte vérifié a été généré par leur IA.
Anthropic reconnaît que sa méthode de filigranage du texte présente des limites. Elle ne peut pas dire si Claude a réellement écrit le texte ou s’il l’a simplement édité, ce qui signifie que si vous demandez à l’IA de modifier quelque chose pour vous, cela sera également filigrané. Comme l’explique l’entreprise, elle ne peut dire que Claude était probablement impliqué dans le texte à un moment donné. Même les traductions seront filigranées. Si Claude n’a fait que relire et légèrement éditer le texte, ou si le texte est trop court, le filigrane peut ne pas être détectable. Notez que modifier légèrement un texte généré par Claude ne supprimera probablement pas son filigrane. Si vous voulez en être sûr, vous devrez le réécrire complètement.
Quelques inquiétudes ont été exprimées quant à l’effet du filigranage sur le code, car celui-ci pourrait ne pas être protégeable par le droit d’auteur sans une contribution humaine importante. Si l’on pouvait démontrer qu’une base de code entière a été générée par l’IA, on pourrait la copier puis l’itérer. Toutefois, Anthropic a déclaré que le code présente « globalement moins de filigranage que certaines autres formes de texte » car il nécessite généralement une sortie exacte. S’il n’y a pas de choix à faire lors de la génération du texte, alors le filigranage ne peut pas être appliqué.
Anthropic filigranera également les images en ajoutant une note signée cryptographiquement dans leurs métadonnées indiquant qu’elles ont été générées par Claude. Dans son annonce, l’entreprise a déclaré qu’elle appliquait des filigranes à toute la production de Claude au lancement, car elle ne dispose pas de méthodes sûres pour mettre en œuvre les changements par région. Les modifications affecteront la production sur tous les produits Claude qui utilisent des modèles publiés après le 2 août. Anthropic ajoutera également la capacité de filigranage aux anciens modèles Claude au cours des mois à venir.
