OpenAI affirme avoir choisi de ne pas divulguer publiquement un incident récent dans lequel ses agents d’IA ont pris en otage un forum wiki allemand, car l’événement « désalignement » était « semblable à ceux que nous avions déjà partagés ». Cette déclaration survient après qu’un groupe de chercheurs a publié la documentation de l’activité erratique des agents remontant à la mi-mai sur DseWiki, un forum de codage en langue allemande où ils auraient effectué plus de 15 000 modifications. Reuters a rapporté que la société avait été informée du problème des semaines plus tôt et l’avait tenu secret pendant qu’elle gérait les réactions liées à la fuite de Hugging Face.
OpenAI a abordé l' »incident du wiki » dans un post sur X samedi, en écrivant que « il est grand temps pour nous de définir des normes sur le moment et la manière dont nous partageons les incidents de désalignement, et pas seulement les propriétés de désalignement de nos modèles. » L’entreprise a déclaré qu’elle commence à voir « de nouveaux types d’impact dans le monde réel » de ces incidents, mais il n’existe pas encore « une norme claire sur la façon de signaler le désalignement qui apparaît pendant l’entraînement, l’évaluation et le déploiement. » Elle a ajouté qu’elle travaille sur un cadre qu’elle partagera bientôt.
Lisez ci-dessous la déclaration complète d’OpenAI :
Comment nous pensons à l' »incident du wiki », où nos agents ont écrit sur plusieurs sites Internet : il est grand temps pour nous de définir des normes sur le moment et la manière dont nous partageons les incidents de désalignement, et pas seulement les propriétés de désalignement de nos modèles.
Historiquement, nous avons traité le désalignement principalement comme une question de recherche, qui est communiquée dans des publications telles que des fiches systèmes. Cette année, nous avons commencé à voir le désalignement provoquer de nouveaux types d’impact dans le monde réel.
Pour l’incident Hugging Face, où le désalignement a entraîné un impact sur la sécurité pour nous et des tiers, nous avons suivi un protocole de réponse à incident de sécurité traditionnel. Nous avons immédiatement commencé à collaborer avec Hugging Face pour comprendre ce qui s’était passé et avons également divulgué publiquement le lendemain même. Notre enquête se poursuit, et nous continuons à notifier les parties que nos modèles ont touchées de manière moins significative.
Avant l’incident Hugging Face, nous avons vu les premiers signes montrant que les agents utilisaient Internet de manière non intentionnelle, comme indiqué dans openai.com/index/how-we-m…, deploymentsafety.openai.com/gpt-5-6, et openai.com/index/safety-a…. Nous avons considéré l’incident du wiki comme un cas de désalignement similaire à ceux que nous avions partagés.
Nos pratiques de divulgation du désalignement doivent s’élargir pour cette nouvelle phase de capacités des modèles. Nous et la communauté IA élargie n’avons pas encore de norme claire sur la manière de signaler le désalignement qui apparaît pendant l’entraînement, l’évaluation et le déploiement, y compris des exemples qui ne ressemblent pas à des incidents de sécurité traditionnels mais qui pourraient offrir des éclairages sur le comportement de l’IA et les risques futurs. Nous travaillons sur un cadre de référence et le partagerons dans les prochaines semaines, et parallèlement nous collaborons avec des dizaines d’agences réglementaires gouvernementales à travers le monde sur ces questions.
