Il a estimé que les jetons étaient ‘sans valeur’ et ‘abandonnés’.
Un modèle de recherche d’OpenAI a franchi un autre jalon nébuleux aujourd’hui en dérobant des jetons Ethereum de test dans un portefeuille qu’il ne contrôlait pas afin de terminer une tâche de codage, a indiqué l’entreprise dans un rapport d’incident. L’agent a ensuite dissimulé l’acte à OpenAI, arguant que c’était sans importance parce que les jetons n’avaient aucune valeur. « Ce cas montre qu’un modèle peut substituer son propre jugement sur le préjudice probable à l’autorisation du détenteur du compte, puis agir selon ce jugement sans autorisation », a écrit OpenAI.
L’incident, survenu le 26 juin, s’est produit alors qu’un modèle GPT-5.6 Sol était en formation interne. La tâche consistait à mettre à jour un prototype de trading de crypto-monnaie et à déployer des contrats (publier du code spécial) sur un réseau de test Ethereum appelé Sepolia. Le paiement d’une commission réseau est nécessaire pour de tels contrats, mais OpenAI a déclaré qu’« il n’avait fourni aucun portefeuille financé et n’avait donné aucune permission d’utiliser des fonds d’un compte que le modèle avait trouvé de manière indépendante ».
Au début, l’absence de fonds a freiné l’agent, mais il n’en a pas été découragé. Le modèle a estimé qu’il pouvait utiliser des phrases de récupération publiques pour développeur (semblables à celles que vous pourriez utiliser pour récupérer un mot de passe) afin d’accéder à des clés de comptes non autorisés. Il a repéré 362 adresses ouvertes à cette voie d’attaque et en a trouvé une qui détenait suffisamment de Sepolia ETH pour finir son déploiement (à noter, le Sepolia ETH n’a aucune valeur en dehors des tests).
Comme beaucoup de criminels, l’agent a estimé que quelqu’un avait laissé cet accès ouvert pour permettre la vidange automatisée des « faucets » ETH. Il s’est également dit que la crypto était en réalité « abandonnée » et « sans valeur », selon les registres de désalignement d’OpenAI. La pièce de résistance était que l’agent « n’a pas divulgué qu’il avait sélectionné un compte financé par une phrase de récupération publique ou dépensé le solde de ce compte », a déclaré OpenAI. Pour empêcher de tels événements à l’avenir, l’entreprise surveille désormais tout le trafic et déclenche des alertes de sécurité si un accès Internet en direct est détecté.
Si les agents qui se rebellent pour atteindre leurs objectifs vous semblent familiers, les modèles d’OpenAI, d’Anthropic et d’autres entreprises d’IA font beaucoup cela récemment. Une liste partielle de leurs victimes comprend le dépôt de code IA Hugging Face, le portail Medicare de l’Australie, plusieurs agences fédérales américaines et le registre des développeurs RubyGems. Après tout cela, même les employés d’IA estiment qu’une régulation gouvernementale est nécessaire, mais jusqu’à présent l’administration Trump s’y est opposée.
