Les sources de CNN affirment que les États-Unis ont failli attaquer un navire chinois qu’ils pensaient transporter des composants d’un programme d’armes nucléaires.
Un faux rapport de renseignement, partiellement généré par l’IA, a presque poussé l’armée américaine à attaquer un navire chinois au Moyen-Orient, selon CNN.
Engadget a demandé au Département de la Défense de commenter les informations de CNN. Nous mettrons à jour cet article si nous avons une réponse.
Cette évaluation a été préparée par un analyste du commandement des opérations spéciales qui a interrogé un chatbot d’IA sur le manifeste du navire chinois. Selon CNN, le chatbot aurait combiné « des renseignements issus de sources ouvertes » avec des renseignements d’origine signale-secrète pour conclure que le navire contenait les « composants d’un programme d’armes nucléaires » — une affirmation qui a failli conduire l’armée à appréhender le navire avant que les responsables ne découvrent qu’elle avait été générée par l’IA.
CNN n’a pas pu déterminer ce que le navire transportait réellement ni quel outil d’IA — qu’il soit commercial ou conçu pour le gouvernement américain — l’analyste avait utilisé. Compte tenu de l’initiative du Département de la Défense en faveur d’une adoption générale de l’IA, il existe potentiellement plusieurs options.
En janvier, le secrétaire à la défense Pete Hegseth a publié une note demandant au DoD de devenir « AI-first » et d’expérimenter des modèles issus des principales entreprises d’IA américaines. Cela ne s’est pas déroulé exactement comme prévu avec Anthropic, qui a refusé de laisser l’armée utiliser ses modèles pour le développement d’armes autonomes, et a été brièvement interdit par le gouvernement, mais cela a conduit à plusieurs autres partenariats en IA. Par exemple, SpaceXAI aurait conclu un accord pour permettre à l’armée d’utiliser Grok en février, et NVIDIA, Microsoft et Amazon ont conclu un partenariat pour offrir leurs technologies d’IA au DoD en mai. Ce type d’accords gouvernementaux est lucratif, c’est pourquoi les entreprises les poursuivent. Mais aider à diffuser l’adoption de l’IA porte clairement des risques que ne présentent pas les logiciels d’entreprise ordinaires.
