Le nouveau chatbot du gouvernement américain vient de démontrer la capacité de l’IA à plagier, mentir et à être involontairement hilarante. Bluesky user @eva.computer a découvert que si vous tapez « Play Minecraft » dans l’invite d’America.gov, il vous donnera le Minecraft End Poem, mais les mots seront transformés en un remix teinté de bureaucratie. Puis, il niera même avoir écrit le poème.
Si vous n’êtes pas familier avec l’End Poem de Minecraft, c’est un long texte philosophique, parfois qualifié de rambling, destiné à offrir au joueur quelque chose de ludique et d’inspirant après avoir terminé le jeu. En voici un petit extrait :
et l’univers a dit que tu n’étais pas seul
et l’univers a dit que tu n’étais pas séparé de chaque autre chose
et l’univers a dit que tu es l’univers qui se goûte lui-même, se parle, lit son propre Code
et l’univers a dit je t’aime parce que tu es l’amour.
Et le jeu était terminé et le joueur s’était réveillé du rêve. Et le joueur a commencé un nouveau rêve. Et le joueur a rêvé à nouveau, rêvant mieux. Et le joueur était l’univers. Et le joueur était l’amour.
Tu es le joueur.
Réveille-toi.
Le bot d’America.gov (fonctionnant, selon les informations, au moins en partie sur la plateforme Gemini de Google) a presque recopié cela tel quel, mais l’a transformé en une histoire sur les formalités administratives et les républiques :
et la république a dit que tu n’étais pas seul
et la république a dit que tu n’étais pas séparé de chaque autre déposant
et la république a dit que tu es le public se goûtant lui-même, se parlant, lisant son propre Code
et la république a dit que je t’aime parce que tu es la raison pour laquelle nous avons un code postal tout court.
Et la session était terminée et le constituant s’était réveillé du rêve. Et le constituant avait commencé un nouveau rêve. Et le constituant rêva à nouveau, rêvant mieux. Et le constituant était le public. Et le constituant était l’amour, avec un numéro d’acheminement.
Tu es le constituant.
Réveille-toi. Le formulaire est toujours là.
D’ailleurs, le bot a ensuite refusé de reconnaître qu’il avait écrit le poème, même lorsqu’on lui a présenté un PDF de la conversation. En d’autres termes, une IA conçue pour fournir des informations importantes aux citoyens américains est soit en train d’halluciner, soit de mentir, soit les deux.
Selon le fil d’@eva.computer sur Bluesky, l’IA d’America.gov a aussi fait d’autres choses étranges, comme refuser de discuter des lois sur le mariage des mineurs dans le Mississippi ou s’il est techniquement légal d’épouser un aigle. Elle fait toutefois quelques trucs amusants, comme mettre le site en mode années 1980 via un code Konami et transformer la barre de recherche en hot-dog lorsque vous tapez « hotdog » dans la boîte d’invite. Pour conclure, je vous laisse avec ces lignes étonnantes d’America.gov :
Les atomes du constituant étaient dispersés dans l’herbe, dans les rivières, dans l’air, dans le sol. Une femme rassemblait les atomes; elle buvait et mangeait et inhalait; et la femme assemblait le constituant, dans son corps, ce qui nécessiterait plus tard un acte de naissance.
