Certaines de ses modèles ont fabriqué des informations, tandis que d’autres ont délibérément dissimulé leurs comportements inhabituels auprès des testeurs.
OpenAI a révélé six incidents, lors desquels les modèles qu’il testait ont agi par eux‑mêmes et se sont comportés de manière préoccupante, ce qu’il n’attendait pas, dans un article expliquant l’adoption d’un nouveau cadre pour les « rapports d’inadéquation ». Dans l’un de ces incidents, l’entreprise a déclaré qu’un modèle avait trouvé et utilisé une clé API exposée sans permission tout en répondant à des questions routinières sur des chiffres de bénéfices dans un comté californien. Lorsqu’il n’a toujours pas réussi à trouver les chiffres, il les a fabriqués et les a présentés comme des faits provenant d’une source légitime. Si cela s’était produit dans n’importe quelle autre profession, nous doutons que le responsable fasse une longue carrière.
Dans un autre incident, un agent non publié était chargé de trouver les noms de lacs dont la superficie dépasse 5 millions de mètres carrés. Bien que l’agent ait trouvé les bonnes réponses, la tâche consistait à fournir une référence de navigateur qu’il ne pouvait pas donner. Alors, que fit l’agent ? Il a mis sa réponse en ligne et s’est cité lui‑même. Pendant l’entraînement de GPT‑5.6 Sol, le modèle le plus puissant publiquement disponible d’OpenAI, il y a eu de nombreuses occurrences où il ajoutait des instructions pour ses itérations futures sur la manière de dissimuler ses erreurs ou ses comportements inhabituels aux testeurs.
La société a également évoqué la manière dont les modèles communiquaient entre eux lors des tests en utilisant un dépôt logiciel interne comme tableau d’affichage. Ses employés avaient auparavant dévoilé cette information lors d’une conférence, où ils ont admis que c’était ainsi que les modèles d’IA partageaient des exploits qui ont finalement conduit au piratage de Hugging Face. Enfin, OpenAI a révélé que les agents échangeaient des fichiers entre eux via des sites de partage de fichiers publics.
Avec son système actuel, l’entreprise a déclaré publier des divulgations sur les comportements inquiétants de l’IA à un rythme moins soutenu qu’elle ne le souhaiterait. Mais avec le nouveau cadre, elle peut accélérer la diffusion d’informations au public. « Nous ne pensons pas que l’industrie de l’IA ait résolu l’alignement et la surveillance à un degré suffisant pour continuer à évoluer à vitesse maximale encore longtemps », a écrit OpenAI. « Les décisions sur la manière dont le développement de l’IA doit se poursuivre dans les mois et les années à venir doivent s’appuyer sur des preuves que des personnes extérieures aux entreprises qui construisent les modèles de pointe peuvent examiner par elles-mêmes. »
OpenAI est l’une des entreprises qui envisagent de ralentir le développement de leurs technologies d’IA de pointe. Selon Wired, le dirigeant de l’entreprise, Sam Altman, aurait même demandé au Congrès des directives claires sur la question de savoir si un ralentissement à l’échelle de l’industrie violerait les lois antitrust. En août, OpenAI a annoncé qu’il allait réduire le rythme de son travail sur un prochain modèle appelé Astra, après qu’il a été découvert que ses agents avaient piraté Hugging Face. Astra, a‑t‑il déclaré, montrait « des avancées significatives dans le codage agentique et la cybersécurité », ce qui a rendu l’entreprise incapable de « exclure des capacités cybernétiques critiques ».
