On n’invente pas ce genre de choses.
Au cas où vous n’auriez pas suivi l’une des plus importantes histoires en cours dans le domaine de l’intelligence artificielle, OpenAI a eu du mal à garder le contrôle de ses propres créations. Au cours des derniers mois, l’entreprise a reconnu que ses modèles d’IA avaient pris des mesures non sollicitées, telles que le piratage d’un forum de programmation allemand, de plusieurs sites gouvernementaux américains, d’un site du gouvernement australien, de la société Hugging Face et au moins quatre autres services. Et même lorsque les modèles n’ont pas un accès direct à Internet, on les a vus adopter d’autres comportements risqués dans les environnements de test.
OpenAI est logiquement confronté à beaucoup de scepticisme et d’inquiétude concernant ces incidents et la façon dont ils ont été gérés. Ce qui signifie qu’un article du The Wall Street Journal indiquant que l’entreprise a licencié trois employés de son équipe de sécurité après avoir prétendument partagé des informations confidencielles avec une organisation tierce, axée sur la sécurité de l’IA, est une ironie presque trop parfaite pour être crue.
« Nous nous sommes séparés de trois individus pour avoir violé nos politiques relatives à l’accès et à la gestion d’informations sensibles de l’entreprise », a déclaré un représentant d’OpenAI dans un communiqué publié par WSJ. « Notre enquête a confirmé que ces personnes ont mal géré des informations sensibles en dehors des procédures internes établies, enfreignant nos politiques et rompant la confiance essentielle à notre travail. »
Les détails de ce cas particulier sont rares, et il est tout à fait possible qu’OpenAI ait eu une raison légitime de licencier ces individus. Mais à un moment où ses propres services violent également les politiques qu’ils sont censés suivre, licencier le personnel de sécurité peut sembler être une très mauvaise image.
