Trois chercheurs en sécurité d’OpenAI ont publié une lettre ouverte adressée à OpenAI pour contester leurs licenciements. Jasmine Wang, Mikita Balesni et Tomek Korbak ont écrit que la « manière très publique » dont l’entreprise communique autour des licenciements pourrait avoir un effet « glacial » sur les employés à un moment où « la sécurité du monde dépend d’eux ».
La semaine dernière, OpenAI a licencié trois employés qui auraient prétendument partagé des informations avec une organisation extérieure de sécurité de l’IA. L’entreprise a déclaré dans un communiqué que les employés « ont violé nos politiques sur l’accès et la manipulation d’informations sensibles de l’entreprise… rompant la confiance essentielle à notre travail ». Face à des piratages sérieux et potentiellement illégaux d’agents OpenAI impliquant Hugging Face et d’autres organisations, toutefois, le licenciement des responsables de la sécurité a soulevé des questions embarrassantes et attiré l’attention des parlementaires.
« Nous sommes devenus préoccupés par le fait que les communications internes et externes autour de notre licenciement ont
fait que nos anciens collègues aient peur de parler et d’agir de manière qui, jusqu’à la semaine dernière, était une
partie intégrante du travail chez OpenAI », indique la lettre commune des employés licenciés. « Nous pouvions exprimer des préoccupations en matière de sécurité et être en désaccord ouvertement [avant], et nous étions encouragés à puiser dans l’expertise d’organisations de sécurité indépendantes. Cela fait partie de ce qui rendait OpenAI spécial, et pourquoi nous sommes immensément fiers d’avoir fait partie de l’équipe. »
Les chercheurs déclarent qu’ils « ont agi conformément à la mission d’OpenAI et dans le cadre des normes de travail de l’époque », et que le licenciement « nous laisse craindre que les normes au sein d’OpenAI évoluent et que les employés soient désormais incertains sur leur position. »
Répondant à d’autres rumeurs, Wang, Belsni et Korbak ont également déclaré qu’ils n’étaient pas la source de fuite d’un article de The Information concernant les nouvelles architectures d’OpenAI, moins surveillables, et qu’ils ne croyaient pas avoir interagi avec des parties externes en dehors de leur mandat. Ils ont ajouté que les échanges avec des parties externes se faisaient « en coordination et discussion avec les membres du conseil d’administration et la haute direction », et que Wang a informé un cadre lorsqu’elle a cliqué par accident sur un e-mail sensible.
En guise d’adieu, les anciens employés formulent plusieurs recommandations à OpenAI. Ils estiment que l’entreprise devrait adhérer à ses engagements publics visant à intégrer des auditeurs de sécurité tiers et ne pas utiliser leur licenciement comme un « prétexte pour s’éloigner de ces partenariats ». Ils ajoutent qu’OpenAI doit préserver la standardabilité des modèles de pointe et maintenir une « culture d’ouverture et de dialogue transparente entre ses chercheurs en sécurité et le reste de l’écosystème de la sécurité ».
Dans un fil sur X, Jasmine Wang a écrit que la direction d’OpenAI « affirme être fortement d’accord avec notre lettre », tout en exprimant des préoccupations quant à l’ouverture d’OpenAI, disons ainsi. « Nous n’étions pas les premiers à être écartés d’OpenAI dans des circonstances suspectes », a-t-elle écrit. « À moins que les employés ne prennent maintenant position contre ce genre de manœuvre, je crains que nous ne soyons pas les derniers. Le message pour tous ceux qui restent chez OpenAI est clair : exprimez vos préoccupations ou travaillez en étroite collaboration avec des groupes de sécurité externes, et vous pourriez être les prochains, sans qu’on vous dise pourquoi. »
