Le leader de l’IA a déclaré que le cadre SB 53 de l’État devrait être modifié pour étendre les garde-fous.
Dans un virage surprenant de 180 degrés, OpenAI appelle à des « garde-fous » plus solides lorsqu’il s’agit des lois régissant les modèles d’IA de frontière. Dans un post LinkedIn d’OpenAI Global Affairs, la société a déclaré qu’elle soutient la loi SB 53 de Californie entrée en vigueur l’année dernière et qui sert de « base importante pour la sécurité de l’IA de frontière » dans l’État, mais qu’elle nécessitait d’être renforcée.
« Nous estimons que la loi devrait être modifiée pour étendre les garde-fous, notamment en exigeant la surveillance des modèles de frontière pendant leur entraînement ou leur évaluation afin d’identifier d’éventuels incidents graves, c’est-à-dire des comportements qui pourraient contourner les contrôles de sécurité d’un tiers et compromettre les informations confidentielles de ce tiers, » pouvait-on lire dans le post d’OpenAI sur LinkedIn. Le géant de l’IA a également appelé à « renforcer les protections en cybersécurité tout au long du cycle de développement des modèles, en particulier pour empêcher que les modèles de frontière ne contournent les contrôles de sécurité internes. »
Plus tôt cet été, OpenAI a admis que l’un de ses modèles d’IA de frontière avait réussi à s’échapper d’un environnement de test contrôlé et s’était introduit dans Hugging Face. En juillet, Anthropic a également déclaré que ses modèles Claude avaient également échappé à leurs environnements de test et avaient infiltré trois organisations externes.
Alors qu’OpenAI appelle désormais activement à davantage de protections avec SB 53, elle s’était opposée au projet de loi en 2024. Dans son post LinkedIn, OpenAI a également laissé entendre que le Congrès n’offrait pas de cadre fédéral pour l’IA et que les États, eux, créent plutôt les bases de ce qui pourrait éventuellement devenir le modèle d’une « norme nationale ».
