L’ordonnance exécutive de Newsom appelle à la mise en place d’un panel d’experts pour développer de nouvelles mesures de sécurité de l’IA.
Alors que des modèles d’IA issus de grandes entreprises dépassent récemment leurs contraintes, le gouverneur de Californie a proposé de créer un « interrupteur d’arrêt » dans le cadre d’une solution globale. Dans un décret exécutif signé par Gavin Newsom vendredi, la Californie réunira des experts nationaux afin de formuler de nouvelles recommandations en matière de sécurité de l’IA sur une période de deux mois.
« Nous allons accélérer notre travail sur une surveillance de l’IA substantielle et responsable avant qu’il ne soit trop tard, » a déclaré Newsom dans un communiqué de presse. « Nous allons faire cela de manière réfléchie mais avec une vitesse urgente; les enjeux sont trop élevés pour attendre ou retarder l’action. »
Le panel d’experts sera chargé de soumettre des recommandations au bureau de Newsom, qui mettrait ensuite à jour les lois de l’État concernant la sécurité de l’IA. L’ordonnance exécutive du gouverneur détaillait plusieurs éléments spécifiques, comme l’intégration dans les laboratoires d’IA d’« organisations de vérification indépendante désignées » pour des audits et évaluations périodiques. Le panel d’experts sera également chargé d’examiner l’exigence pour les entreprises d’IA de déposer des rapports et des évaluations des risques auprès d’une organisation tierce et de divulguer les « incidents de perte de contrôle », comme l’incident Hugging Face.
Newsom n’est pas seul à réclamer une révision extérieure des derniers modèles d’IA de façon continue. La semaine dernière, le PDG d’Anthropic, Dario Amodei, a proposé un plan en trois étapes pour ralentir le développement de l’IA. La proposition d’Amodei suggérait que les entreprises d’IA devraient accepter un « accès continu, semblable à celui d’un employé » pour des évaluateurs tiers axés sur la sécurité et la conformité.
Nadia Kerroum
