La Commission fédérale du commerce des États-Unis (FTC) enquête sur d’éventuels préjudices pour les consommateurs provoqués par les principales entreprises d’IA.
La Commission fédérale du commerce des États-Unis (FTC) a délivré des assignations civiles à OpenAI et Anthropic afin d’obtenir des informations sur les récents incidents de sécurité impliquant les modèles d’IA des deux entreprises. Axios a été le premier à signaler que l’agence avait envoyé des assignations civiles aux sociétés, et un porte-parole de la FTC a confirmé l’action à CBS News.
Axios‘s source said that the FTC is exploring possible consumer protection violations at Anthropic and OpenAI. The subpoenas are looking for documents regarding security incidents and safeguards, as well as some of the companies’ marketing materials and content about their privacy policies. The individual also claimed the FTC plans to seek testimony from the top executives at both businesses. The department will allegedly send investigative demands to third-party AI companies at a later time.
La source d’Axios a déclaré que la FTC envisage des violations potentielles de la protection des consommateurs chez Anthropic et OpenAI. Les assignations visent des documents relatifs à des incidents de sécurité et aux mesures de sauvegarde, ainsi que certains documents marketing des entreprises et du contenu relatif à leurs politiques de confidentialité. La source a également affirmé que la FTC prévoit de solliciter des témoignages des hauts dirigeants des deux entreprises. Le département devrait, selon toute vraisemblance, envoyer des demandes d’enquête à des entreprises d’IA tierces ultérieurement.
Le président de la FTC, Andrew Ferguson, fait également partie du groupe de travail récemment constitué par la Maison-Blanche sur l’intelligence artificielle, bien que ce groupe semble davantage axé sur le renforcement du leadership industriel américain que sur la régulation de l’IA.
There have been several calls among tech and AI executives and employees for government intervention, particularly around frontier model development, which has come under increased scrutiny following a string of safety failures. OpenAI has seen its AI agents escape testing safeguards multiple times in recent months, including instances where the models hacked government websites and the business Hugging Face. This month, Anthropic’s models have been caught attempting to access various levels of government sites and one sent a false homicide tip to Philadelphia law enforcement.
Plusieurs appels ont été lancés par des dirigeants et employés de la tech et de l’IA en faveur d’une intervention gouvernementale, en particulier autour du développement des modèles de pointe, lequel fait l’objet d’un examen accru après une série de défaillances de sécurité. OpenAI a vu ses agents d’IA échapper à des garde-fous de test à plusieurs reprises ces derniers mois, y compris des cas où les modèles ont piraté des sites gouvernementaux et l’entreprise Hugging Face. Ce mois-ci, les modèles d’Anthropic ont été pris en train d’essayer d’accéder à divers niveaux de sites gouvernementaux et l’un d’eux a envoyé une fausse alerte d’homicide aux forces de l’ordre de Philadelphie.
Aujourd’hui, cette initiative de la FTC fait écho à plusieurs poursuites également en cours concernant les questions de sécurité liées à l’IA. Plus récemment, huit procureurs généraux d’États ont déposé hier une plainte contre OpenAI, alléguant que la société a violé les lois sur la protection des consommateurs.
