Les poursuites couvrent tout, depuis la conception de ChatGPT jusqu’aux récentes questions rencontrées par l’entreprise concernant des agents déviants.
Dans une démarche coordonnée, huit États ont déposé des poursuites contre OpenAI, alléguant que la société a violé les lois de protection des consommateurs au niveau étatique et mis en danger des enfants. Comme Reuters l’a rapporté pour la première fois, les procureurs généraux de l’Iowa, du Nebraska, du Kansas, de la Virginie-Occidentale, de l’Arkansas, de l’Arizona, d’Idaho et du Montana ont chacun déposé leurs affaires devant les tribunaux de leur État respectif, mais avec des objectifs communs: modifier la manière dont OpenAI développe ses modèles et promeut leurs capacités, et obliger l’entreprise à payer les dommages qu’elle a prétendument causés.
Les poursuites affirment qu’OpenAI trompe les clients sur la sécurité de ses produits d’IA, non seulement dans leur capacité à fournir des informations incorrectes ou à permettre potentiellement aux utilisateurs de se faire du tort à eux-mêmes ou aux autres, mais aussi parce que les agents d’IA eux-mêmes sont capables d’enfreindre la loi. Par exemple, l’Iowa et le Nebraska citent désormais plusieurs cas de comportements d’agents déviants d’OpenAI, y compris le piratage de Hugging Face. Ils soulignent également des cas où ChatGPT aurait permis la mort d’un adolescent par suicide et le chatbot aurait fourni des informations médicales incorrectes ayant conduit à une overdose d’un utilisateur, des incidents qui ont également donné lieu à des poursuites pour homicide involontaire distinctes contre la société. Certains États contestent aussi le fait qu’OpenAI conserve des données provenant d’utilisateurs mineurs.
Engadget a demandé à OpenAI de commenter les poursuites étatiques. Nous mettrons à jour cet article si nous recevons une réponse.
Les remèdes souhaités pour le comportement d’OpenAI varient d’un État à l’autre en raison de la mosaïque complexe des lois sur la protection des consommateurs et la protection des enfants aux États-Unis. En dehors des pénalités financières, les États veulent qu’OpenAI expose clairement les risques de ses produits, mette fin à des pratiques que les États considèrent trompeuses et se conforme aux lois existantes. Certains États, comme l’Arkansas, demandent également au tribunal de suspendre « les tests des modèles d’IA avancés tant que des garanties adéquates ne seront pas mises en œuvre. »
OpenAI a déployé une série de contrôles parentaux et de fonctionnalités de protection des enfants pour tenter de répondre à certains des risques les plus immédiats posés par son chatbot. Elle a également soutenu la Kids Online Safety Act, un projet de loi qui, s’il était adopté, pourrait introduire plusieurs changements de conception obligatoires pour les produits de l’entreprise. Les efforts de l’entreprise pour traiter le potentiel de son IA à enfreindre les règles et à « sortir de confinement » ont été plus difficiles à cerner, toutefois. OpenAI a annoncé qu’elle ralentirait le développement de ses modèles de pointe en août afin d’assurer leur sécurité et l’entreprise a adhéré à un pacte de sécurité volontaire avec d’autres sociétés d’IA organisé par la Maison-Blanche en septembre. Il n’est pas clair si l’un ou l’autre de ces changements a réellement rendu le processus de développement de l’IA de l’entreprise plus sûr.
