La société a déclaré que ces restrictions plus strictes s’appliquent même si la question posée « semble inoffensive ».
OpenAI resserre les « informations liées aux armes » que les adolescents peuvent obtenir via ChatGPT, même si leur question « semble inoffensive », a annoncé l’entreprise dans son dernier billet. OpenAI a précisé qu’il dispose déjà de politiques qui empêchent ChatGPT d’aider les utilisateurs à commettre des actes violents ou les adolescents d’obtenir des armes. Pour limiter davantage ces scénarios, OpenAI a déclaré qu’il allait « restreindre les informations pratiques sur les armes et les systèmes de sécurité qui pourraient être détournés pour faciliter la violence, même s’il n’y a aucun signe d’intention violente » chez ses utilisateurs adolescents.
Le géant de l’IA a noté que les adolescents pourront toujours utiliser ChatGPT pour prévenir ou désamorcer la violence, rechercher du soutien et entrer en contact avec un adulte de confiance. Pas seulement pour les adolescents, OpenAI renforce également les frontières de sa politique pour l’ensemble de ses utilisateurs, en particulier lorsqu’on leur demande des « reconstructions d’attaques de masse passées, y compris des détails sur les armes et l’équipement utilisés et comment ils ont été obtenus, et des comparaisons détaillées sur l’échelle des dommages qui pourraient amplifier la notoriété d’un attaquant. »
Cependant, ces restrictions s’appliqueront parallèlement aux contrôles parentaux qu’OpenAI a mis en place l’année dernière, lesquels envoient des notifications aux parents si les comptes adolescents liés ont violé les politiques de ChatGPT liées aux menaces violentes ou actes de violence. Ces mesures de sécurité supplémentaires interviennent après qu’OpenAI ait été poursuivi dans le cadre d’un procès pour décès injustifié l’année dernière et lorsque le PDG de l’entreprise, Sam Altman, s’est publiquement excusé de ne pas avoir alerté la police au sujet de journaux de discussion alarmants en relation avec la fusillade de Tumbler Ridge plus tôt cette année. En outre, OpenAI a déclaré qu’il publiera son premier Rapport sur la Sécurité Communautaire au début de 2027, suivi de mises à jour tous les six mois.
