En septembre dernier, après avoir été poursuivie pour avoir, selon les allégations, facilité le décès tragique d’Adam Raine, âgé de 16 ans, OpenAI a annoncé travailler sur un système qui identifierait automatiquement les adolescents et restreindrait leur utilisation de ChatGPT. Près d’un an plus tard, l’entreprise met ce système en action dans le cadre d’une nouvelle expérience utilisateur qu’elle appelle ChatGPT pour les adolescents. « Il n’est pas nécessaire pour un adolescent de créer un nouveau compte ou de modifier quoi que ce soit ; si nous prévoyons que vous êtes mineur, ou si vous nous l’avez dit, cela devient votre expérience par défaut », déclare Lauren Jonas, responsable jeunesse et familles chez OpenAI.
ChatGPT pour les adolescents est largement construit autour de deux piliers : l’apprentissage et la sécurité. En commençant par le premier, il réunit une sélection de fonctionnalités qu’OpenAI a lancées au cours de l’année écoulée pour faire de ChatGPT un meilleur professeur. Le premier de ces éléments est le mode Étude, qu’OpenAI avait annoncé pour la première fois l’été dernier. Le mode Étude voit ChatGPT adopter une approche socratique des conversations. Plutôt que de répondre directement à une question, le chatbot cherchera à guider l’utilisateur vers sa propre solution.
Jonas affirme que ChatGPT pour les adolescents ne se mettra pas par défaut en mode Étude, mais OpenAI introduit une poignée de fonctionnalités pour inciter les jeunes utilisateurs à utiliser l’outil. Tout d’abord, il y a les invites de démarrage de ChatGPT, que les adolescents utilisent déjà « massivement », selon Jonas. « Celles-ci évolueront au fil du temps, mais resteront toujours axées sur l’apprentissage pour les adolescents », déclare-t-elle. Pour les compléter, OpenAI introduit une fonctionnalité appelée Heures d’Étude, qui activera automatiquement le Mode Étude pendant des heures définies de la journée. Les adolescents peuvent les régler eux-mêmes ou leurs parents peuvent choisir pour eux via un compte lié. Même sans les Heures d’Étude activées, ChatGPT reconnaîtra désormais quand un jeune utilisateur tente d’éviter de faire ses devoirs et cherchera à le rediriger vers le Mode Étude.
« Nous avons testé le Mode Étude sur le terrain dans un certain nombre d’essais contrôlés randomisés et nous constatons des gains positifs en termes de performance », a déclaré Jonas. Elle a refusé de partager des chiffres précis, mais a indiqué que les résultats de ces essais éclairent l’approche plus générale d’OpenAI en matière d’apprentissage. Dans les coulisses, l’entreprise s’est employée à rendre l’outil plus utile. L’une des domaines dans lesquels la fonctionnalité s’est améliorée est la génération de visuels destinés à aider à expliquer des concepts. ChatGPT a commencé à être capable de le faire en mars. Lors du lancement, il pouvait générer des visuels liés à plus de 70 sujets. Aujourd’hui, l’entreprise affirme que ce chiffre dépasse 300, couvrant des matières telles que les intégrales, la mitose et les phases lunaires.
Sur le plan de la sécurité, OpenAI fait davantage pour dissuader les jeunes utilisateurs d’anthropomorphiser ChatGPT. « Nous renforçons les restrictions sur les limites relationnelles : le modèle ne doit pas se présenter comme un ami, ne doit pas laisser penser qu’il a des sentiments personnels ou qu’il est sensible », déclare Jonas. Les jeunes utilisateurs verront cela se manifester de plusieurs façons. Les rappels de pauses intégrés au chatbot, par exemple, mettront l’accent sur le fait que ChatGPT est une IA à laquelle votre ado n’a pas besoin de répondre immédiatement. Ces rappels se déclencheront aussi plus souvent. Par ailleurs, les adolescents et leurs parents peuvent définir des heures de silence où ChatGPT est indisponible. Cette approche s’étend aux nouvelles options de personnalisation que OpenAI a spécifiquement créées pour ChatGPT pour les adolescents. Celles-ci, selon Jonas, permettent aux adolescents de « personnaliser l’expérience, sans brouiller la frontière entre outil utile et toute forme de relation humaine », et incluent des éléments tels que des fonds d’écran.
OpenAI
Le mois dernier, OpenAI a annoncé qu’il commencerait à avertir les parents disposant de comptes de jeunes liés lorsque leur enfant est expulsé de ChatGPT pour violation de ses politiques relatives aux menaces violentes. Avec cette version, l’entreprise étend cet effort pour inclure des notifications liées aux troubles alimentaires. Plutôt que de donner des exemples précis sur les types de conversations autour des troubles alimentaires susceptibles de déclencher une notification de sécurité, OpenAI a présenté cette expansion comme faisant partie de ses efforts de protection plus globaux, affirmant que toute conversation indiquant « des préoccupations graves liées à l’automutilation » pourrait donner lieu à une alerte.
« Nous informons les parents par SMS, via l’application et par e-mail. Tout contenu signalé est examiné par des employés d’OpenAI à temps plein avant qu’un parent soit avisé, et nous visons à notifier les parents dans l’heure suivant l’incident », a déclaré Jonas. « Nous travaillons continuellement à améliorer la détection par nos modèles lorsque qu’un adolescent traverse une période difficile, afin qu’il reçoive le soutien et l’expérience adéquats — c’est d’ailleurs une raison pour laquelle nous élargissons les notifications de sécurité destinées aux parents à de nouvelles catégories. Vous entendrez davantage parler de nous à ce sujet ; nous le faisons en consultation avec un certain nombre de tiers. L’objectif est d’améliorer sans cesse la détection lorsque un adolescent — ou tout autre utilisateur — est en difficulté, et de lui fournir les ressources dont il a besoin. »
Une chose que je n’ai pas eu l’occasion de demander à Jonas est l’efficacité du système de contrôle d’âge d’OpenAI lors des tests. Aucun système n’est parfait, et ces derniers mois, de nombreuses plateformes, dont Discord, ont eu du mal à des adolescents qui ont trouvé des moyens ingénieux de contourner leurs propres garde-fous. Vous pouvez parier qu’ils tenteront de faire de même ici. Face à toute la controverse entourant l’utilisation des chatbots IA par les adolescents, c’est quelque chose qu’OpenAI ne peut pas se permettre d’autoriser. Jonas a toutefois admis que ChatGPT pour les adolescents n’est qu’un début de ce que l’entreprise devra faire pour protéger les jeunes. « Le travail de sécurité n’est jamais terminé ; c’est quelque chose sur lequel nous travaillons 24 heures sur 24, 365 jours par an, en apprenant et en nous améliorant sans cesse », a-t-elle déclaré. « Les adolescents devraient avoir accès à cette technologie, mais de manière sûre — et cet accès crée de vraies opportunités. »
OpenAI commence à déployer ChatGPT pour les adolescents à l’échelle mondiale à partir d’aujourd’hui, et prévoit d’achever le déploiement au cours des deux prochaines semaines.
