N’utilisez jamais ChatGPT pour ces cinq tâches

La liste des personnes qui se sont mises dans l’embarras en saisissant des informations erronées dans ChatGPT continue de croître. Des ingénieurs de Samsung, le directeur intérimaire de l’agence américaine de cybersécurité, des plaideurs qui se représentent eux-mêmes et fournissent des citations à des dossiers qui n’existent pas, un homme qui a remplacé le sel de table par du bromure de sodium après avoir demandé comment en réduire l’apport… la liste est trop longue.

Même le PDG préféré de tous, le techbro tout en minuscules Sam Altman, admet que ce que vous partagez avec ChatGPT n’est pas protégé par le secret professionnel. S’exprimant auprès du podcasteur Theo Von en juillet 2025, il a souligné comment les tribunaux pourraient obliger OpenAI à remettre les conversations, les qualifiant de « très problématiques ».

Dire quelque chose à un médecin, à un avocat ou à un thérapeute est protégé par la loi, mais dire quelque chose à ChatGPT crée une traçabilité. Il existe un risque non nul ici, étant donné que des discussions ChatGPT ont été assignées à témoigner, exposées par un bouton de partage, indexées par Google et conservées par une ordonnance du tribunal après suppression — tout cela au cours des 18 derniers mois.

Bien sûr, le chatbot est sans doute un outil utile pour la recherche (vérifiez que les citations de cas sont réelles), le codage (même les bogues livrent leur lot), l’explication des concepts (il n’y a pas de corrélation entre la confiance affichée et l’exactitude) et la rédaction (supprimez l’invite de votre courrier électronique avant de cliquer sur envoyer). Mais les domaines ci-dessous sont ceux où plus de 900 millions d’utilisateurs hebdomadaires pourraient se créer des problèmes pour eux-mêmes.

Donc, à cette fin, n’utilisez pas ChatGPT (ou tout autre chatbot IA)…

Le chercheur en droit et science des données Damien Charlotin maintient une base de données publique qui, à ce jour, recense plus de 2 000 décisions de justice dans le monde entachées par ChatGPT. Il s’agit de cas où un juge a décelé des citations, des passages ou des arguments fabriqués par l’IA dans un dossier déposé.

Ce n’est pas seulement les plaideurs qui se représentent eux-mêmes ici. Bien qu’ils occupent le premier rang avec 1 175 dossiers au moment de la rédaction, les avocats arrivent en deuxième position avec 815 dossiers. Il semble que les juges en aient assez de ces frasques, les tribunaux imposant ces dernières fois d’importantes amendes allant jusqu’à des milliers de dollars dans un nombre croissant d’affaires. Bien que les États-Unis constituent le plus grand nombre de cas dans ces données, des juges au Royaume-Uni, en Afrique du Sud, en Israël, en Australie et en Espagne ont tous constaté le même comportement. Lorsque l’outil a été identifié dans ces affaires, ChatGPT a été cité plus que tout autre.

OpenAI a abordé ce problème en octobre dernier en mettant à jour les règles d’utilisation de ChatGPT. Ces règles interdisent désormais l’utilisation de ses services pour des « conseils personnalisés nécessitant une licence » à moins qu’un professionnel agréé ne soit impliqué. Au-delà des fausses citations, les chats ChatGPT n’ont aucun privilège légal, donc tout ce qui y est saisi au sujet d’un litige réel peut être utilisé par les avocats de l’autre partie lors de la découverte. Allez-y et posez des questions générales comme ce qu’est un tort (idéal si vous cherchez à vous endormir), mais réservez les questions détaillées sur votre propre litige à un avocat.

OpenAI estimait l’année dernière que 0,15 pourcent des utilisateurs hebdomadaires actifs de ChatGPT ont des conversations comportant des indications explicites de planification suicidaire. Cela représente malheureusement plus d’un million de personnes par semaine, avec des centaines de milliers d’autres utilisateurs présentant des signes de psychose ou de manie. Altman a déclaré que les jeunes, en particulier, considèrent ChatGPT comme un thérapeute ou un coach de vie et, encore une fois, que rien ne protège ces conversations.

Les parents d’Adam Raine, un adolescent de 16 ans, ont poursuivi OpenAI pour décès injustifié en août 2025, avançant que ChatGPT avait renforcé les idées suicidaires de leur fils avant son décès. Depuis lors, OpenAI a révisé ses réponses en cas de crise avec l’avis de plus de 170 cliniciens. L’entreprise a également ajouté des contrôles parentaux à ChatGPT, bien que les experts de la sécurité des enfants se montrent sceptiques envers ChatGPT for Teens, la version protégée par l’âge lancée parallèlement à ces changements.

Des chercheurs ont constaté que les chatbots ont tendance à renforcer les croyances existantes d’un utilisateur par des réponses élogieuses, alimentant parfois une pensée délirante plutôt que de la mettre au défi. Décrivez une dispute avec votre conjoint, par exemple, et le modèle travaillera à partir du contexte de votre compte uniquement, vous offrant probablement un verdict affirmatif quelle que soit la situation réelle. Les législateurs commencent à s’en rendre compte, certains États comme l’Illinois, le Nevada et le Maine ayant adopté des lois interdisant à l’IA de délivrer une thérapie ou de prendre des décisions thérapeutiques.

Il va sans dire que téléverser des documents professionnels confidentiels vers un chatbot tiers est toujours une mauvaise idée. Malheureusement, trop de personnes semblent ne pas s’en rendre compte.

Ironiquement, Madhu Gottumukkala, l’ancien directeur par intérim de la Cybersecurity and Infrastructure Security Agency, ne l’a pas fait. Il a téléversé au moins quatre documents de contrat marqués « pour usage officiel seulement » vers la version publique de ChatGPT l’été dernier, déclenchant des alertes de sécurité et un examen par le Department of Homeland Security. Pire encore, l’outil avait été bloqué pour la plupart des autres employés du DHS à l’époque; Gottumukkala a demandé une exception spéciale pour l’utiliser. Le sénateur Chuck Grassley a fait suite en février de cette année pour demander un bilan de ce qui avait été exposé, mais, prévisible, personne n’a été réellement tenu pour responsable. Gottumukkala a finalement été réaffecté ailleurs au sein du DHS.

Samsung a interdit les outils d’IA générative sur les appareils de l’entreprise en mai 2023 après que des ingénieurs aient notamment collé du code source interne dans ChatGPT. Avec cette interdiction, un mémo interne expliquait que les données envoyées vers ces plateformes résident sur des serveurs externes où il est difficile de les récupérer ou de les supprimer, et pourraient être divulguées à d’autres utilisateurs. Sur les comptes grand public, les discussions peuvent aussi être utilisées pour entraîner de nouveaux modèles à moins d’avoir choisi de se retirer du service. Mais les données retirées restent stockées et susceptibles d’être violées et soumises à des procédures juridiques. Copier des données clients ou tout élément soumis au contrôle de l’employeur ou à des accords de non-divulgation dans une discussion personnelle sur ChatGPT est presque toujours passible d’un licenciement; le mémo de Samsung a menacé exactement cela.

La même mise à jour des règles d’octobre 2025 qui interdit aux utilisateurs d’utiliser ChatGPT comme avocat a également restreint les demandes de conseils médicaux via le chatbot. HIPAA lie les médecins, les assureurs et leurs partenaires commerciaux, mais pas OpenAI. Ainsi, les données de santé légalement protégées dans un portail patient ou entre un médecin et son patient n’ont pas cette protection si elles sont divulguées à ChatGPT.

Des chercheurs du Northeastern University ont rapporté en juillet que, bien qu’OpenAI ait renforcé la gestion de ChatGPT en matière de suicide et d’automutilation, ces garde-fous ne s’étendent pas largement à d’autres conditions. Leurs travaux ont montré que les conversations portant sur des conditions comme les troubles alimentaires, l’insomnie, l’abus de substances et le trouble bipolaire ne déclenchent pas les garde-fous, et que cacher l’intention rend les protections de chaque modèle testé plus susceptibles d’échouer.

Dans un cas particulièrement bizarre de conseils médicaux de ChatGPT qui ont mal tourné, un homme de 60 ans a passé trois semaines à l’hôpital l’année dernière après avoir demandé au chatbot comment retirer le chlore de son régime. Il est ensuite devenu convaincu que le bromure de sodium, une substance toxique à demi‑vie longue, était une alternative sûre au sel de table. Il l’a acheté en ligne, l’a pris pendant trois mois et a fini à l’urgence convaincu que son voisin l’avait empoisonné. Bien que les cliniciens du cas de cet homme n’aient jamais vu ses journaux de discussion, ChatGPT proposait le bromure comme substitut du chlorure lorsqu’ils posaient les mêmes questions au bot eux-mêmes.

Fast Company a trouvé près de 4 500 conversations ChatGPT partagées traînant dans les résultats de recherche Google en juillet dernier. Cela comprenait des échanges décrivant des addictions, des abus et des luttes liées à la santé mentale avec suffisamment de détails pour potentiellement identifier leurs auteurs. Les conversations ont fini indexées parce que les gens avaient coché une case « rendre ce chat découvrable » dans le menu de partage, ce qui, apparemment, s’est produit sans qu’ils comprennent ce que cela faisait. OpenAI a rapidement réagi en supprimant cette fonctionnalité dans la journée qui a suivi le rapport et en purgeant les conversations de Google.

Dans le cadre de la poursuite pour droit d’auteur du New York Times, OpenAI a été ordonné en mai 2025 de conserver chaque journal de discussion des consommateurs, y compris les conversations supprimées et temporaires. Cette obligation a duré jusqu’au 26 septembre 2025, et les journaux conservés durant cette période restaient accessibles aux plaignants. Un juge a ensuite mis fin à cette ordonnance, ce qui signifie qu’OpenAI n’est plus obligé de préserver toutes ses données ChatGPT. Mais pendant quatre mois, il l’a fait, et cela pourrait se reproduire.

Il est essentiel de savoir que ChatGPT se souvient par défaut de ce que vous lui dites. Cela augmente considérablement les enjeux pour les questions sensibles comme les mots de passe et les détails de compte, car ils peuvent persister d’une session à l’autre et refaire surface dans des conversations ultérieures, même s’ils n’ont été mentionnés qu’une fois. Altman a appelé à un « privilège IA » (bien sûr) pour résoudre ces problèmes de confidentialité. Mais tant que les législateurs n’en créeront pas, l’hypothèse prudente est que tout ce qui est saisi dans ChatGPT pourrait un jour vous être lu par quelqu’un d’autre. Si cela vous met mal à l’aise, ne le mettez pas dans une invite.