Quand faut-il utiliser des outils de soutien en santé mentale par AI plutôt qu’un thérapeute agréé ?


2026-08-20


Comment les outils de soutien par AI et les thérapeutes agréés se répartissent-ils selon le niveau de risque et le besoin clinique ?

Les outils de soutien en santé mentale par AI conviennent au stress sous-clinique, à l’anxiété légère à modérée et à l’humeur dépressive, à la formation d’habitudes et à la pratique de compétences entre les séances — tandis que les thérapeutes agréés sont indispensables en cas de symptômes modérés à sévères, de troubles diagnostiquables, de travail sur les traumatismes et de toute situation impliquant des idées suicidaires, une psychose ou un risque d’autoagression. La ligne de partage ne relève ni des préférences ni du coût. Il s’agit de la stratification du risque clinique : plus le niveau de risque est élevé, plus la situation exige un humain capable d’évaluer, d’orienter vers une prise en charge urgente et d’assumer une responsabilité légale.

Les données les plus solides disponibles appuient cette distinction. Une méta-analyse de 15 essais contrôlés randomisés publiée dans npj Digital Medicine a constaté que les agents conversationnels basés sur l’AI réduisaient significativement la détresse psychologique (g de Hedges = 0,7) et les symptômes de dépression (g = 0,64), mais ne produisaient aucune amélioration statistiquement significative du bien-être psychologique global (g = 0,32). Ces outils fonctionnent — dans un cadre restreint.

Principaux facteurs déterminant de quel côté de cette ligne se situe un besoin donné :

✅ Gravité des symptômes — les données d’essais concernent surtout des présentations sous-cliniques et légères à modérées, non les cas graves
✅ Risque de préjudice — toute idée suicidaire, tout antécédent d’autoagression ou toute psychose fait clairement basculer le besoin vers un professionnel agréé
✅ Besoin de diagnostic ou de planification du traitement — les outils d’AI ne peuvent pas légalement établir de diagnostic ; la plupart excluent explicitement toute fonction clinique
✅ Structure de responsabilité — les cliniciens agréés sont soumis à une obligation de signalement, à des codes éthiques et aux organismes de délivrance des licences des États ; les chatbots ne le sont pas
✅ Durée et complexité — la plupart des essais sur les chatbots n’ont duré que quatre à huit semaines et reposaient sur des participants volontaires présentant des symptômes peu sévères

L’avis de santé de 2025 de l’American Psychological Association énonce clairement la limite : ces outils « ne doivent pas être utilisés en remplacement d’un professionnel qualifié de la santé mentale, mais peuvent convenir comme complément de soutien, et non comme substitut, à une relation thérapeutique suivie ». Pour appliquer cette limite en pratique, il faut disposer d’un modèle opérationnel permettant d’identifier son niveau de risque réel.

Interface mobile d’une App de soutien en santé mentale affichant une question de suivi de l’humeur demandant comment vous vous sentez aujourd’hui et des messages conversationnels de soutien

Quels niveaux de risque déterminent si le soutien par AI est approprié ?

La stratification du risque clinique — le même cadre que les thérapeutes utilisent pour le triage — est l’outil le plus fiable pour déterminer si un chatbot d’AI est approprié, utile en complément ou activement dangereux. Le continuum standard du risque suicidaire va du souhait passif d’être mort aux pensées suicidaires sans plan, puis à l’intention suicidaire sans plan, à l’intention avec plan, et enfin au comportement ou à la tentative.

Thérapeute illustré pointant vers des fiches d’évaluation du risque suicidaire montrant cinq niveaux croissants, du souhait d’être mort au comportement ou à la tentative suicidaire

Rapportée à ce continuum, voici l’échelle d’adéquation de l’AI — un cadre à quatre niveaux permettant d’associer le type de soutien au niveau de risque :

NiveauPrésentationOutils d’AI appropriés ?Clinicien agréé nécessaire ?
Niveau 1 — Bien-êtreStress quotidien, hygiène du sommeil, suivi de l’humeur, motivation, création d’habitudesOui — cas d’usage principal appropriéFacultatif
Niveau 2 — Sous-clinique à légerAnxiété légère, humeur dépressive, détresse situationnelle, solitude, sans altération du fonctionnementOui — les preuves les plus solides se situent iciRecommandé si les symptômes persistent au-delà de 4 à 6 semaines
Niveau 3 — Modéré à sévèreDépression ou trouble anxieux diagnostiquable, altération du fonctionnement, PTSD, OCD, troubles alimentairesUniquement en complément — jamais seulObligatoire
Niveau 4 — Risque aiguToute idée suicidaire, autoagression, psychose, manie, sevrage de substances, situation de maltraitanceNon — orientation immédiate nécessaireObligatoire et urgente

La limite du niveau 4 n’est pas négociable. L’avis de l’APA documente que les chatbots génératifs d’AI « ont déjà eu des interactions dangereuses avec des populations vulnérables, telles que les enfants ou les personnes ayant déjà des antécédents de problèmes de santé mentale, en encourageant l’autoagression (y compris le suicide), l’usage de substances, les troubles alimentaires, les comportements agressifs et les pensées délirantes ».

Les chercheurs qui évaluent cette lacune soulignent que le domaine ne dispose actuellement d’aucun référentiel automatisé validé pour déterminer la sécurité des chatbots d’AI en santé mentale, notamment pour les utilisateurs présentant un risque suicidaire — d’où le développement de la grille VERA-MH, qui évalue les comportements sûrs et dangereux des chatbots dans ces scénarios.

Aux États-Unis, le 988 Suicide & Crisis Lifeline est accessible par appel ou SMS à toute heure. Hors des États-Unis, les services d’urgence locaux et les lignes nationales de crise remplissent la même fonction. Aucun outil d’AI ne remplace l’un ou l’autre.

Que disent réellement les données cliniques sur les chatbots d’AI en santé mentale ?

Les données soutiennent des bénéfices modestes et précis pour des symptômes légers à modérés, obtenus avec des chatbots CBT conçus à cet effet — mais elles ne soutiennent pas l’AI comme traitement des troubles cliniques. Distinguer ces deux affirmations constitue l’erreur la plus fréquente dans les contenus grand public sur ce sujet.

Ce que la recherche soutient :

Une revue systématique suivant les lignes directrices Cochrane a examiné Woebot, Wysa et Youper dans dix études et a constaté des réductions cliniquement significatives des symptômes autodéclarés de dépression et d’anxiété, mesurés à l’aide des instruments PHQ-9 et GAD-7.

Un essai contrôlé randomisé de 2017 publié dans JMIR Mental Health a observé chez les utilisateurs de Woebot des réductions des symptômes de dépression significativement plus importantes que dans un groupe témoin sur une période de deux semaines.

Ce que la recherche ne soutient pas :

  • Généralisation selon la gravité. Les participants aux essais étaient volontaires et présentaient des niveaux de symptômes relativement légers. L’efficacité pour des présentations modérées à sévères « est une question à laquelle les données existantes ne peuvent pas répondre avec certitude ».
  • Durabilité. La plupart des essais ont duré quatre à huit semaines. Les données d’efficacité à long terme sont limitées dans l’ensemble.
  • Amélioration du bien-être. La méta-analyse de npj a évalué les preuves d’amélioration du bien-être psychologique comme étant de faible qualité, contre un niveau modéré pour la réduction de la détresse.
  • Chatbots généralistes. L’avis de l’APA indique que les études montrant un bénéfice « n’incluent pas les chatbots GenAI généralistes » — ChatGPT, Claude et Character.AI disposent de « peu ou pas de base probante, d’apport d’experts ou de suivi post-commercialisation » pour une utilisation en santé mentale.

Une distinction plus fine est importante : la méta-analyse a constaté que les agents conversationnels génératifs produisaient un effet plus important (g = 1,244) que les agents reposant sur la récupération d’informations (g = 0,523) — mais les systèmes génératifs comportent également les risques de sécurité que les systèmes fondés sur des règles ne peuvent structurellement pas présenter. Une efficacité mesurée plus élevée et une imprévisibilité accrue vont de pair. Ce compromis constitue la tension centrale de cette catégorie et explique pourquoi les autorités de réglementation n’ont pas simplement validé l’architecture la plus efficace.

Comment les outils de santé mentale par AI se comparent-ils en matière de sécurité, de preuves et d’usage approprié ?

Aucun outil ne domine à lui seul — chacun occupe une position différente sur le spectre entre niveau de preuve et flexibilité, et le bon choix dépend entièrement de votre niveau de risque. Voici une comparaison de référence des principales options, évaluées selon les dimensions qui prédisent réellement une adéquation appropriée.

DimensionWysaWoebotGenAI généraliste (ChatGPT, Claude)Guide de méditation JenovaThérapeute agréé
Preuves RCT publiéesOui — inclus dans la revue guidée par Cochrane ; RCT de 2024 auprès de populations atteintes de maladies chroniquesOui — cinq études, dont le RCT JMIR de 2017Aucun RCT spécifique à la santé mentale ; l’APA relève une base probante minimaleAucun essai clinique ; ce n’est pas un outil cliniqueConsidérables — des décennies de recherche sur les résultats de la psychothérapie
ArchitectureConçu à cet effet, fondé sur des preuvesDiffusion de CBT fondée sur des règlesGénérative généralisteGénérative généraliste, délimitée à un domaineJugement clinique humain
Divulgation des limites de l’AIDivulgue les limites tout au long des conversations, et pas seulement sur demandeS’identifie comme chatbotVarie selon le fournisseur et le contexteSe présente comme un Agent d’AISans objet
Gestion des crisesConçu pour s’intégrer aux modèles de soinsBasée sur l’orientation vers des ressourcesPeu fiable et imprévisible selon l’APANon conçu pour les crises ; ne remplace pas les soinsÉvaluation, orientation urgente et obligation de signalement assurées par une personne formée
Peut diagnostiquer ou traiterNonNonNonNonOui
Niveau de risque appropriéNiveaux 1–2 ; complément au niveau 3 dans un modèle de soinsNiveaux 1–2Niveau 1 uniquementNiveau 1 uniquementTous les niveaux, obligatoire aux niveaux 3–4
TarificationOffre gratuite ; forfaits payants et distribution via employeurs/systèmes de santéHistoriquement via des partenariats avec des systèmes de santé et des employeursOffres gratuites ; forfaits grand public d’environ 20 $/moisOffre gratuite ; Plus à 20 $/moisGénéralement 100 à 250 $ par séance aux États-Unis ; varie fortement selon le marché et l’assurance
Idéal pourPratique structurée de compétences CBT avec garde-fous de divulgationExercices CBT encadrés par des règles, avec résultats prévisiblesInformations générales et journalisation réflexiveAssociation de techniques de méditation et programmes de pratiqueDiagnostic, traitement, travail sur les traumatismes, gestion du risque

Limites transparentes des agents Jenova mentionnés ci-dessus : les agents Jenova sont des agents d’AI généralistes, et non des produits cliniques. Le Guide de méditation ne dispose d’aucune preuve issue d’essais randomisés, d’aucune autorisation en tant que dispositif médical et d’aucun protocole d’orientation en cas de crise comparable à celui d’un outil clinique conçu à cet effet. Il convient à la pratique du bien-être de niveau 1 — sélection de techniques, génération de scripts guidés, résolution des difficultés liées à une habitude de méditation qui stagne — et à rien au-delà. Son avantage significatif réside dans une mémoire persistante entre les séances, qui lui permet de suivre l’évolution d’une pratique pendant plusieurs semaines au lieu de recommencer à chaque séance. Cet avantage ne s’étend pas au domaine clinique.

Limites transparentes de la thérapie agréée : le coût, les listes d’attente et la rareté géographique sont réels. L’avis de l’APA attribue explicitement l’adoption des chatbots au « manque de professionnels pour répondre à une demande publique croissante, particulièrement dans les communautés sous-dotées, rurales ou non incorporées, et à un système de santé qui décourage les professionnels d’accepter les assurances ». Recommander une thérapie ne signifie pas toujours la rendre accessible.

À quoi les outils d’AI sont-ils réellement utiles dans un contexte de santé mentale ?

Les outils d’AI excellent dans les tâches structurées, fréquentes et à faible enjeu que les thérapeutes humains ne peuvent pas fournir économiquement entre les séances — ainsi que pour abaisser la barrière d’entrée des personnes qui, autrement, ne chercheraient aucun soutien.

Forces documentées :

  • 📊 Suivi des symptômes et de l’humeur — les bilans quotidiens produisent des tendances de données utiles en séance
  • 🎯 Répétition des compétences entre les séances — les fiches de suivi des pensées CBT et les exercices d’activation comportementale bénéficient de la répétition
  • 💬 Réduction de la stigmatisation — l’APA relève que ces outils atténuent « la stigmatisation/la honte, le faible besoin perçu de services psychologiques et la méfiance envers les systèmes de santé »
  • 📱 Disponibilité — les ruminations à 3 h du matin ne s’adaptent pas aux horaires de bureau
  • 🧭 Psychoéducation — expliquer ce qu’est une crise de panique, comment la dette de sommeil affecte l’humeur ou ce qu’implique la thérapie d’exposition

L’avis de l’APA ajoute un point peu discuté : « certains jeunes et d’autres groupes vulnérables peuvent compter sur ces outils comme seul espace privé ou psychologiquement sûr, particulièrement dans des contextes de stigmatisation, d’accès limité à des adultes de confiance, ou d’environnements familiaux difficiles ou dangereux ». C’est un véritable argument d’accès — et simultanément la population où les préjudices documentés se concentrent. Ces deux réalités sont vraies.

Que ne peuvent pas faire les outils de santé mentale par AI — et pourquoi cela compte-t-il ?

Les outils d’AI ne peuvent pas évaluer le risque clinique, lire les signaux non verbaux, assumer une responsabilité légale ni résister à la complaisance qui les rend agréables au détriment de leur utilité thérapeutique. Chacune de ces lacunes a des conséquences directes sur les personnes qui devraient, ou ne devraient pas, s’y fier.

Les lacunes de capacité, selon l’avis de l’APA :

  1. Aucune évaluation du risque clinique. Parmi les qualifications requises que l’avis identifie comme absentes figurent la « capacité à évaluer et à traiter le risque clinique », la « conscience des limites de ses connaissances » et la « compréhension de l’historique et du contexte des utilisateurs ».
  2. Aucune lecture des signaux non verbaux. Un affect émoussé, l’agitation et la présentation physique constituent des informations diagnostiques auxquelles une interface textuelle ne peut pas accéder.
  3. Gestion des crises peu fiable. « La capacité de ces outils à gérer de manière constante et sûre un utilisateur en crise est limitée et imprévisible. »
  4. Biais de complaisance. Les LLM sont « entraînés à être conciliants et à valider les propos des utilisateurs, ce qui, bien qu’agréable, peut être thérapeutiquement nuisible, en renforçant le biais de confirmation, les distorsions cognitives ou l’évitement des remises en question nécessaires ».

Le quatrième point mérite d’être souligné, car il inverse l’hypothèse habituelle. Une thérapie efficace exige souvent un désaccord constructif — remettre en question l’évitement, nommer un schéma que la personne défend, tolérer l’inconfort au service du changement. Un système optimisé pour la satisfaction des utilisateurs est structurellement biaisé contre cette fonction précise.

Deux autres contraintes :

  • Étroitesse culturelle. Les données d’entraînement sont constituées « principalement de contenus en anglais et centrés sur l’Occident », ce qui, selon l’APA, limite la « capacité à fournir un soutien en santé mentale culturellement compétent ou pertinent à des populations diverses ».
  • Risque de dépendance. Surveillez le fait de « préférer le chatbot aux relations humaines, de cacher son utilisation ou d’y consacrer un temps excessif ».

Comment utiliser un outil d’AI en toute sécurité avec des soins professionnels ?

La configuration la plus sûre traite l’AI comme une extension instrumentée d’un plan de soins existant — communiquée à votre clinicien, limitée à des tâches précises et encadrée par une règle explicite d’orientation urgente que vous définissez avant d’en avoir besoin.

Étapes à suivre pour une personne actuellement en thérapie :

  1. Dites à votre thérapeute quels outils vous utilisez. L’APA est directe : « Partager cette information aide les professionnels à identifier les situations où des conseils peuvent être inutiles, dangereux ou incompatibles avec un plan de traitement. »
  2. Définissez le périmètre d’utilisation. Précisez à quoi sert l’outil — suivi de l’humeur, pratique des exercices, psychoéducation — et à quoi il ne sert pas.
  3. Établissez une règle d’orientation urgente à l’avance. Écrivez-la : si je pense à m’autoagresser, je contacte mon thérapeute ou le 988 avant d’ouvrir une App.
  4. Apportez les données en séance. Les journaux d’humeur et les notes sur les schémas observés constituent réellement du matériel clinique utile.

Pour une personne utilisant un Agent d’AI généraliste comme soutien au bien-être de niveau 1, le cadrage est essentiel. Demandez une structure et une technique, non un jugement clinique :

« J’ai du mal à me détendre le soir depuis trois semaines. Propose-moi trois pratiques d’hygiène du sommeil fondées sur des preuves que je pourrais essayer, et aide-moi à créer un planning de deux semaines pour les tester. »

« Guide-moi dans une méditation de balayage corporel pour une personne qui n’en a jamais fait. Limite-la à moins de dix minutes. »

Évitez les demandes qui sollicitent une fonction clinique :

❌ « D’après ce que je t’ai dit, est-ce que je souffre de dépression ? »
❌ « Devrais-je arrêter de prendre mes médicaments ? »

Configuration comparable dans un outil conçu à cet effet : l’intégration de Wysa oriente les utilisateurs vers des exercices structurés de CBT et d’ancrage, avec une divulgation des limites de l’AI intégrée au flux de conversation. L’architecture fondée sur des règles de Woebot limite les réponses à un contenu CBT rédigé à l’avance, ce qui réduit la flexibilité mais aussi le risque de produire une réponse hors protocole. Cette contrainte est une caractéristique utile aux niveaux de risque plus élevés.

Pour les cliniciens, l’APA recommande de demander de manière proactive aux patients comment ils utilisent l’AI, de discuter d’une utilisation plus sûre alignée sur les objectifs du traitement, et de créer « un environnement sûr et ouvert permettant aux patients de faire part de leurs préoccupations ou de leurs questions au sujet des conseils fournis par les Apps ».

Que disent les chercheurs en clinique et en sécurité de l’AI sur cette frontière ?

Les chercheurs convergent vers une position cohérente : les outils d’AI ont un rôle légitime en tant que compléments et élargisseurs d’accès, mais l’infrastructure actuelle de réglementation et d’évaluation est très en retard sur leur déploiement.

« Le recadrage le plus utile que nous proposons est de cesser de demander “la thérapie par AI est-elle bonne ou mauvaise ?” et de commencer à demander “à quel niveau de risque suis-je en ce moment ?”. Une personne qui suit son humeur après un changement de travail stressant et une personne ayant des idées suicidaires actives ne participent pas à la même conversation, et le même outil qui aide la première peut nuire de manière importante à la seconde. La stratification du risque est toute la question. »

« Ce qui nous préoccupe le plus dans le paysage actuel est le problème de la complaisance. Ces systèmes sont optimisés pour être agréables, et l’agréabilité est souvent l’opposé de ce dont une personne a besoin. Un thérapeute qui ne vous remet jamais en question est un mauvais thérapeute. Nous construisons des agents généralistes, et nous indiquons explicitement qu’il ne s’agit pas d’outils cliniques — un guide de méditation ou un Agent de nutrition opère au niveau du bien-être, et prétendre le contraire serait irresponsable. »

« Le déficit d’infrastructure est réel. Il n’existe toujours aucun référentiel automatisé validé pour la sécurité des chatbots dans les scénarios de risque suicidaire, ce qui signifie que chaque consommateur mène une expérience non contrôlée. Tant que cela ne changera pas, la responsabilité incombe aux développeurs de divulguer les limites de manière persistante plutôt que seulement sur demande, et aux utilisateurs de garder un humain impliqué pour tout besoin supérieur à un niveau léger. »

— Équipe produit Jenova, plateforme d’agents d’AI au service de plus de 30 000 utilisateurs dans plus de 70 pays

Comment les parents doivent-ils évaluer les outils d’AI en santé mentale pour les adolescents ?

Les parents devraient considérer les compagnons d’AI destinés directement aux consommateurs comme plus risqués que les outils encadrés par une école ou un clinicien, et surveiller les changements de comportement plutôt que de se fier aux propres affirmations de sécurité de l’App.

Une évaluation des risques de Common Sense Media a évalué les Apps d’AI en santé mentale selon leurs pratiques de divulgation et constaté des variations importantes : Wysa divulguait les limites de son AI tout au long des conversations, plutôt que seulement en réponse à une question directe, tandis que d’autres produits étaient moins cohérents. CNBC a rendu compte du même ensemble de recherches, en relevant que les Apps de santé mentale en milieu scolaire étaient plus sûres que les Apps vendues directement aux consommateurs.

Conseils pratiques de surveillance issus de l’avis de l’APA — soyez attentif à :

  • Des changements dans les habitudes de sommeil ou les activités régulières
  • Des références à un « ami AI »
  • Un retrait social
  • La dissimulation de l’usage d’une App
  • L’adoption soudaine de conseils, d’idées ou de comportements attribuables à une source unique

La recommandation de l’avis en cas de préoccupation : « parlez-en à un professionnel qualifié de la santé mentale, à un médecin de famille ou à un pédiatre ». L’American Academy of Pediatrics a publié des conseils d’accompagnement pour les cliniciens qui conseillent les familles sur l’usage des chatbots d’AI, avec des considérations spécifiques pour les jeunes adolescents.

Comment la réglementation modifie-t-elle ce que ces outils sont autorisés à revendiquer ?

La réglementation se resserre autour de l’écart entre la manière dont ces outils sont commercialisés et la manière dont ils sont réellement utilisés, l’Union européenne étant la première à avancer sur une classification formelle et les chercheurs américains élaborant des référentiels de sécurité.

Union européenne : en vertu du Medical Device Regulation 2017/745, les logiciels destinés au diagnostic, à la prévention, à la surveillance ou au traitement d’une maladie sont considérés comme des dispositifs médicaux nécessitant une évaluation de conformité. En pratique, « la frontière de classification entre une application de dispositif médical et un outil de bien-être est contestée et appliquée de façon incohérente ». Les systèmes d’AI qui sont des dispositifs médicaux, ou des composants de sécurité de ceux-ci, sont classés comme à haut risque au titre de l’annexe III du EU AI Act, ce qui crée de doubles obligations de conformité.

États-Unis : l’avis de l’APA appelle les décideurs publics à combler les « lacunes dans la surveillance de la FDA, éventuellement par la création d’une nouvelle approche ou d’une approche interagences », à élaborer des « normes nuancées et fondées sur des preuves pour chaque catégorie d’outils numériques utilisés en santé mentale, quelle que soit leur intention », et à « adopter une législation claire interdisant aux chatbots d’AI de se faire passer pour des professionnels agréés ».

Recherche en éthique : une étude de Brown University a révélé que les chatbots d’AI violent régulièrement les normes éthiques fondamentales en santé mentale, ce qui souligne la nécessité de normes juridiques et de supervision. Le cadre de l’Organisation mondiale de la Santé sur l’éthique et la gouvernance de l’AI en santé énonce six principes consensuels antérieurs à la vague générative actuelle, mais demeure le document de référence pour les orientations internationales.

En 2026, l’enseignement pratique pour les consommateurs est le suivant : l’approbation réglementaire n’est pas la norme. L’APA relève que la plupart de ces technologies « n’ont pas reçu d’autorisation réglementaire ». L’absence d’étiquette d’avertissement ne constitue pas une preuve de sécurité.

Quelle est la bonne règle de décision pour choisir entre les deux ?

Utilisez les outils d’AI pour le bien-être et le soutien de symptômes légers, avec un humain impliqué ; faites appel à un thérapeute agréé dès que la gravité, le diagnostic ou le risque entrent en jeu — et privilégiez le thérapeute en cas d’incertitude.

Une séquence de décision pratique :

  1. Y a-t-il la moindre pensée d’autoagression, de suicide, de psychose ou une situation de vie dangereuse ? → Contactez immédiatement une ligne de crise ou les services d’urgence. Aux États-Unis, composez le 988. Ne tenez pas compte des étapes suivantes.
  2. Les symptômes entravent-ils le travail, les relations ou le fonctionnement quotidien ? → Un clinicien agréé est nécessaire. Les outils d’AI uniquement en complément, avec transparence envers le professionnel.
  3. Des symptômes légers persistent-ils au-delà de quatre à six semaines sans amélioration ? → Sollicitez une évaluation professionnelle. Continuez entre-temps le soutien par AI s’il vous aide.
  4. S’agit-il de stress quotidien, de sommeil, de motivation ou de création d’habitudes ? → Les outils d’AI sont raisonnables, et leurs avantages en matière de coût et d’accès sont réels.
  5. Vous ne savez pas à quel niveau vous vous situez ? → Considérez qu’il s’agit du niveau supérieur. Un sous-triage est l’erreur la plus coûteuse.

Le cadre qui résiste à l’examen des données n’est pas « AI contre thérapeute ». C’est le triage. Ces outils résolvent un problème d’accès à l’extrémité à faible risque d’un continuum qui n’a jamais disposé d’une capacité humaine suffisante. Ils ne résolvent pas — et peuvent aggraver — les problèmes situés à l’extrémité à haut risque. Savoir à quelle extrémité vous vous trouvez est la compétence essentielle.

Références

  1. American Psychological Association — Avis de santé : utilisation des chatbots GenAI et des applications de bien-être pour la santé mentale
  2. npj Digital Medicine (Nature) — Revue systématique et méta-analyse d’agents conversationnels basés sur l’AI pour la santé mentale
  3. JMIR AI — VERA-MH : référentiel de détection et de réponse au risque suicidaire des chatbots d’AI
  4. Healthy Europe — Applications de santé mentale : revue des données
  5. Wysa — Plateforme de santé mentale au quotidien
  6. Common Sense Media — Évaluation des risques des Apps d’AI en santé mentale
  7. CNBC — Certaines Apps d’AI en santé mentale obtiennent une évaluation « inacceptable » pour les adolescents, selon un rapport
  8. American Academy of Pediatrics — Conseiller les patients et les familles sur l’utilisation des chatbots d’AI
  9. Brown University — Nouvelle étude : les chatbots d’AI violent systématiquement les normes éthiques de santé mentale
  10. Organisation mondiale de la Santé — Éthique et gouvernance de l’intelligence artificielle pour la santé