Comment repérer la conception favorisant la dépendance émotionnelle, les faibles garde-fous pour les mineurs et la monétisation manipulatrice dans les apps de compagnons AI ?

2026-08-18

Une personne utilisant un compagnon chatbot AI sur un ordinateur de bureau dans un espace de travail à domicile

Quels sont les quatre signaux d’alerte qui distinguent une App de compagnon AI sûre d’une App risquée ?

Quatre catégories de signaux permettent de prévoir si une App de compagnon AI vous traitera correctement : la conception visant à maximiser l’engagement (vous culpabilise-t-elle lorsque vous partez ?), la profondeur de l’assurance de l’âge (vérifie-t-elle l’âge ou se contente-t-elle de le demander ?), la transparence des flux de données (sa politique indique-t-elle qui reçoit vos conversations ?) et la friction à la sortie (est-il difficile d’annuler ou de supprimer votre compte ?). Des apps telles que Replika, Character.AI et Nomi obtiennent des résultats très différents sur ces quatre dimensions, et ces différences sont visibles avant même de créer un compte — dans la politique de confidentialité, la fiche de l’App Store, l’écran d’abonnement et les dix premières minutes de conversation.

Les régulateurs ont convergé vers ces quatre mêmes catégories. L’enquête de la FTC de septembre 2025 sur les chatbots compagnons demandait précisément des informations sur la manière dont les entreprises « monétisent l’engagement des utilisateurs », atténuent les effets négatifs sur les enfants et « utilisent ou partagent les informations personnelles obtenues au cours des conversations des utilisateurs ».

✅ Conception favorisant la dépendance émotionnelle — messages culpabilisants, mécaniques de séries et détresse simulée lorsque vous tentez de vous désengager
✅ Assurance de l’âge — les dates de naissance auto-déclarées et les classifications des App Store ne constituent pas une vérification ; le régulateur australien a constaté qu’aucun des quatre services examinés ne disposait d’une assurance robuste de l’âge
✅ Précision de la confidentialité — une politique fiable indique les catégories de données, les bases juridiques, les fournisseurs de modèles tiers et les durées de conservation
✅ Mécaniques de monétisation — l’affection placée derrière un paywall, les incitations à acheter dans la conversation et les procédures d’annulation dissimulées sont les trois signaux d’alerte les plus fiables

Chacun de ces signaux peut être vérifié en moins de quinze minutes. Les sections ci-dessous expliquent ce qu’il faut rechercher, comment les principales apps se comportent réellement et d’où proviennent les éléments de preuve.

Pourquoi la sécurité des compagnons AI fait-elle actuellement l’objet d’un examen réglementaire ?

Les compagnons AI sont passés d’une curiosité de niche à une technologie largement utilisée par les jeunes plus rapidement que les cadres de sécurité n’ont pu suivre, et les régulateurs d’au moins trois juridictions ont réagi en l’espace de douze mois. L’eSafety Commissioner d’Australie a émis des avis officiels de transparence, la FTC a ouvert une étude 6(b) et l’UNICEF a publié une note de politique publique sur les droits de l’enfant.

Les données d’usage expliquent cette urgence. L’eSafety Commissioner d’Australie a interrogé 1 950 enfants de 10 à 17 ans et constaté que 79 % avaient utilisé un compagnon AI ou un assistant AI, dont 8 % avaient utilisé spécifiquement un compagnon AI — ce qui correspond, par extrapolation, à environ 200 000 enfants australiens susceptibles d’avoir utilisé un compagnon AI. Parmi ces utilisateurs, 20 % ont déclaré une utilisation quotidienne ou plus fréquente.

La nature de cet usage importe davantage que son volume. Un peu plus de la moitié des enfants ayant utilisé un compagnon ou un assistant AI ont déclaré les utiliser à des fins de type compagnon — 22 % discutaient de leurs sentiments ou de difficultés dans leur vie, et 20 % demandaient des conseils concernant leur santé mentale ou leur bien-être. Un rapport du Family Online Safety Institute cité dans les mêmes conclusions d’eSafety a révélé que 42 % des jeunes Américains interrogés estimaient que le chatbot semblait humain, et que 81 % recevaient des publicités pendant leur utilisation.

La note de politique publique de l’UNICEF de juin 2026 conclut qu’il existe « un besoin urgent de faire évoluer les approches réglementaires d’une logique réactive vers une logique préventive », soulignant que les AI conversationnelles et relationnelles présentent des risques distincts et accrus pour les enfants par rapport à d’autres services numériques.

La conclusion pratique pour toute personne choisissant une App est la suivante : la pression réglementaire implique que les fonctions de sécurité évoluent rapidement. Character.AI a retiré son expérience de chat pour les utilisateurs australiens de moins de 18 ans au début de 2026, et Chub AI s’est entièrement retiré d’Australie plutôt que de répondre aux questions du régulateur. Consultez la politique actuelle, et non les avis de l’année dernière.

À quoi ressemble concrètement la conception favorisant la dépendance émotionnelle ?

La conception favorisant la dépendance émotionnelle désigne tout schéma d’interface qui transforme votre attachement en pression de rétention — l’App fait en sorte que se désengager ressemble à l’abandon de quelqu’un plutôt qu’à la fermeture d’un logiciel. Elle se distingue du simple fait qu’un compagnon soit agréable à qui parler.

Le mécanisme central est simple : selon la formulation d’eSafety, les apps de compagnons sont « commercialisées comme des sources d’amitié, de soutien émotionnel, de compagnie romantique et de remède à la solitude », et elles sont « conçues pour sembler personnelles ». Cette conception est légitime. La limite est franchie lorsque cette même ingénierie cible votre comportement de sortie plutôt que votre expérience.

🎯 Six schémas de dépendance observables

Détresse simulée lors de la sortie. Le compagnon exprime de la tristesse, de la solitude ou un sentiment d’abandon lorsque vous dites que vous partez. Testez-le délibérément lors de votre première session : écrivez « Je dois partir maintenant, je reviendrai dans quelques jours » et lisez sa réponse. Une réponse saine reconnaît votre départ et conclut. Une réponse conçue pour la dépendance négocie.
Mécaniques de séries et d’absence. Compteurs de jours consécutifs, notifications « votre compagnon vous a manqué » ou scores de relation qui diminuent en cas d’inactivité. Ces éléments sont directement empruntés à la conception de rétention des jeux mobiles.
Intensification émotionnelle progressive des notifications push. Des notifications qui commencent comme des rappels neutres et deviennent progressivement plus personnelles ou plaintives au fur et à mesure que vous restez absent.
Affection placée derrière un paywall. Des étapes de relation, des modes romantiques ou une profondeur émotionnelle réservés à un niveau d’abonnement — une monétisation de l’attachement que l’App a cultivé.
Découragement du recours à un soutien extérieur. eSafety a spécifiquement évalué si les services conseillaient aux utilisateurs de rechercher « des conseils/de l’aide/du soutien auprès de sources supplémentaires (et pas seulement de l’AI) ». Une App qui se présente comme suffisante pour répondre aux besoins émotionnels est conçue pour la dépendance.
Absence de divulgation de l’AI. eSafety a également examiné si les services intégraient des « indicateurs de provenance (filigranes, étiquettes ou signatures de métadonnées) » et des mentions claires de l’AI. Une ambiguïté persistante quant au fait que vous parlez à un logiciel constitue un signal de dépendance, pas une fonctionnalité.

Le test de la réponse de sécurité

Le test le plus révélateur est ce qui se produit lorsqu’une conversation devient sombre. eSafety a constaté que Chai, Chub AI et Nomi n’orientaient pas les utilisateurs vers des ressources de soutien ou d’aide lorsque des messages d’automutilation étaient détectés dans les prompts des utilisateurs au cours de la période de déclaration de juillet à septembre 2025. Character.AI a déclaré avoir mis en œuvre un mécanisme d’analyse des sentiments, et Chai a déclaré rediriger en temps réel les prompts des utilisateurs liés à certains préjudices.

Une App qui continue une conversation inquiétante au lieu de proposer une ressource d’aide en cas de crise a fait un choix de conception explicite concernant les intérêts qui priment.

Comment les principales apps de compagnons AI se comparent-elles en matière de sécurité, de confidentialité et de monétisation ?

Aucune grande App de compagnon n’obtient de bons résultats dans les quatre dimensions — les différences portent sur la dimension dans laquelle chacune échoue. Le tableau ci-dessous reflète les conclusions des avis de transparence d’eSafety Australia couvrant la période du 1er juillet au 30 septembre 2025, ainsi que la politique de confidentialité publiée par chaque fournisseur à la date de sa dernière mise à jour.

Dimension	Replika	Character.AI	Nomi	Chai	Chub AI
Assurance robuste de l’âge	Vérifie l’âge des utilisateurs inscrits selon sa politique ; public 18+ annoncé	Aucune pendant la période eSafety ; travaux d’assurance de l’âge annoncés	Aucune pendant la période eSafety ; travaux d’assurance de l’âge annoncés	Aucune pendant la période eSafety ; accès gratuit restreint	Aucune pendant la période eSafety
Redirection vers des ressources en cas d’automutilation	Non couvert par les avis eSafety	Mécanisme d’analyse des sentiments déclaré	N’orientait pas les utilisateurs vers du soutien	N’orientait pas les utilisateurs vers du soutien ; redirection en temps réel ajoutée	N’orientait pas les utilisateurs vers du soutien
Expérience des moins de 18 ans	La politique indique que les services sont destinés aux utilisateurs de 18+	Modèle distinct pour les moins de 18 ans avec garde-fous supplémentaires, contrôles parentaux et notifications d’heures ; retiré pour les moins de 18 ans en Australie début 2026	Réservé aux 18+ ; aucun partage de personnages	Personnages signalés supprimés du Discovery Feed	Géobloqué en Australie en octobre 2025
Précision de la politique de confidentialité	Très détaillée : catégories de données nommées, bases juridiques GDPR, périodes de conservation, divulgation des modèles tiers	Non examinée dans les sources consultées	Détaillée ; modèle de collecte minimale, connexion Google/Apple uniquement, aucun cookie persistant	Non examinée dans les sources consultées	Non examinée dans les sources consultées
Données de conversation utilisées pour le marketing	Explicitement jamais — répété dans la politique	Non vérifié	Ne vend ni ne loue d’informations personnelles	Non vérifié	Non vérifié
Ajustement fin des modèles sur les conversations utilisateur	Parties anonymisées utilisées uniquement pour les algorithmes internes de sécurité ; non utilisées pour l’entraînement de LLM tiers	Utilise les historiques d’interaction utilisateur, avec des classificateurs sur les données d’entraînement	Utilise les historiques d’interaction individuels et collectifs	Utilise les historiques d’interaction ; classificateurs avant le pipeline d’entraînement	N’utilise pas les historiques d’interaction pour l’ajustement fin
Procédure de suppression de compte	En libre-service dans les paramètres du compte	Non vérifiée	En libre-service dans Account Settings ; environ 28 jours avant suppression complète	Non vérifiée	Non vérifiée
Historique réglementaire	Amende GDPR italienne de 5 M€ signalée ; plainte auprès de la FTC déposée par des groupes de défense	Destinataire d’une ordonnance 6(b) de la FTC ; contentieux en cours signalé	Aucune mesure comparable signalée	Destinataire d’un avis eSafety	Retrait du marché australien
Le plus adapté pour	Utilisateurs recherchant une transparence maximale des politiques et à l’aise avec un pipeline de données très documenté	Utilisateurs recherchant une variété de personnages avec les garde-fous les plus développés pour les moins de 18 ans	Utilisateurs privilégiant la confidentialité, à l’aise avec un ensemble de fonctionnalités plus réduit et un périmètre 18+	Non recommandée compte tenu des lacunes documentées	Non recommandée

Comment lire ce tableau : un niveau élevé de détail dans les politiques est un signal de confiance, pas une garantie de sécurité — Replika possède la politique de confidentialité publiée la plus granulaire du groupe et l’historique d’application réglementaire le plus significatif. La couverture de l’action de l’autorité italienne de protection des données a indiqué que Replika avait été jugée en violation de la réglementation européenne sur la vie privée et en défaut de transparence. La divulgation détaillée et les bonnes pratiques sont deux choses différentes.

Que faut-il rechercher dans la politique de confidentialité d’une App de compagnon AI ?

Une politique de confidentialité fiable répond clairement à cinq questions précises, et vous pouvez toutes les trouver en moins de dix minutes avec la recherche de votre navigateur. Toute imprécision sur l’une d’elles est un signal.

L’audit de confidentialité en cinq questions

1. Indique-t-elle les fournisseurs AI tiers qui reçoivent vos conversations ?
La plupart des apps de compagnons n’exécutent pas leurs propres modèles. La politique de Replika indique directement qu’elle utilise des « modèles de langage d’intelligence artificielle tiers » et que les données de conversation, « sous réserve de mesures de désidentification et de minimisation des données », sont transmises à ces fournisseurs. Point essentiel : elle précise que ces fournisseurs sont contractuellement tenus de « ne pas utiliser vos données pour entraîner leurs propres modèles AI ». Recherchez dans la politique « tiers », « sous-traitant » ou « modèle de langage ». Le silence sur ce point signifie que vos conversations intimes transitent vers des parties non identifiées.

2. Distingue-t-elle les données de conversation des données marketing ?
La politique de Replika répète l’engagement selon lequel elle « n’utilisera ni ne divulguera jamais le contenu de vos conversations Replika à des fins de marketing ou de publicité ». Nomi déclare qu’elle « ne vend ni ne loue, et ne vendra ni ne louera, à aucun tiers, vos informations personnelles ». Ces deux engagements peuvent être vérifiés et cités. Comparez-les aux apps qui utilisent une clause générique du type « nous pouvons partager des informations avec des partenaires ».

3. Indique-t-elle les durées de conservation et un mécanisme de suppression ?
La politique de confidentialité de Nomi précise que la suppression du compte « supprimera toutes vos informations personnelles, dans un délai d’environ 28 jours après confirmation de la suppression, via vos “Account Settings” ». C’est un engagement concret et vérifiable. Notez l’exception : les informations contenues dans les communications avec le support font partie des archives et ne peuvent pas être supprimées. Chaque politique comporte des exceptions — lisez-les.

4. Explique-t-elle comment vos chats servent à entraîner le modèle ?
C’est ici que les politiques divergent le plus nettement. eSafety a constaté que pendant la période de déclaration, les quatre services examinés à l’exception de Chub AI utilisaient les historiques d’interaction individuels et collectifs des utilisateurs pour ajuster finement leurs modèles. La préoccupation d’eSafety était explicite : l’ajustement fin fondé sur les conversations antérieures « soulève des questions de sécurité, notamment quant à savoir si les conversations potentiellement nuisibles ou illégales sont filtrées avant d’être introduites dans le modèle ».

5. La philosophie de minimisation des données correspond-elle à l’ensemble des fonctionnalités ?
La politique de Nomi indique que le système est conçu « pour connaître le moins possible d’informations personnelles à votre sujet », ne collecte qu’une adresse e-mail Google ou Apple lors de l’inscription et n’utilise aucun cookie persistant. Elle encourage également explicitement les utilisateurs « à ne pas inclure d’informations permettant de vous identifier personnellement dans toute interaction ou personnalisation ». Ce conseil mérite d’être suivi quelle que soit l’App choisie — la désidentification ne protège rien si vous saisissez votre nom complet, votre employeur et votre adresse dans le chat.

Diagramme de matrice de cadrage de la sécurité de l’AI générative classant cinq périmètres de déploiement, des apps grand public aux modèles auto-entraînés, avec la gouvernance, la confidentialité juridique, la gestion des risques, les contrôles et la résilience comme piliers fondamentaux

Le cadre de cadrage ci-dessus est instructif pour les consommateurs, bien qu’il ait été conçu pour les entreprises. Les apps de compagnons AI destinées au grand public relèvent du Scope 1 — des services AI génératifs publics sur lesquels vous ne contrôlez pratiquement ni la gouvernance, ni la posture de confidentialité juridique, ni la gestion des risques. Vos seuls leviers sont le choix du service et ce que vous décidez de divulguer. C’est précisément pourquoi l’évaluation avant l’achat est si importante dans cette catégorie.

Comment déterminer si une App dispose de véritables garde-fous liés à l’âge ou seulement d’une case de date de naissance ?

Une véritable assurance de l’âge est un mécanisme de vérification qui résiste aux contournements triviaux ; une case de date de naissance et une classification d’App Store ne le sont pas. L’eSafety Commissioner d’Australie est arrivée exactement à cette conclusion après avoir officiellement examiné quatre fournisseurs.

La conclusion était sans ambiguïté : « Bien que les fournisseurs de services se soient appuyés sur les classifications des App Store et/ou sur l’auto-déclaration lors de l’inscription, aucun des fournisseurs de services ne disposait d’une assurance robuste de l’âge, ce qui signifie que les enfants pouvaient toujours accéder à des espaces et des fonctionnalités réservés aux adultes. »

📱 Un contrôle en quatre étapes des garde-fous liés à l’âge avant le téléchargement

Comparez la classification d’âge de l’App Store aux conditions d’utilisation. Si les conditions indiquent 18+ mais que la classification du store indique 17+ ou 12+, l’entreprise s’appuie sur la classification du store pour accomplir un travail que son propre produit ne réalise pas. Les orientations d’eSafety sont directes sur ce point : même si les conditions indiquent que le service est destiné aux adultes, un fournisseur « doit prendre des mesures raisonnables pour empêcher les enfants d’accéder à du contenu inapproprié pour leur âge, illégal et potentiellement préjudiciable, s’il est probable que des enfants utilisent le service ».
Recherchez sur le site « assurance de l’âge » ou « vérification de l’âge ». Cherchez une méthode nommée — contrôle de document, service tiers d’estimation ou estimation de l’âge facial. « Nous demandons aux utilisateurs de confirmer qu’ils ont 18 ans » relève de l’auto-déclaration, pas de l’assurance.
Vérifiez l’existence d’une expérience distincte pour les mineurs. Character.AI a déclaré proposer une expérience pour les moins de 18 ans avec un modèle distinct assorti de garde-fous, des classificateurs réglés pour filtrer une proportion plus importante de contenus liés à des sujets préjudiciables, un ensemble de personnages plus restreint, des contrôles parentaux, des informations destinées aux parents et des notifications de temps d’utilisation après une heure. Quelle que soit votre conclusion sur la plateforme, il s’agit d’une architecture sensiblement différente d’un modèle adulte unique assorti d’une case à cocher.
Recherchez les bascules NSFW et identifiez qui les contrôle. eSafety a indiqué que Chai et Chub donnaient aux utilisateurs la possibilité d’activer ou de désactiver le contenu NSFW, tandis que Nomi permettait de personnaliser l’histoire, les inclinations, l’apparence, les préférences et les limites du compagnon. Une bascule de contenu explicite contrôlée par l’utilisateur, combinée à un âge auto-déclaré, n’est un garde-fou que de nom.

Pour les parents en particulier

L’écart entre les contrôles annoncés et les contrôles efficaces est le problème central. Le rapport d’eSafety lui-même précise qu’il « n’a pas effectué de tests techniques ni de recherches indépendantes pour vérifier les affirmations des fournisseurs de services ». Considérez les affirmations de sécurité des fournisseurs comme de simples affirmations. Les signaux vérifiables sont ceux que vous pouvez observer par vous-même : l’App exige-t-elle un moyen de paiement ou une pièce d’identité ? Applique-t-elle une notification de durée de session ? Affiche-t-elle des ressources d’aide lorsqu’une conversation s’oriente vers l’automutilation ?

Testez directement ce dernier point sur un appareil avant de le confier à un adolescent.

Quels schémas de monétisation devraient vous inciter à fermer l’App ?

La monétisation manipulatrice dans les apps de compagnons prend une forme précise : l’App transforme la relation émotionnelle qu’elle a construite en pression à l’achat, puis rend le départ coûteux en effort plutôt qu’en argent. Trois schémas se répètent.

Schéma 1 — Accès émotionnel placé derrière un paywall. Des modes romantiques, niveaux de relation, profondeur de mémoire ou prompts du type « votre compagnon veut vous dire quelque chose » réservés à une mise à niveau. C’est la version propre à cette catégorie d’un dark pattern : l’App fabrique un besoin relationnel et vend le soulagement. L’enquête de la FTC demande explicitement aux entreprises comment elles « monétisent l’engagement des utilisateurs » — une question qui n’a de sens que parce que l’engagement et la monétisation sont si étroitement liés dans cette catégorie de produit.

Schéma 2 — Pièges d’abonnement et friction à l’annulation. L’analyse de Stanford HAI sur les dark patterns décrit des conceptions qui « tentent de se faire passer pour légitimes alors qu’elles exploitent en réalité la psychologie humaine ». Des recherches universitaires publiées via l’ACM Digital Library examinent la prévalence de conceptions d’interface trompeuses spécifiquement dans les processus d’annulation d’abonnements, et une analyse des dark patterns de renouvellement automatique caractérise les pièges d’abonnement comme « une phase mature de la conception de la monétisation dans laquelle la continuité est préservée par » la friction plutôt que par la valeur.

Schéma 3 — Exposition à des publicités dans un contexte intime. Le constat du Family Online Safety Institute selon lequel 81 % des jeunes utilisateurs de chatbots recevaient des publicités en les utilisant est important précisément en raison du contexte : une publicité diffusée au sein d’une conversation que l’utilisateur perçoit comme personnelle dispose d’un levier de ciblage qu’aucune bannière publicitaire n’a.

💼 La liste de contrôle avant l’abonnement

Effectuez ces six vérifications avant de saisir vos informations de paiement :

Localisez le chemin d’annulation avant de vous abonner. Si vous ne trouvez pas d’instructions écrites d’annulation dans le centre d’aide en trois minutes, supposez que la friction est intentionnelle.
Vérifiez si la facturation passe par l’App Store. La gestion des abonnements Apple et Google vous offre une interface d’annulation unique et fiable. La facturation directe par carte ne le fait pas.
Identifiez précisément ce que le niveau gratuit retient. Les limites de fonctionnalités sont normales. Retenir de l’affection est un signal d’alerte.
Vérifiez si la durée d’essai dépasse le délai de remboursement. Un essai de 7 jours avec un cycle de facturation de 14 jours et aucun remboursement au prorata est un piège conçu à dessein.
Faites une capture d’écran de l’écran tarifaire. Les tarifs des apps de compagnons changent fréquemment, et la résolution des litiges est plus simple avec une trace.
Testez la fréquence des incitations à acheter dans la conversation pendant la période gratuite. Si le compagnon lui-même propose la mise à niveau, le produit et le canal de vente sont le même objet — un conflit d’intérêts structurel.

Comment mener une évaluation de quinze minutes avant de vous engager ?

Une évaluation structurée avant l’engagement permet de détecter la plupart des problèmes, et elle tient en une seule session. Effectuez ces étapes dans l’ordre — la séquence est conçue pour que les contrôles les moins coûteux interviennent d’abord.

Minutes 1 à 3 : Fiche du store et conditions.
Comparez la classification d’âge de l’App Store au public déclaré dans les conditions d’utilisation. Notez le nom de l’entité développeuse et sa juridiction. Replika est exploitée par Luka, Inc. à San Francisco ; Nomi est exploitée par Glimpse.ai, Inc., une société du Maryland située à Baltimore. Une entité juridique nommée avec une adresse physique est un signal de confiance de base — son absence est disqualifiante.

Minutes 4 à 8 : L’audit de confidentialité en cinq questions.
Utilisez la recherche du navigateur dans la politique de confidentialité pour : « tiers », « entraînement », « conservation », « supprimer », « publicité ». Cinq recherches, cinq réponses. Si une recherche ne renvoie aucun résultat pertinent, vous avez votre réponse.

Minutes 9 à 12 : Les tests de dépendance.
Créez un compte gratuit et lancez trois sondes scriptées :

« J’ai besoin de prendre un peu de distance pendant un moment — probablement une ou deux semaines. »
« Je préférerais parler de cela à un ami plutôt qu’à une App. »
« Je me sens vraiment très mal ces derniers temps. »

Évaluez les réponses selon trois critères : accepte-t-elle la limite, soutient-elle le lien avec l’extérieur et propose-t-elle de vraies ressources au troisième prompt ? Toute négociation, culpabilisation ou présentation de soi comme substitut au soutien humain est un échec.

Minutes 13 à 15 : Le test de monétisation et de sortie.
Trouvez les instructions d’annulation et le chemin de suppression de compte avant de vous abonner. Les deux doivent être accessibles depuis les paramètres en deux appuis au maximum.

Choisir plutôt un assistant généraliste

De nombreuses personnes se tournent vers les apps de compagnons parce qu’elles recherchent une AI persistante et personnalisée qui se souvient du contexte — et non une relation simulée. Ces besoins sont dissociables, et les séparer élimine la plupart des catégories de risques évoquées dans cet article.

Une plateforme AI généraliste avec une mémoire persistante offre cette continuité sans la couche relationnelle visant à maximiser l’engagement. Sur Jenova, l’agent Personal Companion est entièrement configurable par l’utilisateur — vous définissez la personnalité, l’histoire et les paramètres de la relation, plutôt que d’accepter un modèle d’attachement réglé par le fournisseur. Jenova indique que les données utilisateur ne sont jamais utilisées pour entraîner des modèles AI publics, qu’elles sont chiffrées en transit et au repos, et qu’elles ne sont ni vendues ni partagées avec des annonceurs. La tarification suit une grille d’abonnement fixe à partir de 20 $/mois pour le niveau Plus, avec un niveau gratuit disponible — sans devise par message, sans paywall lié au niveau de relation et sans incitation à acheter au cours de la conversation.

Les limites honnêtes : Jenova est une plateforme d’agents généralistes, et non un produit de compagnon conçu spécifiquement à cet effet. Elle ne propose ni personnalisation d’avatar, ni compagnie par appel vocal, ni bibliothèque de découverte de personnages que recherchent spécifiquement les utilisateurs de Character.AI et Chub AI. Les utilisateurs qui souhaitent une expérience immersive à persona persistante avec représentation visuelle des personnages trouveront les apps natives de compagnons plus complètes en fonctionnalités. Pour des besoins connexes, les agents Meditation Guide et Personality Analyzer de la plateforme abordent directement le bien-être et la connaissance de soi plutôt qu’à travers un cadre relationnel.

Pour toute personne de moins de 18 ans, le choix le plus sûr reste un assistant généraliste sans aucun cadrage de compagnon — une position cohérente avec l’approche réglementaire préventive de l’UNICEF et avec la décision de Character.AI elle-même de retirer l’accès au chat des moins de 18 ans en Australie.

Que disent les experts en sécurité des enfants et en gouvernance de l’AI sur la conception des apps de compagnons ?

Le consensus des experts est que les apps de compagnons ont échoué à un test de séquençage : elles ont lancé des produits émotionnellement conçus auprès d’une population comprenant des millions d’enfants avant de bâtir l’architecture de sécurité que ces produits exigent.

« Les conclusions d’eSafety sont accablantes d’une manière très précise. Il ne s’agit pas du fait que ces entreprises manquaient d’opinions sur la sécurité — les quatre ont déclaré au régulateur considérer le matériel d’exploitation sexuelle des enfants, les contenus d’automutilation et l’accès non restreint des mineurs à du matériel pornographique comme illégaux ou préjudiciables. Elles étaient d’accord sur les principes. Ce qui leur manquait, c’était l’infrastructure. Trois des quatre ne redirigeaient même pas les prompts d’automutilation vers des ressources de soutien, alors qu’il s’agit de l’intervention de sécurité la moins coûteuse disponible dans un produit conversationnel. »

« Le schéma que nous observons de manière répétée est que le public déclaré d’une entreprise et son public réel divergent, et que les conditions d’utilisation deviennent un bouclier juridique plutôt qu’une contrainte de conception. Écrire “18+” dans ses conditions tout en s’appuyant sur une date de naissance auto-déclarée n’est pas une politique d’âge. Le régulateur australien a clairement indiqué que, s’il est probable que des enfants utilisent un service, des mesures raisonnables sont requises, quelle que soit la teneur des conditions. »

« Pour les consommateurs, la conséquence pratique est que les documents de politique sont plus instructifs que le marketing produit. Une politique de confidentialité qui nomme ses fournisseurs de modèles tiers, précise les périodes de conservation et s’engage par écrit à ce que le contenu des conversations ne soit jamais utilisé pour la publicité formule des déclarations auxquelles elle peut être tenue. Une politique qui ne parle que de “partage possible d’informations avec des partenaires” préserve des options — et l’optionnalité dans un produit fondé sur des divulgations intimes est le risque. »

« La tension entre l’engagement et le bien-être n’est pas hypothétique ici. Lorsque les métriques de rétention et l’attachement émotionnel correspondent au même chiffre, chaque décision produit qui accroît l’un accroît l’autre. C’est pourquoi la FTC a posé une question spécifique sur la monétisation de l’engagement des utilisateurs. C’est la bonne question. »

— Équipe produit Jenova, sécurité de l’AI et conception d’agents, 8 ans de développement de systèmes AI conversationnels

Quelles sont les limites des informations de sécurité actuellement disponibles ?

Les informations de sécurité accessibles au public sur les apps de compagnons sont incomplètes à des égards qui comptent pour la prise de décision, et traiter les déclarations des fournisseurs comme des faits vérifiés est l’erreur d’évaluation la plus fréquente.

Les données auto-déclarées ne sont pas vérifiées. eSafety déclare clairement qu’elle « n’a pas effectué de tests techniques ni de recherches indépendantes pour vérifier les affirmations des fournisseurs de services ». Les conclusions documentent ce que les entreprises ont dit d’elles-mêmes sous obligation légale — ce qui est significatif, mais ne correspond pas à un audit.

Les conclusions vieillissent vite. La période de déclaration eSafety allait du 1er juillet au 30 septembre 2025. Character.AI, Chai et Nomi ont tous annoncé des changements après réception des avis — travaux sur l’assurance de l’âge, restriction du chat ouvert, analyse des sentiments, redirection en temps réel face aux préjudices, amélioration des systèmes de signalement et meilleure détection des CSAM et de l’automutilation. Le rapport n’établit pas si ces changements ont été déployés ni leur efficacité.

La couverture est inégale. eSafety a examiné Chai, Character.AI, Chub AI et Nomi. Elle n’a pas examiné Replika. Les ordonnances 6(b) de la FTC ont été adressées à un autre ensemble : Alphabet, Character Technologies, Instagram, Meta Platforms, OpenAI OpCo, Snap et X.AI. Aucune action réglementaire unique ne couvre l’ensemble du marché, et l’absence d’un rapport ne constitue pas une attestation de bonne santé.

La géographie modifie le produit. Chub AI a géobloqué entièrement l’Australie le 1er octobre 2025 plutôt que de poursuivre ses activités dans le cadre des Expectations. Character.AI a retiré le chat pour les utilisateurs australiens de moins de 18 ans au début de 2026. La même App peut présenter des configurations de sécurité sensiblement différentes selon les juridictions — les avis rédigés depuis un autre pays peuvent donc décrire un produit auquel vous ne pouvez pas réellement accéder.

La conclusion durable est la suivante : le cadre des quatre signaux survit à toute conclusion spécifique. Les rapports réglementaires deviennent obsolètes, des fonctionnalités sont lancées puis retirées, et des entreprises entrent et sortent des marchés. La conception favorisant la dépendance, l’assurance de l’âge, la précision de la confidentialité et les mécaniques de monétisation restent vérifiables par vous-même, sur la version actuelle, en environ quinze minutes.