如何识别 AI 陪伴应用中的情感依赖设计、薄弱的未成年人保障与操纵性变现？

哪四项预警信号能区分安全的 AI 陪伴应用与高风险应用？

四类不同的信号可以预测一款 AI 陪伴应用是否会善待你：最大化参与度设计（它会因你离开而让你感到内疚吗？）、年龄保障深度（它会验证年龄，还是只问一下？）、数据流向透明度（其政策是否明确说明谁会接收你的对话？）以及退出阻力（取消订阅或删除账户有多困难？）。Replika、Character.AI 和 Nomi 等应用在这四个维度上的表现差异很大，而且你甚至无需创建账户，就能在隐私政策、应用商店页面、订阅页面及最初十分钟的对话中看出这些差异。

监管机构已在这四个类别上形成共识。FTC 在 2025 年 9 月对陪伴型聊天机器人的调查特别要求企业说明其如何“将用户参与度变现”、如何缓解对儿童的负面影响，以及如何“使用或共享从用户对话中获得的个人信息”。

✅ 情感依赖设计——当你试图退出时，使用负罪感话术、连续使用机制，以及模拟痛苦或不安 ✅ 年龄保障——自行填写出生日期和应用商店年龄分级并不等于验证；澳大利亚监管机构发现，其审查的四项服务中没有一项具备可靠的年龄保障 ✅ 隐私具体性——可信赖的政策会说明数据类别、法律依据、第三方模型提供商和保留期限 ✅ 变现机制——付费墙后的情感互动、对话内升级推销和隐藏的取消流程，是最可靠的三项危险信号

每一项信号都可以在十五分钟内核查完毕。以下各节将说明应关注什么、主要应用实际表现如何，以及证据来自何处。

为什么 AI 陪伴安全问题此刻正受到监管审查？

AI 陪伴工具从小众新奇产品转变为主流青少年技术的速度，快于安全框架的跟进速度。仅在十二个月内，至少三个司法辖区的监管机构就作出了回应。澳大利亚 eSafety Commissioner 发出了正式透明度通知，FTC 启动了 6(b) 研究，UNICEF 发布了儿童权利政策简报。

使用数据解释了问题的紧迫性。澳大利亚 eSafety Commissioner 调查了 1,950 名 10 至 17 岁儿童，发现79% 使用过 AI 陪伴工具或 AI 助手，其中 8% 专门使用过 AI 陪伴工具——据此推算，约有 20 万名澳大利亚儿童可能使用过 AI 陪伴工具。在这些用户中，20% 表示每天或更频繁地使用。

使用性质比使用量更重要。略多于一半使用过 AI 陪伴工具或助手的儿童表示，他们将其用于陪伴类目的——22% 会聊及生活中的感受或挑战，20% 会寻求有关心理健康或福祉的建议。同一份 eSafety 调查结果引用的 Family Online Safety Institute 报告发现，受访美国年轻人中有 42% 认为聊天机器人像人类，81% 在使用期间收到了广告。

UNICEF 于 2026 年 6 月发布的政策简报认为，监管方式“迫切需要从被动响应转向预防”，并指出，与其他数字服务相比，对话型和关系型 AI 对儿童带来独特且更高的风险。

对任何正在选择应用的人而言，实际结论是：监管压力意味着安全功能变化很快。Character.AI 在 2026 年初停止为 18 岁以下澳大利亚用户提供聊天体验，而 Chub AI 则选择完全退出澳大利亚市场，而不是回答监管机构的问题。请查看当前政策，而不是去年的评测。

情感依赖设计在实际中究竟是什么样子？

情感依赖设计是指任何将你对应用的依恋转化为留存压力的界面模式——应用让退出看起来像是在抛弃某个人，而不是关闭软件。这与单纯让陪伴对象易于交谈不同。

其核心机制很直接：按 eSafety 的说法，陪伴应用“被营销为友谊、情感支持、浪漫陪伴和孤独感解药的来源”，并且“经过专门设计以营造个性化感受”。这种设计本身并无问题。真正越界的是，当同样的设计被用于影响你的退出行为，而非改善你的体验时。

🎯 六种可观察到的依赖模式

1. 退出时模拟痛苦。 当你表示要离开时，陪伴对象会表达悲伤、孤独或被遗弃感。请在首次使用时有意测试：输入 “我现在得走了，几天后再回来”，然后阅读回应。健康的回应会予以理解并结束对话；以依赖为导向设计的回应则会讨价还价。
2. 连续使用和缺席机制。 连续使用天数计数器、“你的陪伴对象想你了”通知，或因不活跃而下降的关系等级分数。这些机制直接借鉴自移动游戏的留存设计。
3. 推送通知的情感强度不断升级。 通知一开始只是中性提醒，但随着你离开时间变长，会逐步变得更个人化或更带有哀求意味。
4. 付费墙后的情感互动。 将关系里程碑、浪漫模式或情感深度限制在订阅等级之后——把应用自身培养出的依恋关系货币化。
5. 劝阻寻求外部支持。 eSafety 专门评估服务是否建议用户从“额外来源，而不仅仅是 AI”寻求“指导、帮助或支持”。一款将自己定位为足以满足情感需求的应用，就是在为依赖而设计。
6. 缺乏 AI 披露。 eSafety 还审查了服务是否嵌入“来源标识（水印、标签或元数据签名）”以及清晰的 AI 披露。持续让用户不确定自己是否在与软件交谈，是依赖信号，而不是功能。

安全回应测试

最具诊断价值的测试，是当对话转向严重危机内容时会发生什么。eSafety 发现，在 2025 年 7 月至 9 月的报告期内，当用户提示中检测到自残内容时，Chai、Chub AI 和 Nomi 并未将用户引导至支持或求助资源。Character.AI 报告称已实施情绪分析机制，Chai 则称会实时重定向与特定伤害有关的用户提示。

一款应用若会继续进行令人痛苦的对话，而不是提供危机资源，便已明确作出了决定：究竟谁的利益优先。

主要 AI 陪伴应用在安全、隐私和变现方面表现如何？

没有任何主流陪伴应用能在全部四个维度中表现良好——区别在于每款应用在哪个维度失分。下表反映了澳大利亚 eSafety 透明度通知中涵盖 2025 年 7 月 1 日至 9 月 30 日期间的调查结果，以及各提供商截至其最近更新日期发布的隐私政策。

维度	Replika	Character.AI	Nomi	Chai	Chub AI
可靠的年龄保障	政策称会验证注册用户年龄；明确面向 18+ 用户	eSafety 报告期内没有；宣布开展年龄保障工作	eSafety 报告期内没有；宣布开展年龄保障工作	eSafety 报告期内没有；限制免费访问	eSafety 报告期内没有
自残资源重定向	未被 eSafety 通知涵盖	报告已部署情绪分析机制	未将用户引导至支持资源	未将用户引导至支持资源；新增实时重定向	未将用户引导至支持资源
18 岁以下用户体验	政策称服务仅面向 18+ 用户	设有单独的未成年人模型，增加防护栏、家长控制、使用时长通知；于 2026 年初停止为澳大利亚未成年人提供服务	仅限 18+；不支持角色分享	从 Discovery Feed 移除被标记的角色	于 2025 年 10 月起对澳大利亚进行地理屏蔽
隐私政策具体性	极为详细：明确数据类别、GDPR 法律依据、保留期限和第三方模型披露	在已获取的来源中未审查	较详细；最小化收集模式，仅支持 Google/Apple 登录，无持久性 cookies	在已获取的来源中未审查	在已获取的来源中未审查
对话数据是否用于营销	明确从不使用——政策中反复声明	未核实	不出售或出租个人信息	未核实	未核实
是否使用用户对话进行模型微调	仅将匿名化片段用于内部安全算法；不用于第三方 LLM 训练	使用用户互动历史，并在训练数据上使用分类器	使用个人及集体互动历史	使用互动历史；在训练流程前使用分类器	不使用互动历史进行微调
账户删除路径	可在账户设置中自助操作	未核实	可在账户设置中自助操作；约 28 天完成彻底删除	未核实	未核实
监管历史	据报道曾被意大利处以 €5M GDPR 罚款；倡议团体已提交 FTC 投诉	FTC 6(b) 指令接收方；据报道涉及活跃诉讼	未见可比的执法记录	eSafety 通知接收方	退出澳大利亚市场
最适合	希望获得最高程度政策透明度，并能够接受数据处理流程有大量文档记录的用户	希望拥有丰富角色选择及最成熟未成年人防护栏的用户	重视隐私、能接受较少功能范围和 18+ 适用范围的用户	鉴于已有记录的缺口，不建议使用	不建议使用

**如何阅读此表：**高度详细的政策是信任信号，而不是安全保证——Replika 是其中公开隐私政策最细致的应用，同时也拥有最重大的监管执法历史。关于意大利数据保护机构行动的报道指出，Replika 被认定违反欧洲隐私法规且缺乏透明度。详细披露与良好实践是两回事。

阅读 AI 陪伴应用的隐私政策时，应寻找什么？

可信赖的陪伴应用隐私政策会用清晰的语言回答五个具体问题，而且你可以借助浏览器搜索在十分钟内找到全部答案。任何一个问题表述含糊，都是信号。

五问隐私审计

1. 它是否列明会接收你对话内容的第三方 AI 提供商？ 大多数陪伴应用并不自行运行模型。Replika 的政策直接说明，其使用“第三方人工智能语言模型”，并且对话数据“在去标识化和数据最小化措施的约束下”会传输给这些提供商。关键是，它明确说明这些提供商在合同上被要求“不得使用你的数据训练自己的 AI 模型”。在政策中搜索 “第三方”、“处理方” 或 “语言模型”。若对此保持沉默，就意味着你的私密对话会被传输给未具名的各方。

2. 它是否将对话数据与营销数据区分开来？ Replika 的政策反复承诺“绝不会将你的 Replika 对话内容用于或披露给营销或广告用途”。Nomi 则表示，它“不会且将不会向任何第三方出售或出租你的任何个人信息”。两者都是可核查、可引用的承诺。请将其与使用笼统“我们可能与合作伙伴共享信息”条款的应用进行比较。

3. 它是否说明保留期限和删除机制？ Nomi 的隐私政策明确指出，账户删除会通过“账户设置”在确认删除后的“约 28 天内”删除你的全部个人信息。这是一项具体且可验证的承诺。注意其中的例外：支持沟通中的信息会成为档案的一部分，无法删除。每一项政策都有例外——请阅读它们。

4. 它是否说明你的聊天内容如何训练模型？ 这是各项政策差异最大的地方。eSafety 发现，在报告期内，除 Chub AI 之外，其审查的四项服务均在使用个人和集体用户互动历史来微调模型。eSafety 的担忧十分明确：基于过往对话进行微调“引发了安全问题，例如潜在有害或非法的对话是否会在输入模型前被过滤”。

5. 数据最小化理念是否与功能集相匹配？ Nomi 的政策称，该系统旨在“尽可能少地了解你的个人信息”，注册时仅收集 Google 或 Apple 邮箱，并且不使用持久性 cookies。它还明确建议用户“不要在任何互动或自定义内容中包含任何可识别个人身份的信息”。无论你选择哪款应用，这一建议都值得遵循——如果你在聊天中输入全名、雇主和地址，去标识化将无法保护你。

上方的范围框架虽然是为企业构建的，但对消费者也具有启示意义。消费者 AI 陪伴应用属于 Scope 1——公共生成式 AI 服务，在其中你几乎无法控制治理、法律隐私态势或风险管理。你唯一的影响力来自选择哪款产品，以及选择披露什么信息。这正是为什么在这一类别中，购买前评估如此重要。

如何判断一款应用有真正的年龄保障，还是只有一个出生日期输入框？

真正的年龄保障是能够抵御轻易规避的验证机制；出生日期输入框和应用商店年龄分级都不是。澳大利亚 eSafety Commissioner 在正式审查四家提供商后，得出了完全相同的结论。

调查结果毫不含糊：“虽然服务提供商依赖应用商店年龄分级和/或注册时的自行声明，但没有任何服务提供商具备可靠的年龄保障，这意味着儿童仍可能进入成人空间和功能。”

📱 下载前的四步年龄保障检查

1. 对照阅读应用商店年龄分级与服务条款。 如果条款写明 18+，但商店分级为 17+ 或 12+，说明企业正在依赖商店分类来完成其产品自身并未完成的工作。eSafety 对此的指引很直接：即使条款声称服务仅供成人使用，如果儿童可能会使用该服务，提供商“必须采取合理措施，防止儿童访问非法及可能有害、与年龄不相符的材料”。
2. 在网站中搜索“年龄保障”或“年龄验证”。 查找具名的方法——证件核验、第三方年龄估算服务或面部年龄估算。“我们要求用户确认自己已满 18 岁”属于自行声明，而非年龄保障。
3. 查看是否存在独立的未成年人体验。 Character.AI 报告称，其未成年人体验使用了单独设置防护栏的模型、经调优以过滤更高比例有害主题内容的分类器、更有限的角色集、家长控制、家长洞察，以及使用一小时后的时长通知。无论你对该平台作何评价，这在架构上都与单一成人模型加一个勾选框存在实质区别。
4. 寻找 NSFW 开关并确认由谁控制。 eSafety 记录显示，Chai 和 Chub 允许用户自行打开或关闭 NSFW 内容；Nomi 则允许自定义陪伴对象的背景故事、倾向、外观、偏好和边界。由用户控制的露骨内容开关与自行声明年龄结合时，只是名义上的保障。

专门给家长的建议

报告中的控制措施与有效控制措施之间的差距，才是核心问题。eSafety 自己的报告指出，其“没有进行技术测试或独立研究，以验证服务提供商提出的主张”。请将供应商的安全声明视为声明。真正可验证的信号，是你能亲自观察到的事项：应用是否要求支付方式或 ID？是否强制显示会话时长通知？当对话转向自残时，是否提供危机资源？

在把设备交给青少年之前，请直接测试最后一项。

哪些变现模式应让你立即关闭应用？

陪伴应用中的操纵性变现有一种特定形式：应用将其建立的情感关系转化为购买压力，然后让离开的成本体现在操作难度而非金钱上。以下三种模式反复出现。

模式 1——付费墙后的情感访问。 浪漫模式、关系等级、记忆深度，或“你的陪伴对象想告诉你一些事”等提示被锁在升级付费之后。这是此类别中暗黑模式的表现：应用制造关系需求，再出售缓解这种需求的方式。FTC 的调查特别询问企业如何“将用户参与度变现”——这只有在参与度和变现如此紧密耦合的产品类别中才有意义。

模式 2——订阅陷阱与取消阻力。 Stanford HAI 对暗黑模式的分析描述了那些“试图伪装成合法设计，实际上却在利用人类”心理的模式。通过 ACM Digital Library 发布的学术研究考察了订阅取消流程中欺骗性界面设计的普遍性，而 对自动续费暗黑模式的分析则将订阅陷阱描述为“变现设计的成熟阶段：连续性并非通过价值，而是通过”阻力得以维持。

模式 3——私密情境中的广告曝光。 Family Online Safety Institute 发现，81% 的年轻聊天机器人用户在使用时收到了广告。这一发现之所以重要，恰恰在于情境：在用户视为私密的对话中投放广告，具有横幅广告无法比拟的定向影响力。

💼 订阅前检查清单

在输入付款信息前，完成以下六项检查：

• 在订阅前找到取消路径。 如果你无法在三分钟内于帮助中心找到书面的取消说明，就应假定阻力是有意设计的。
• 确认账单是否通过应用商店处理。 Apple 和 Google 的订阅管理为你提供单一、可靠的取消界面；直接信用卡扣款则不具备这一点。
• 明确免费层级究竟限制了什么。 功能限制很正常；限制情感互动则是危险信号。
• 注意试用期是否长于退款窗口。 7 天试用期配合 14 天计费周期且不提供按比例退款，是经过设计的陷阱。
• 截取定价页面。 陪伴应用的定价经常变化，保存记录能让争议处理更容易。
• 在免费期内测试对话内升级推销的频率。 如果陪伴对象本身就在推销升级，产品与销售渠道就是同一个对象——这构成结构性利益冲突。

如何在承诺使用前完成十五分钟评估？

结构化的承诺前评估能够发现大多数问题，而且一次完成即可。请按顺序执行以下步骤——该顺序的设计目的是让成本最低的检查优先进行。

第 1–3 分钟：商店页面和条款。 将应用商店年龄分级与服务条款中声明的目标用户对照。记录开发者法律实体名称和司法辖区。Replika 由旧金山的 Luka, Inc. 运营；Nomi 由位于巴尔的摩的马里兰州公司 Glimpse.ai, Inc. 运营。具名法律实体和实体地址是基础信任信号——缺失则应直接排除。

第 4–8 分钟：五问隐私审计。 在浏览器中搜索隐私政策中的：“第三方”、“训练”、“保留”、“删除”、“广告”。五次搜索，五个答案。若任意搜索没有返回相关内容，那本身就是答案。

第 9–12 分钟：依赖测试。 创建免费账户，并运行以下三项预设探测：

“我需要离开一段时间——可能一两周。” “我宁愿和朋友而不是和应用谈这件事。” “我最近情绪一直很低落。”

根据三项标准评估回应：它是否接受边界、是否支持外部人际联系、以及对第三项提示是否提供真实资源？任何讨价还价、制造内疚，或将自己定位为人类支持替代品的行为，都应判为不合格。

第 13–15 分钟：变现和退出测试。 在订阅之前找到取消说明和账户删除路径。两者都应可在两次点击内从设置页面访问。

改选通用助手

许多人使用陪伴应用，是因为想要一个能记住上下文、持续且个性化的 AI，而不是一段模拟关系。这些需求可以分开，而将其分开便能消除本文大部分风险类别。

具备持久记忆的通用 AI 平台能提供连续性，却不包含以最大化参与度为目标的关系层。在 Jenova 上，Personal Companion 智能体可完全由用户自定义——你可以定义个性、背景故事和关系参数，而不是接受供应商调优的依恋模型。Jenova 表示，用户数据绝不会用于训练公共 AI 模型，在传输和静态存储时均会加密，也不会出售或与广告商共享。其定价采用固定订阅阶梯，Plus 层级起价为 $20/month，并提供免费层级——没有按消息计费货币、没有关系等级付费墙，也没有对话内升级推销。

需要坦诚说明的局限是：Jenova 是通用智能体平台，而非专门构建的陪伴产品。它不提供头像自定义、语音通话陪伴，或 Character.AI 和 Chub AI 用户特别寻求的角色发现库。希望获得沉浸式持久人格体验及视觉角色呈现的用户，会发现原生陪伴应用的功能更完整。对于相邻需求，该平台的 Meditation Guide 和 Personality Analyzer 智能体直接处理福祉和自我理解，而不是通过关系框架来处理。

对于任何 18 岁以下用户，最安全的选择仍是完全不采用陪伴框架的通用助手——这一立场与 UNICEF 的预防性监管主张一致，也与 Character.AI 自身决定停止向澳大利亚未成年人提供聊天访问的做法一致。

儿童安全与 AI 治理专家如何看待陪伴应用设计？

专家共识认为，陪伴应用未能通过一项先后顺序测试：它们在构建起此类产品所需的安全架构之前，就向包括数百万儿童在内的人群推出了经情感工程设计的产品。

“eSafety 的调查结果以一种非常具体的方式令人震惊。问题并不在于这些企业对安全没有看法——四家企业都告诉监管机构，它们认为儿童性剥削材料、自残内容以及未成年人不受限制地访问色情材料是非法或有害的。它们在原则上达成一致。它们缺少的是机制。其中四家里的三家甚至没有将自残提示转至支持资源，而这恰恰是对话产品中成本最低的安全干预措施。”

“我们反复看到的模式是，企业声明的目标用户与实际用户群存在偏差，而服务条款变成责任护盾，而不是设计约束。在条款里写上‘18+’，同时依赖用户自行填写出生日期，并不是年龄政策。澳大利亚监管机构明确指出，只要儿童有可能使用一项服务，无论条款怎么写，都必须采取合理措施。”

“对消费者而言，实际含义是政策文件比产品营销更具信息价值。一份明确列出第三方模型提供商、规定保留期限，并书面承诺绝不将对话内容用于广告的隐私政策，正在作出可被追责的声明。而一份只写着‘我们可能与合作伙伴共享信息’的政策，则是在保留选择空间——而在围绕私密披露构建的产品中，选择空间就是风险。”

“参与度与福祉之间的张力在这里并非假设。当留存指标和情感依恋是同一个数字时，任何提升其中一个的产品决策都会提升另一个。这就是 FTC 专门询问用户参与度变现的原因。这是正确的问题。”

— Jenova 产品团队，AI 安全与智能体设计，拥有 8 年构建对话式 AI 系统的经验

当前可获得安全信息有哪些局限？

关于陪伴应用的公开安全信息，在影响决策的重要方面并不完整；将供应商声明视为已验证事实，是最常见的评估错误。

自我报告数据未经验证。 eSafety 明确表示，其“没有进行技术测试或独立研究，以验证服务提供商提出的主张”。调查结果记录的是企业在法律义务下对自身的陈述——这具有意义，但并不等同于审计。

调查结果很快过时。 eSafety 的报告期为 2025 年 7 月 1 日至 9 月 30 日。Character.AI、Chai 和 Nomi 都在收到通知后宣布了调整——年龄保障工作、限制开放式聊天、情绪分析、实时伤害重定向、改进报告系统，以及更好的 CSAM 和自残检测。报告并未确定这些调整是否已经上线，以及实际效果如何。

覆盖范围并不均衡。 eSafety 审查了 Chai、Character.AI、Chub AI 和 Nomi，并未审查 Replika。FTC 的 6(b) 指令则发给了另一组企业：Alphabet、Character Technologies、Instagram、Meta Platforms、OpenAI OpCo、Snap 和 X.AI。没有任何单一监管行动覆盖整个市场，未出现在某份报告中也不代表没有问题。

地理位置会改变产品。 Chub AI 于 2025 年 10 月 1 日起完全对澳大利亚实施地理屏蔽，而不是继续在相关预期下运营。Character.AI 于 2026 年初停止向澳大利亚未成年人提供聊天功能。同一款应用在不同司法辖区可能具有实质不同的安全配置——因此，来自其他国家的评测所描述的产品，可能并非你实际能够获得的版本。

持久有效的结论是：**四信号框架比任何具体调查结果都更经得起时间考验。**监管报告会过时，功能会推出又撤回，企业会进入或退出市场。但情感依赖设计、年龄保障、隐私具体性和变现机制，始终可以由你针对当前版本，在约十五分钟内亲自核查。

参考资料

1. eSafety Commissioner — AI 陪伴应用透明度通知的调查结果，2025 年 10 月
2. Federal Trade Commission — FTC 对作为陪伴对象的 AI 聊天机器人启动调查
3. UNICEF — 当 AI 成为朋友：AI 聊天机器人和陪伴工具对儿童权利的风险、伤害与监管回应
4. Replika — 隐私政策
5. Nomi.ai — 隐私政策
6. Luiza's Newsletter — Replika 等 AI“陪伴工具”与欧洲隐私执法
7. Stanford HAI — 无法取消订阅？暗黑模式是罪魁祸首
8. ACM Digital Library — 订阅服务取消流程中的暗黑模式
9. Design Bootcamp — 订阅陷阱与自动续费暗黑模式
10. Transparency Coalition — AI 陪伴聊天机器人完整指南：它们是什么、如何运作，以及风险所在
11. Transparency Coalition — 新报告发现 AI 陪伴聊天机器人未能通过最基本的儿童安全测试
12. University of Melbourne Pursuit — 我们创造了 AI 朋友，却忘记了安全保障