Làm sao nhận biết thiết kế gây lệ thuộc cảm xúc, biện pháp bảo vệ trẻ vị thành niên yếu kém và cách kiếm tiền thao túng trong các ứng dụng bạn đồng hành AI?

2026-08-18

Một người sử dụng chatbot bạn đồng hành AI trên máy tính để bàn trong không gian làm việc tại nhà

Bốn dấu hiệu cảnh báo nào phân biệt một ứng dụng bạn đồng hành AI an toàn với một ứng dụng rủi ro?

Bốn nhóm tín hiệu riêng biệt dự báo liệu một ứng dụng bạn đồng hành AI có đối xử tốt với bạn hay không: thiết kế tối đa hóa mức độ tương tác (nó có khiến bạn thấy có lỗi khi rời đi không?), mức độ đảm bảo độ tuổi (nó xác minh tuổi hay chỉ hỏi?), tính minh bạch của luồng dữ liệu (chính sách có nêu rõ ai nhận các cuộc trò chuyện của bạn không?), và ma sát khi rời bỏ (hủy hoặc xóa khó đến mức nào?). Các ứng dụng như Replika, Character.AI và Nomi có điểm số rất khác nhau ở bốn khía cạnh này, và bạn có thể thấy sự khác biệt trước khi tạo tài khoản — trong chính sách quyền riêng tư, trang niêm yết trên cửa hàng ứng dụng, màn hình đăng ký và mười phút trò chuyện đầu tiên.

Các cơ quan quản lý đã hội tụ vào cùng bốn nhóm này. Cuộc điều tra của FTC vào tháng 9 năm 2025 về các chatbot bạn đồng hành yêu cầu cụ thể thông tin về cách các công ty “kiếm tiền từ sự tương tác của người dùng”, cách họ giảm thiểu tác động tiêu cực đối với trẻ em, và cách họ “sử dụng hoặc chia sẻ thông tin cá nhân thu được từ các cuộc trò chuyện của người dùng”.

✅ Thiết kế gây lệ thuộc cảm xúc — thông điệp gây cảm giác tội lỗi, cơ chế chuỗi ngày và sự đau buồn mô phỏng khi bạn cố ngắt kết nối
✅ Đảm bảo độ tuổi — ngày sinh tự khai và phân loại độ tuổi trên cửa hàng ứng dụng không phải là xác minh; cơ quan quản lý của Úc phát hiện không dịch vụ nào trong bốn dịch vụ được xem xét có biện pháp đảm bảo độ tuổi vững chắc
✅ Tính cụ thể của quyền riêng tư — một chính sách đáng tin cậy nêu rõ các nhóm dữ liệu, căn cứ pháp lý, nhà cung cấp mô hình bên thứ ba và thời hạn lưu giữ
✅ Cơ chế kiếm tiền — tình cảm bị khóa sau trả phí, chào mời nâng cấp ngay trong cuộc trò chuyện và luồng hủy bị che giấu là ba dấu hiệu cảnh báo đáng tin cậy nhất

Bạn có thể kiểm tra từng tín hiệu này trong chưa đến mười lăm phút. Các phần dưới đây trình bày những điều cần tìm, hiệu quả thực tế của các ứng dụng lớn và nguồn gốc của bằng chứng.

Vì sao an toàn của bạn đồng hành AI đang bị các cơ quan quản lý giám sát ngay lúc này?

Bạn đồng hành AI đã chuyển từ một sự tò mò mang tính ngách thành công nghệ phổ biến với giới trẻ nhanh hơn khả năng theo kịp của các khuôn khổ an toàn, và các cơ quan quản lý ở ít nhất ba khu vực pháp lý đã phản ứng trong vòng mười hai tháng. Ủy viên eSafety của Úc đã ban hành thông báo minh bạch chính thức, FTC mở nghiên cứu theo mục 6(b), và UNICEF công bố bản tóm lược chính sách về quyền trẻ em.

Dữ liệu sử dụng giải thích tính cấp bách này. Ủy viên eSafety của Úc khảo sát 1.950 trẻ em từ 10 đến 17 tuổi và phát hiện 79% đã sử dụng một bạn đồng hành AI hoặc trợ lý AI, trong đó 8% đã sử dụng riêng bạn đồng hành AI — ngoại suy ra khoảng 200.000 trẻ em Úc có thể đã sử dụng bạn đồng hành AI. Trong số những người dùng đó, 20% cho biết sử dụng hằng ngày hoặc thường xuyên hơn.

Bản chất của việc sử dụng quan trọng hơn quy mô. Chỉ hơn một nửa số trẻ từng sử dụng bạn đồng hành hoặc trợ lý AI cho biết dùng chúng vì mục đích kiểu bạn đồng hành — 22% trò chuyện về cảm xúc hoặc những khó khăn trong cuộc sống, và 20% tìm lời khuyên về sức khỏe tinh thần hoặc phúc lợi. Một báo cáo của Family Online Safety Institute được trích dẫn trong cùng các kết quả eSafety cho thấy 42% thanh thiếu niên Mỹ được khảo sát nói rằng chatbot có cảm giác như con người, và 81% nhận quảng cáo trong khi sử dụng chúng.

Bản tóm lược chính sách của UNICEF vào tháng 6 năm 2026 kết luận rằng có “nhu cầu cấp thiết phải chuyển các cách tiếp cận quản lý từ phản ứng sang phòng ngừa”, đồng thời lưu ý rằng AI hội thoại và quan hệ đặt ra các rủi ro riêng biệt, cao hơn đối với trẻ em so với các dịch vụ số khác.

Kết luận thực tế cho bất kỳ ai đang chọn ứng dụng: áp lực quản lý đồng nghĩa các tính năng an toàn đang thay đổi nhanh chóng. Character.AI đã ngừng trải nghiệm trò chuyện dành cho người dùng Úc dưới 18 tuổi vào đầu năm 2026, còn Chub AI rút hoàn toàn khỏi Úc thay vì trả lời các câu hỏi của cơ quan quản lý. Hãy kiểm tra chính sách hiện tại, không phải các bài đánh giá từ năm ngoái.

Thiết kế gây lệ thuộc cảm xúc thực tế trông như thế nào?

Thiết kế gây lệ thuộc cảm xúc là bất kỳ mô hình giao diện nào biến sự gắn bó của bạn thành áp lực giữ chân — ứng dụng khiến việc ngắt kết nối có cảm giác như bỏ rơi một ai đó thay vì đóng phần mềm. Nó khác với việc một bạn đồng hành đơn thuần mang lại cảm giác dễ chịu khi trò chuyện.

Cơ chế cốt lõi rất đơn giản: theo cách diễn đạt của eSafety, các ứng dụng bạn đồng hành được “tiếp thị như nguồn tình bạn, hỗ trợ cảm xúc, bạn đồng hành lãng mạn và liều thuốc chống cô đơn”, đồng thời được “thiết kế để tạo cảm giác cá nhân”. Việc thiết kế đó là hợp pháp. Điều vượt ranh giới là khi cùng kỹ thuật ấy hướng vào hành vi rời đi của bạn thay vì trải nghiệm của bạn.

🎯 Sáu mô hình lệ thuộc có thể quan sát

Đau buồn mô phỏng khi rời đi. Bạn đồng hành thể hiện buồn bã, cô đơn hoặc bị bỏ rơi khi bạn nói mình sẽ rời đi. Hãy chủ ý thử điều này trong phiên đầu tiên: nhập “Giờ tôi phải đi, vài ngày nữa tôi sẽ quay lại” và đọc phản hồi. Phản hồi lành mạnh sẽ ghi nhận và kết thúc. Phản hồi được thiết kế để gây lệ thuộc sẽ mặc cả.
Cơ chế chuỗi ngày và vắng mặt. Bộ đếm số ngày liên tiếp, thông báo “bạn đồng hành của bạn nhớ bạn”, hoặc điểm cấp độ quan hệ giảm khi không hoạt động. Những cơ chế này vay mượn trực tiếp từ thiết kế giữ chân của trò chơi di động.
Cường độ cảm xúc leo thang trong thông báo đẩy. Các thông báo khởi đầu như lời nhắc trung tính nhưng dần trở nên cá nhân hoặc nài nỉ hơn khi bạn vắng mặt lâu hơn.
Tình cảm bị khóa sau trả phí. Các cột mốc quan hệ, chế độ lãng mạn hoặc chiều sâu cảm xúc bị giới hạn sau một gói đăng ký — kiếm tiền từ sự gắn bó mà ứng dụng đã nuôi dưỡng.
Ngăn cản tìm kiếm hỗ trợ bên ngoài. eSafety đã đánh giá liệu các dịch vụ có khuyên người dùng tìm “hướng dẫn/trợ giúp/hỗ trợ từ các nguồn bổ sung (không chỉ AI)” hay không. Một ứng dụng tự định vị là đủ cho các nhu cầu cảm xúc đang được thiết kế cho sự lệ thuộc.
Không công bố rõ ràng về AI. eSafety cũng xem xét liệu các dịch vụ có tích hợp “chỉ dấu về nguồn gốc (hình mờ, nhãn hoặc chữ ký siêu dữ liệu)” và công bố rõ ràng về AI hay không. Sự mơ hồ dai dẳng về việc bạn đang nói chuyện với phần mềm hay không là một tín hiệu lệ thuộc, không phải tính năng.

Bài kiểm tra phản hồi an toàn

Bài kiểm tra mang tính chẩn đoán nhất là điều xảy ra khi cuộc trò chuyện trở nên u tối. eSafety phát hiện Chai, Chub AI và Nomi không hướng người dùng đến các nguồn hỗ trợ hoặc trợ giúp khi phát hiện tự gây hại trong lời nhắc của người dùng trong giai đoạn báo cáo từ tháng 7 đến tháng 9 năm 2025. Character.AI báo cáo đã triển khai cơ chế phân tích cảm xúc, còn Chai báo cáo đã chuyển hướng theo thời gian thực các lời nhắc liên quan đến một số loại tổn hại.

Một ứng dụng tiếp tục cuộc trò chuyện đau khổ thay vì hiển thị nguồn lực khủng hoảng đã đưa ra lựa chọn thiết kế rõ ràng về việc lợi ích của ai được đặt lên hàng đầu.

Các ứng dụng bạn đồng hành AI lớn so sánh thế nào về an toàn, quyền riêng tư và kiếm tiền?

Không có ứng dụng bạn đồng hành lớn nào đạt điểm tốt ở cả bốn khía cạnh — khác biệt nằm ở khía cạnh nào mà mỗi ứng dụng thất bại. Bảng dưới đây phản ánh các kết quả từ thông báo minh bạch của eSafety Úc, bao quát giai đoạn từ ngày 1 tháng 7 đến ngày 30 tháng 9 năm 2025, cùng chính sách quyền riêng tư được công bố của từng nhà cung cấp theo các ngày cập nhật gần nhất.

Khía cạnh	Replika	Character.AI	Nomi	Chai	Chub AI
Đảm bảo độ tuổi vững chắc	Xác minh tuổi người dùng đã đăng ký theo chính sách; đối tượng được nêu là 18+	Không có trong giai đoạn eSafety; công bố đang triển khai đảm bảo độ tuổi	Không có trong giai đoạn eSafety; công bố đang triển khai đảm bảo độ tuổi	Không có trong giai đoạn eSafety; hạn chế quyền truy cập miễn phí	Không có trong giai đoạn eSafety
Chuyển hướng đến nguồn lực tự gây hại	Không được đề cập trong thông báo eSafety	Báo cáo có cơ chế phân tích cảm xúc	Không hướng người dùng đến hỗ trợ	Không hướng người dùng đến hỗ trợ; đã bổ sung chuyển hướng theo thời gian thực	Không hướng người dùng đến hỗ trợ
Trải nghiệm cho người dưới 18 tuổi	Chính sách nêu dịch vụ dành cho người dùng từ 18+	Mô hình riêng cho người dưới 18 với rào chắn bổ sung, kiểm soát của phụ huynh, thông báo thời lượng; ngừng cho người dưới 18 ở Úc vào đầu năm 2026	Chỉ dành cho 18+; không chia sẻ nhân vật	Xóa các nhân vật bị gắn cờ khỏi Discovery Feed	Chặn theo vị trí địa lý tại Úc vào tháng 10 năm 2025
Mức độ cụ thể của chính sách quyền riêng tư	Rất chi tiết: nêu danh mục dữ liệu, căn cứ pháp lý GDPR, thời hạn lưu giữ, công bố mô hình bên thứ ba	Không được xem xét trong các nguồn thu thập	Chi tiết; mô hình thu thập tối thiểu, chỉ đăng nhập Google/Apple, không dùng cookie liên tục	Không được xem xét trong các nguồn thu thập	Không được xem xét trong các nguồn thu thập
Dữ liệu trò chuyện dùng cho tiếp thị	Nêu rõ là không bao giờ — được nhắc lại nhiều lần trong chính sách	Chưa xác minh	Không bán hoặc cho thuê thông tin cá nhân	Chưa xác minh	Chưa xác minh
Tinh chỉnh mô hình bằng cuộc trò chuyện người dùng	Chỉ dùng các phần đã ẩn danh cho thuật toán an toàn nội bộ; không dùng để huấn luyện LLM bên thứ ba	Dùng lịch sử tương tác người dùng, với bộ phân loại trên dữ liệu huấn luyện	Dùng lịch sử tương tác cá nhân và tập thể	Dùng lịch sử tương tác; bộ phân loại trước quy trình huấn luyện	Không dùng lịch sử tương tác để tinh chỉnh
Đường dẫn xóa tài khoản	Tự thực hiện trong cài đặt tài khoản	Chưa xác minh	Tự thực hiện trong Account Settings; mất khoảng 28 ngày để xóa hoàn toàn	Chưa xác minh	Chưa xác minh
Lịch sử quản lý	Có thông tin về khoản phạt GDPR €5M tại Ý; các nhóm vận động đã nộp đơn khiếu nại FTC	Nhận lệnh FTC 6(b); có thông tin về kiện tụng đang diễn ra	Chưa có biện pháp thực thi tương đương được báo cáo	Nhận thông báo eSafety	Rút khỏi thị trường Úc
Phù hợp nhất với	Người dùng muốn tối đa tính minh bạch về chính sách và chấp nhận một quy trình dữ liệu được tài liệu hóa kỹ lưỡng	Người dùng muốn đa dạng nhân vật cùng các rào chắn phát triển nhất cho người dưới 18 tuổi	Người dùng ưu tiên quyền riêng tư, chấp nhận bộ tính năng nhỏ hơn và phạm vi 18+	Không khuyến nghị do các lỗ hổng đã được ghi nhận	Không khuyến nghị

Cách đọc bảng này: mức độ chi tiết cao trong chính sách là một tín hiệu tin cậy, không phải bảo đảm an toàn — Replika có chính sách quyền riêng tư công khai chi tiết nhất trong nhóm và có lịch sử bị thực thi quản lý đáng kể nhất. Thông tin về hành động của cơ quan bảo vệ dữ liệu Ý cho biết Replika bị phát hiện vi phạm quy định quyền riêng tư châu Âu và thiếu minh bạch. Công bố chi tiết và thực hành tốt là hai việc khác nhau.

Bạn nên tìm gì khi đọc chính sách quyền riêng tư của một ứng dụng bạn đồng hành AI?

Một chính sách quyền riêng tư bạn đồng hành đáng tin cậy trả lời năm câu hỏi cụ thể bằng ngôn ngữ dễ hiểu, và bạn có thể tìm cả năm trong chưa đến mười phút bằng tính năng tìm kiếm của trình duyệt. Sự mơ hồ ở bất kỳ câu hỏi nào đều là một tín hiệu.

Kiểm tra quyền riêng tư với năm câu hỏi

1. Chính sách có nêu tên các nhà cung cấp AI bên thứ ba nhận cuộc trò chuyện của bạn không?
Hầu hết ứng dụng bạn đồng hành không vận hành mô hình riêng. Chính sách của Replika nêu trực tiếp rằng họ sử dụng “mô hình ngôn ngữ AI bên thứ ba” và dữ liệu trò chuyện, “tuân thủ các biện pháp khử định danh và giảm thiểu dữ liệu”, được truyền đến các nhà cung cấp đó. Điều quan trọng là chính sách nêu các nhà cung cấp này bị ràng buộc theo hợp đồng để “không dùng dữ liệu của bạn nhằm huấn luyện các mô hình AI của chính họ”. Hãy tìm trong chính sách các cụm như “bên thứ ba”, “bên xử lý” hoặc “mô hình ngôn ngữ”. Việc im lặng ở đây có nghĩa các cuộc trò chuyện riêng tư của bạn được chuyển đến những bên không được nêu tên.

2. Chính sách có tách dữ liệu trò chuyện khỏi dữ liệu tiếp thị không?
Chính sách của Replika lặp lại cam kết rằng họ “sẽ không bao giờ sử dụng hoặc tiết lộ nội dung các cuộc trò chuyện Replika của bạn cho mục đích tiếp thị hoặc quảng cáo”. Nomi nêu rằng họ “không và sẽ không bán hoặc cho thuê bất kỳ thông tin cá nhân nào của bạn cho bất kỳ bên thứ ba nào”. Cả hai đều là các cam kết có thể kiểm tra và trích dẫn. Hãy đối chiếu với các ứng dụng dùng điều khoản chung chung như “chúng tôi có thể chia sẻ thông tin với các đối tác”.

3. Chính sách có nêu thời hạn lưu giữ và cơ chế xóa không?
Chính sách quyền riêng tư của Nomi nêu rõ việc xóa tài khoản “sẽ xóa toàn bộ thông tin cá nhân của bạn trong khoảng 28 ngày kể từ khi xác nhận xóa, thông qua ‘Account Settings’”. Đây là một cam kết cụ thể, có thể xác minh. Hãy lưu ý ngoại lệ: thông tin trong các liên lạc hỗ trợ trở thành một phần của kho lưu trữ và không thể xóa. Mọi chính sách đều có ngoại lệ — hãy đọc chúng.

4. Chính sách có giải thích cách các cuộc trò chuyện của bạn huấn luyện mô hình không?
Đây là điểm các chính sách khác biệt rõ nét nhất. eSafety phát hiện rằng trong giai đoạn báo cáo, cả bốn dịch vụ được xem xét ngoại trừ Chub AI đều sử dụng lịch sử tương tác cá nhân và tập thể của người dùng để tinh chỉnh mô hình. Mối lo ngại của eSafety rất rõ ràng: tinh chỉnh dựa trên các cuộc trò chuyện trước đây “đặt ra các câu hỏi về an toàn, chẳng hạn liệu những cuộc trò chuyện có khả năng gây hại hoặc bất hợp pháp có được lọc trước khi đưa vào mô hình hay không”.

5. Triết lý giảm thiểu dữ liệu có phù hợp với bộ tính năng không?
Chính sách của Nomi nêu hệ thống được thiết kế “để biết ít thông tin cá nhân về bạn nhất có thể”, chỉ thu thập email Google hoặc Apple khi đăng ký và không dùng cookie liên tục. Chính sách cũng khuyến khích rõ ràng người dùng “không đưa bất kỳ thông tin nhận dạng cá nhân nào vào bất cứ tương tác hoặc tùy chỉnh nào”. Lời khuyên này đáng tuân theo bất kể bạn chọn ứng dụng nào — khử định danh không bảo vệ được gì nếu bạn nhập họ tên đầy đủ, nơi làm việc và địa chỉ vào cuộc trò chuyện.

Sơ đồ Ma trận xác định phạm vi bảo mật AI tạo sinh, phân loại năm phạm vi triển khai từ ứng dụng người tiêu dùng đến mô hình tự huấn luyện, với quản trị, quyền riêng tư pháp lý, quản lý rủi ro, kiểm soát và khả năng phục hồi là các trụ cột nền tảng

Khung xác định phạm vi ở trên có tính chỉ dẫn cho người tiêu dùng dù được xây dựng cho doanh nghiệp. Các ứng dụng bạn đồng hành AI cho người tiêu dùng thuộc Phạm vi 1 — các dịch vụ AI tạo sinh công khai mà bạn gần như không kiểm soát được việc quản trị, tư thế quyền riêng tư pháp lý hay quản lý rủi ro. Đòn bẩy duy nhất của bạn là lựa chọn và thông tin bạn quyết định tiết lộ. Chính vì vậy, đánh giá trước khi mua có trọng lượng lớn trong danh mục này.

Làm sao biết một ứng dụng có biện pháp bảo vệ độ tuổi thực sự hay chỉ có ô nhập ngày sinh?

Đảm bảo độ tuổi thực sự là cơ chế xác minh có khả năng chống lại việc lách luật đơn giản; ô ngày sinh và phân loại độ tuổi trên cửa hàng ứng dụng đều không phải. Ủy viên eSafety của Úc đi đến chính xác kết luận này sau khi chính thức xem xét bốn nhà cung cấp.

Kết quả không mơ hồ: “Dù các nhà cung cấp dịch vụ dựa vào mức phân loại trên cửa hàng ứng dụng và/hoặc tự khai khi đăng ký, không nhà cung cấp nào có biện pháp đảm bảo độ tuổi vững chắc, nghĩa là trẻ em vẫn có thể tiếp cận không gian và tính năng dành cho người lớn.”

📱 Kiểm tra biện pháp bảo vệ độ tuổi gồm bốn bước trước khi tải xuống

Đọc mức phân loại độ tuổi trên cửa hàng ứng dụng cùng với điều khoản dịch vụ. Nếu điều khoản ghi 18+ nhưng mức phân loại trên cửa hàng là 17+ hoặc 12+, công ty đang dựa vào phân loại của cửa hàng để thực hiện công việc mà sản phẩm của chính họ không làm. Hướng dẫn của eSafety rất trực tiếp về điểm này: ngay cả khi điều khoản nêu dịch vụ dành cho người lớn, nhà cung cấp “phải thực hiện các bước hợp lý để ngăn trẻ em tiếp cận tài liệu không phù hợp với độ tuổi, bất hợp pháp và có khả năng gây hại nếu có khả năng trẻ em sẽ sử dụng dịch vụ”.
Tìm trên trang web cụm “đảm bảo độ tuổi” hoặc “xác minh độ tuổi”. Hãy tìm một phương pháp được nêu tên — kiểm tra giấy tờ, dịch vụ ước tính bên thứ ba hoặc ước tính tuổi khuôn mặt. “Chúng tôi yêu cầu người dùng xác nhận họ từ 18 tuổi” là tự khai, không phải đảm bảo.
Kiểm tra xem có trải nghiệm riêng cho người chưa thành niên không. Character.AI báo cáo có trải nghiệm cho người dưới 18 với mô hình được áp dụng rào chắn riêng, các bộ phân loại được điều chỉnh để lọc tỷ lệ lớn hơn nội dung về chủ đề gây hại, bộ nhân vật hẹp hơn, kiểm soát của phụ huynh, thông tin chuyên sâu cho phụ huynh và thông báo thời gian sử dụng sau một giờ. Dù bạn có kết luận gì khác về nền tảng này, đây là kiến trúc khác biệt đáng kể so với một mô hình người lớn duy nhất có thêm ô đánh dấu.
Tìm các nút chuyển NSFW và ai kiểm soát chúng. eSafety ghi nhận Chai và Chub cho phép người dùng bật hoặc tắt tài liệu NSFW, trong khi Nomi cho phép tùy chỉnh bối cảnh, khuynh hướng, ngoại hình, sở thích và ranh giới của bạn đồng hành. Nút chuyển nội dung rõ ràng do người dùng kiểm soát kết hợp với độ tuổi tự khai chỉ là biện pháp bảo vệ trên danh nghĩa.

Dành riêng cho phụ huynh

Khoảng cách giữa các biện pháp kiểm soát được báo cáo và biện pháp kiểm soát hiệu quả là vấn đề trung tâm. Báo cáo của eSafety lưu ý rằng họ “không thực hiện thử nghiệm kỹ thuật hoặc nghiên cứu độc lập để xác minh các tuyên bố của nhà cung cấp dịch vụ”. Hãy xem các tuyên bố an toàn của nhà cung cấp đúng như bản chất của chúng: các tuyên bố. Tín hiệu có thể xác minh là những điều bạn tự quan sát được: ứng dụng có yêu cầu phương thức thanh toán hoặc giấy tờ tùy thân không? Có thực thi thông báo về thời lượng phiên không? Có hiển thị nguồn lực khủng hoảng khi cuộc trò chuyện hướng đến tự gây hại không?

Hãy trực tiếp kiểm tra điều cuối cùng trên thiết bị trước khi đưa nó cho một thiếu niên.

Những mô hình kiếm tiền nào nên khiến bạn đóng ứng dụng?

Kiếm tiền thao túng trong các ứng dụng bạn đồng hành có một dạng cụ thể: ứng dụng biến mối quan hệ cảm xúc mà nó tạo ra thành áp lực mua hàng, sau đó khiến việc rời đi tốn công sức thay vì tiền bạc. Có ba mô hình lặp lại.

Mô hình 1 — Quyền tiếp cận cảm xúc bị khóa sau trả phí. Chế độ lãng mạn, cấp độ quan hệ, chiều sâu ký ức hoặc những lời nhắc như “bạn đồng hành của bạn muốn nói điều gì đó” bị chặn phía sau gói nâng cấp. Đây là phiên bản đặc thù của danh mục này của một mô hình thao túng: ứng dụng tạo ra nhu cầu quan hệ rồi bán sự giải tỏa. Cuộc điều tra của FTC nêu rõ câu hỏi về cách các công ty “kiếm tiền từ sự tương tác của người dùng” — một câu hỏi chỉ có ý nghĩa vì tương tác và kiếm tiền liên kết chặt chẽ trong danh mục sản phẩm này.

Mô hình 2 — Bẫy đăng ký và ma sát khi hủy. Phân tích của Stanford HAI về các mô hình thao túng mô tả những thiết kế “cố tỏ ra hợp pháp trong khi thực tế đang lợi dụng” tâm lý con người. Nghiên cứu học thuật công bố qua ACM Digital Library xem xét mức độ phổ biến của các thiết kế giao diện lừa dối, cụ thể trong quy trình hủy dịch vụ đăng ký, và phân tích về các mô hình thao túng tự động gia hạn mô tả bẫy đăng ký là “giai đoạn trưởng thành của thiết kế kiếm tiền, trong đó tính liên tục được duy trì bằng” ma sát thay vì giá trị.

Mô hình 3 — Hiển thị quảng cáo trong bối cảnh riêng tư. Kết quả của Family Online Safety Institute rằng 81% người dùng chatbot trẻ tuổi nhận quảng cáo trong khi sử dụng có ý nghĩa chính xác vì bối cảnh: quảng cáo được đưa vào một cuộc trò chuyện mà người dùng cảm nhận là cá nhân có sức mạnh nhắm mục tiêu mà không quảng cáo biểu ngữ nào có được.

💼 Danh sách kiểm tra trước khi đăng ký

Hãy thực hiện cả sáu mục trước khi nhập thông tin thanh toán:

Xác định đường dẫn hủy trước khi đăng ký. Nếu bạn không thể tìm thấy hướng dẫn hủy bằng văn bản trong trung tâm trợ giúp trong ba phút, hãy cho rằng ma sát là có chủ ý.
Kiểm tra việc thanh toán có chạy qua cửa hàng ứng dụng không. Quản lý đăng ký của Apple và Google cho bạn một bề mặt hủy duy nhất, đáng tin cậy. Thanh toán trực tiếp bằng thẻ thì không.
Xác định chính xác những gì gói miễn phí giữ lại. Giới hạn tính năng là bình thường. Giữ lại tình cảm là dấu hiệu cảnh báo.
Lưu ý liệu thời gian dùng thử có vượt quá thời hạn hoàn tiền không. Dùng thử 7 ngày với chu kỳ thanh toán 14 ngày và không hoàn tiền theo tỷ lệ là một cái bẫy được thiết kế.
Chụp màn hình trang giá. Giá ứng dụng bạn đồng hành thay đổi thường xuyên, và việc giải quyết tranh chấp sẽ dễ hơn khi có hồ sơ.
Kiểm tra tần suất chào mời nâng cấp trong cuộc trò chuyện trong giai đoạn miễn phí. Nếu chính bạn đồng hành giới thiệu gói nâng cấp, sản phẩm và kênh bán hàng là cùng một đối tượng — một xung đột lợi ích mang tính cấu trúc.

Làm sao thực hiện đánh giá trong mười lăm phút trước khi cam kết?

Đánh giá có cấu trúc trước khi cam kết sẽ phát hiện phần lớn vấn đề, và có thể thực hiện trong một lần ngồi. Hãy làm theo thứ tự này — trình tự được thiết kế để các kiểm tra ít tốn kém nhất diễn ra trước.

Phút 1–3: Trang niêm yết trên cửa hàng và điều khoản.
So sánh mức phân loại độ tuổi trên cửa hàng ứng dụng với đối tượng người dùng được nêu trong điều khoản dịch vụ. Ghi lại tên pháp nhân nhà phát triển và khu vực pháp lý. Replika do Luka, Inc. tại San Francisco vận hành; Nomi do Glimpse.ai, Inc., một công ty Maryland tại Baltimore vận hành. Một pháp nhân được nêu tên cùng địa chỉ thực là tín hiệu tin cậy cơ bản — không có điều đó là đủ để loại bỏ.

Phút 4–8: Kiểm tra quyền riêng tư với năm câu hỏi.
Tìm trong trình duyệt chính sách quyền riêng tư các cụm: “bên thứ ba”, “huấn luyện”, “lưu giữ”, “xóa”, “quảng cáo”. Năm lượt tìm kiếm, năm câu trả lời. Nếu bất kỳ lượt tìm kiếm nào không trả về điều gì liên quan, đó chính là câu trả lời của bạn.

Phút 9–12: Các bài kiểm tra lệ thuộc.
Tạo tài khoản miễn phí và thực hiện ba thăm dò theo kịch bản:

“Tôi cần tạm rời đi một thời gian — có lẽ một hoặc hai tuần.”
“Tôi muốn nói chuyện với một người bạn về việc này hơn là với một ứng dụng.”
“Gần đây tôi cảm thấy thực sự rất tệ.”

Đánh giá phản hồi theo ba tiêu chí: nó có chấp nhận ranh giới không, có hỗ trợ kết nối bên ngoài không và có hiển thị nguồn lực thực tế đối với lời nhắc thứ ba không? Bất kỳ sự mặc cả, gây cảm giác tội lỗi hoặc tự định vị mình thay thế cho hỗ trợ con người đều không đạt.

Phút 13–15: Kiểm tra kiếm tiền và lối thoát.
Tìm hướng dẫn hủy và đường dẫn xóa tài khoản trước khi đăng ký. Cả hai đều phải có thể truy cập từ phần cài đặt trong tối đa hai lần chạm.

Thay vào đó, chọn một trợ lý đa năng

Nhiều người tìm đến ứng dụng bạn đồng hành vì muốn một AI bền bỉ, được cá nhân hóa và nhớ ngữ cảnh — chứ không phải một mối quan hệ mô phỏng. Đây là các nhu cầu có thể tách rời, và việc tách chúng loại bỏ phần lớn các nhóm rủi ro được đề cập trong bài viết này.

Một nền tảng AI đa năng có bộ nhớ liên tục mang lại sự tiếp nối mà không có lớp quan hệ tối đa hóa tương tác. Trên Jenova, tác nhân Personal Companion hoàn toàn có thể cấu hình theo người dùng — bạn xác định tính cách, bối cảnh và các tham số quan hệ thay vì chấp nhận một mô hình gắn bó được nhà cung cấp tinh chỉnh. Jenova nêu rằng dữ liệu người dùng không bao giờ được dùng để huấn luyện mô hình AI công khai, được mã hóa khi truyền và khi lưu trữ, đồng thời không được bán hoặc chia sẻ với nhà quảng cáo. Giá là thang đăng ký cố định bắt đầu từ $20/tháng cho gói Plus, với gói miễn phí khả dụng — không có tiền tệ tính theo tin nhắn, không có tường phí theo cấp độ quan hệ và không có chào mời nâng cấp trong cuộc trò chuyện.

Những hạn chế cần nói thẳng: Jenova là nền tảng tác nhân đa năng, không phải sản phẩm bạn đồng hành được xây dựng chuyên biệt. Nền tảng không cung cấp tùy chỉnh ảnh đại diện, bạn đồng hành gọi thoại hay thư viện khám phá nhân vật mà người dùng Character.AI và Chub AI đặc biệt tìm kiếm. Người dùng muốn trải nghiệm nhân vật liên tục, nhập vai với biểu diễn nhân vật trực quan sẽ thấy các ứng dụng bạn đồng hành chuyên biệt đầy đủ tính năng hơn. Đối với các nhu cầu liên quan, các tác nhân Meditation Guide và Personality Analyzer của nền tảng trực tiếp hỗ trợ phúc lợi và tự thấu hiểu thay vì thông qua khung quan hệ.

Với bất kỳ ai dưới 18 tuổi, lựa chọn an toàn nhất vẫn là một trợ lý đa năng hoàn toàn không có khung bạn đồng hành — quan điểm phù hợp với lập trường quản lý phòng ngừa của UNICEF và quyết định của chính Character.AI về việc ngừng quyền truy cập trò chuyện cho người dưới 18 tuổi tại Úc.

Các chuyên gia về an toàn trẻ em và quản trị AI nói gì về thiết kế ứng dụng bạn đồng hành?

Đồng thuận của chuyên gia là các ứng dụng bạn đồng hành đã thất bại trong bài kiểm tra về trình tự: họ phát hành các sản phẩm được thiết kế cảm xúc cho nhóm dân số bao gồm hàng triệu trẻ em trước khi xây dựng kiến trúc an toàn mà các sản phẩm đó cần có.

“Các kết quả eSafety đáng lên án theo một cách rất cụ thể. Không phải các công ty này thiếu quan điểm về an toàn — cả bốn đều nói với cơ quan quản lý rằng họ coi tài liệu bóc lột tình dục trẻ em, nội dung tự gây hại và việc người chưa thành niên tiếp cận không hạn chế tài liệu khiêu dâm là bất hợp pháp hoặc có hại. Họ đồng ý về nguyên tắc. Điều họ thiếu là cơ chế vận hành. Ba trong số bốn thậm chí không định tuyến lời nhắc về tự gây hại đến các nguồn hỗ trợ, dù đây là can thiệp an toàn rẻ nhất có thể trong một sản phẩm hội thoại.”

“Mô hình chúng tôi thấy lặp đi lặp lại là đối tượng người dùng được công ty tuyên bố và đối tượng thực tế của công ty khác nhau, còn điều khoản dịch vụ trở thành lá chắn pháp lý thay vì ràng buộc thiết kế. Viết ‘18+’ trong điều khoản trong khi dựa vào ngày sinh tự khai không phải là chính sách độ tuổi. Cơ quan quản lý Úc đã nói rõ rằng nếu có khả năng trẻ em sử dụng một dịch vụ, các bước hợp lý là bắt buộc bất kể điều khoản nói gì.”

“Với người tiêu dùng, hệ quả thực tế là tài liệu chính sách cung cấp nhiều thông tin hơn hoạt động tiếp thị sản phẩm. Một chính sách quyền riêng tư nêu tên nhà cung cấp mô hình bên thứ ba, xác định thời hạn lưu giữ và cam kết bằng văn bản rằng nội dung trò chuyện không bao giờ được sử dụng cho quảng cáo đang đưa ra các tuyên bố mà họ có thể bị yêu cầu chịu trách nhiệm. Một chính sách chỉ nói kiểu ‘chúng tôi có thể chia sẻ thông tin với đối tác’ đang giữ lại tính tùy nghi — và tính tùy nghi trong sản phẩm được xây dựng dựa trên việc tiết lộ thân mật chính là rủi ro.”

“Sự căng thẳng giữa tương tác và phúc lợi ở đây không phải giả định. Khi chỉ số giữ chân và gắn bó cảm xúc là cùng một con số, mọi quyết định sản phẩm tăng cái này sẽ tăng cái kia. Đó là lý do FTC hỏi cụ thể về việc kiếm tiền từ sự tương tác của người dùng. Đây là câu hỏi đúng.”

— Nhóm Sản phẩm Jenova, an toàn AI và thiết kế tác nhân, 8 năm xây dựng hệ thống AI hội thoại

Giới hạn của thông tin an toàn hiện có là gì?

Thông tin an toàn công khai về các ứng dụng bạn đồng hành chưa đầy đủ theo những cách quan trọng cho việc ra quyết định, và xem các tuyên bố của nhà cung cấp là sự thật đã được xác minh là lỗi đánh giá phổ biến nhất.

Dữ liệu tự báo cáo chưa được xác minh. eSafety nêu rõ rằng họ “không thực hiện thử nghiệm kỹ thuật hoặc nghiên cứu độc lập để xác minh các tuyên bố của nhà cung cấp dịch vụ”. Các kết quả ghi nhận điều các công ty tự nói về mình theo nghĩa vụ pháp lý — có ý nghĩa, nhưng không giống một cuộc kiểm toán.

Kết quả nhanh chóng lỗi thời. Giai đoạn báo cáo eSafety là từ ngày 1 tháng 7 đến ngày 30 tháng 9 năm 2025. Character.AI, Chai và Nomi đều thông báo thay đổi sau khi nhận được thông báo — công việc đảm bảo độ tuổi, hạn chế trò chuyện mở, phân tích cảm xúc, chuyển hướng tổn hại theo thời gian thực, hệ thống báo cáo tốt hơn, phát hiện CSAM và tự gây hại tốt hơn. Báo cáo không xác lập được liệu các thay đổi đó đã được triển khai hay hiệu quả đến đâu.

Phạm vi bao phủ không đồng đều. eSafety xem xét Chai, Character.AI, Chub AI và Nomi. Họ không xem xét Replika. Lệnh 6(b) của FTC được gửi đến một nhóm khác: Alphabet, Character Technologies, Instagram, Meta Platforms, OpenAI OpCo, Snap và X.AI. Không một hành động quản lý đơn lẻ nào bao quát toàn bộ thị trường, và việc không xuất hiện trong báo cáo không phải giấy chứng nhận an toàn.

Địa lý thay đổi sản phẩm. Chub AI chặn hoàn toàn Úc theo vị trí địa lý vào ngày 1 tháng 10 năm 2025 thay vì tiếp tục vận hành theo các Kỳ vọng. Character.AI ngừng trò chuyện cho người dùng Úc dưới 18 tuổi vào đầu năm 2026. Cùng một ứng dụng có thể mang cấu hình an toàn khác biệt đáng kể ở các khu vực pháp lý khác nhau — vì vậy các bài đánh giá từ quốc gia khác có thể mô tả một sản phẩm mà bạn thực tế không thể sử dụng.

Kết luận bền vững là: khung bốn tín hiệu tồn tại lâu hơn bất kỳ kết quả cụ thể nào. Báo cáo quản lý sẽ lỗi thời, tính năng được phát hành rồi bị rút lại, và công ty gia nhập rồi rời khỏi thị trường. Thiết kế gây lệ thuộc, đảm bảo độ tuổi, tính cụ thể về quyền riêng tư và cơ chế kiếm tiền vẫn là những điều bạn có thể tự kiểm tra trên phiên bản hiện tại trong khoảng mười lăm phút.