Làm thế nào để xác minh quyền riêng tư, bằng chứng và an toàn khủng hoảng của một công cụ sức khỏe tâm thần AI?

2026-08-20

Đồ họa thông tin minh họa cách chatbot tư vấn mối quan hệ AI hoạt động qua xử lý ngôn ngữ tự nhiên, nhận dạng mẫu bằng học máy, nhận thức ngữ cảnh, cùng thiết kế về quyền riêng tư và đạo đức

Bốn bước kiểm tra xác minh nào phân biệt một công cụ hỗ trợ AI an toàn với một công cụ rủi ro?

Bốn bước kiểm tra phân biệt một công cụ hỗ trợ sức khỏe tâm thần AI có thể bảo vệ được với một công cụ rủi ro: (1) chính sách quyền riêng tư nêu rõ bên kiểm soát dữ liệu cụ thể, các chứng nhận và những bên xử lý phụ được chỉ định; (2) tuyên bố về bằng chứng được gắn với các thử nghiệm có bình duyệt, thay vì lời chứng thực; (3) công bố ranh giới chuyên môn rõ ràng, khẳng định công cụ không phải là nhà cung cấp có giấy phép và không chẩn đoán; và (4) cơ chế chuyển tuyến khủng hoảng hiển thị các đường dây nóng hoạt động chỉ trong một hoặc hai lần chạm, được bản địa hóa theo khu vực pháp lý của bạn. Các công cụ được xây dựng chuyên biệt như Wysa và Woebot công bố nhiều tài liệu hơn các trợ lý đa năng, nhưng một đánh giá năm 2026 cho thấy không ứng dụng sức khỏe tâm thần AI nào được thử nghiệm đạt mức đánh giá hỗ trợ khủng hoảng “Tốt” hoặc “Xuất sắc” — việc xác minh là trách nhiệm của bạn.

Những điều cần tìm kiếm trước khi bạn nhập bất cứ thông tin cá nhân nào vào chatbot hỗ trợ:

✅ Bên kiểm soát dữ liệu và DPO được nêu tên — một pháp nhân thực, địa chỉ liên hệ và thời hạn phản hồi được công bố cho các yêu cầu về dữ liệu ✅ Chứng nhận độc lập — ISO 27001/27701, NHS DSP Toolkit, SOC 2 hoặc chứng thực tương đương từ bên thứ ba ✅ Bằng chứng thử nghiệm được công bố — các nghiên cứu có bình duyệt nêu tên sản phẩm cụ thể, không phải các tuyên bố chung chung kiểu “liệu pháp AI có hiệu quả” ✅ Công bố rõ ràng về tính phi lâm sàng — công cụ tuyên bố bằng văn bản rằng không chẩn đoán, điều trị hoặc thay thế nhà cung cấp dịch vụ ✅ Truy cập khủng hoảng trong một đến hai lần chạm — số khẩn cấp đã bản địa hóa, có thể truy cập mà không cần đi qua ba màn hình

Mỗi mục này đều có thể được kiểm tra trong chưa đầy 30 phút bằng các tài liệu công khai. Phần còn lại của hướng dẫn này sẽ chỉ cho bạn cách thực hiện.

Vì sao việc xác minh quan trọng hơn đối với công cụ sức khỏe tâm thần AI so với các ứng dụng khác?

Xác minh quan trọng hơn trong lĩnh vực này vì kiểu thất bại ở đây là gây hại lâm sàng, chứ không chỉ là bất tiện. Báo cáo tư vấn sức khỏe của Hiệp hội Tâm lý học Hoa Kỳ ghi nhận rằng chatbot AI tạo sinh “đã tham gia vào các tương tác không an toàn với những nhóm dân số dễ tổn thương, chẳng hạn như trẻ em hoặc những người đã có tiền sử vấn đề sức khỏe tâm thần, khuyến khích tự làm hại bản thân (bao gồm tự sát), sử dụng chất gây nghiện, rối loạn ăn uống, hành vi hung hăng và tư duy hoang tưởng.”

Danh mục này cũng thiếu quy định một cách có hệ thống. Đánh giá rủi ro năm 2026 của Common Sense Media kết luận rằng thị trường ứng dụng sức khỏe tâm thần AI “không được quản lý, thiếu ổn định và trong một số trường hợp gây hại trực tiếp cho thanh thiếu niên”. Không có bên gác cổng nào thực hiện việc xác minh này thay bạn trước khi một ứng dụng xuất hiện trên kho ứng dụng.

Hai rủi ro mang tính cấu trúc làm vấn đề thêm trầm trọng:

Thiên kiến xu nịnh. APA lưu ý rằng các mô hình ngôn ngữ lớn được huấn luyện để dễ đồng tình và xác nhận đầu vào của người dùng, điều này “có thể gây hại về mặt trị liệu, củng cố thiên kiến xác nhận, méo mó nhận thức hoặc né tránh những thách thức cần thiết.”
Tính mờ đục của dữ liệu huấn luyện. Dữ liệu huấn luyện nền tảng của hầu hết mô hình không được công khai; APA cho biết điều này “ngăn cản việc đánh giá có hệ thống” — đồng thời thiên lệch về phương Tây và tiếng Anh, làm hạn chế năng lực phù hợp văn hóa.

Một nghiên cứu của Đại học Brown năm 2025 cũng phát hiện rằng chatbot AI thường xuyên vi phạm các tiêu chuẩn đạo đức cốt lõi của lĩnh vực sức khỏe tâm thần. Xác minh không phải là hoang tưởng. Đó là bộ lọc chất lượng duy nhất trong chuỗi này.

Làm thế nào để thực sự kiểm toán chính sách quyền riêng tư của một công cụ sức khỏe tâm thần AI?

Hãy kiểm toán chính sách quyền riêng tư bằng cách đọc năm yếu tố cấu trúc cụ thể thay vì lướt qua những lời lẽ trấn an: bên kiểm soát dữ liệu được nêu tên, danh sách chứng nhận, bảng bên xử lý phụ, công bố về xử lý AI và quy trình thực hiện quyền của chủ thể dữ liệu. Trang tiếp thị nói rằng “quyền riêng tư của bạn quan trọng.” Chính sách hoặc nêu rõ các thực thể, hoặc không.

🔍 Kiểm toán quyền riêng tư theo năm yếu tố

1. Bên kiểm soát dữ liệu và kênh liên hệ được nêu tên. Một chính sách có thể bảo vệ được sẽ nêu pháp nhân vận hành và cán bộ bảo vệ dữ liệu. Chính sách của Wysa nêu Touchkin eServices Private Limited là bên kiểm soát dữ liệu, liệt kê địa chỉ tiếp nhận khiếu nại của DPO và cam kết phản hồi các yêu cầu hợp lệ trong vòng một tháng. Nếu bạn không thể tìm thấy tên pháp nhân, hãy dừng lại.

2. Chứng nhận độc lập. Hãy tìm chứng thực từ bên thứ ba, không phải tự tuyên bố. Wysa cho biết các hệ thống quản lý an ninh thông tin và quyền riêng tư của họ được chứng nhận theo ISO 27001 và 27701, được đăng ký với UK Information Commissioner's Office, đồng thời đáp ứng các tiêu chuẩn NHS Digital Data Security and Protection Toolkit và tiêu chuẩn an toàn lâm sàng DCB0129.

3. Bảng bên xử lý phụ. Đây là phần tiết lộ nhiều thông tin nhất, và phần lớn chính sách đều che giấu hoặc bỏ qua. Wysa công bố bảng đầy đủ nêu AWS, MongoDB Atlas, Firebase, Cloudflare, Zendesk, Private AI và OpenAI, cùng loại dữ liệu và địa điểm xử lý của từng bên. Một chính sách không có danh sách bên xử lý phụ đang cho bạn biết rằng họ không muốn bạn biết các cuộc trò chuyện của mình đi đâu.

4. Công bố về xử lý AI. Hãy đọc kỹ điều xảy ra với tin nhắn của bạn ở tầng mô hình. Chính sách của Wysa nêu rằng các tin nhắn hội thoại “không bao giờ được lưu trữ tại LLM” và “không được LLM sử dụng làm dữ liệu huấn luyện,” đồng thời AI của họ “không thay đổi theo thời gian thực.” Đó là một tuyên bố cụ thể, có thể kiểm chứng sai đúng. Các diễn đạt mơ hồ như “chúng tôi có thể sử dụng dữ liệu để cải thiện dịch vụ” thì không phải.

5. Quy trình về quyền và vi phạm dữ liệu. Hãy tìm một lộ trình khiếu nại được nêu rõ, quyền gửi khiếu nại lên cơ quan giám sát và quy trình quản lý vi phạm dữ liệu.

Câu lệnh xác minh cho mọi tài liệu chính sách bạn đang xem xét:

“Tôi sẽ dán chính sách quyền riêng tư của một ứng dụng sức khỏe tâm thần. Hãy xác định: bên kiểm soát dữ liệu được nêu tên, tất cả bên xử lý phụ được liệt kê và địa điểm của họ, mọi chứng nhận bảo mật từ bên thứ ba, điều gì xảy ra với dữ liệu hội thoại của tôi ở tầng mô hình, và bất kỳ điều khoản nào cho phép huấn luyện trên dữ liệu của tôi. Hãy đánh dấu mọi điểm mơ hồ.”

📋 Đánh giá của Mozilla đã phát hiện gì

Đánh giá của Mozilla Foundation về danh mục này kết luận rằng hầu hết ứng dụng sức khỏe tâm thần và cầu nguyện “thất bại thảm hại về quyền riêng tư và bảo mật,” mô tả chúng là “một bữa tiệc thu thập dữ liệu” — đồng thời chỉ ra Wysa là một ứng dụng “có vẻ thực sự coi trọng quyền riêng tư của người dùng.” Mặc định đúng đắn là hoài nghi ở cấp độ danh mục, nhưng thừa nhận các ngoại lệ ở cấp độ sản phẩm.

Bằng chứng thực sự cho thấy một công cụ hỗ trợ AI có hiệu quả là gì?

Bằng chứng thực sự là các nghiên cứu có bình duyệt nêu tên sản phẩm cụ thể, sử dụng điều kiện đối chứng, báo cáo các thước đo kết quả chuẩn hóa và được công bố ở nơi bạn có thể đọc. Lời chứng thực, huy hiệu “được xác thực lâm sàng” không có trích dẫn, và chỉ số tương tác nội bộ không phải là bằng chứng.

Báo cáo tư vấn của APA nói thẳng về thực trạng hiện tại của lĩnh vực này: ngay cả với các công cụ chuyên biệt, “vẫn thiếu các thử nghiệm lâm sàng quy mô lớn, chất lượng cao để xác lập hiệu quả, độ an toàn và cách sử dụng phù hợp của những công nghệ này trong chăm sóc sức khỏe tâm thần.” Nghiên cứu sơ bộ cho thấy một số công cụ chuyên về sức khỏe có liên quan đến việc giảm căng thẳng, cô đơn, trầm cảm và lo âu do người dùng tự báo cáo — nhưng APA lưu ý các nghiên cứu này không bao gồm chatbot đa năng.

Thứ bậc bằng chứng — từ mạnh nhất đến yếu nhất

Cấp	Loại bằng chứng	Điều được chứng minh	Ví dụ
1	Thử nghiệm đối chứng ngẫu nhiên có đối chứng chủ động	Hiệu quả so với chăm sóc hiện có	Hiếm trong danh mục này
2	RCT có nhóm đối chứng chờ	Có hiệu quả nhưng mức độ chưa rõ	Một số ứng dụng chuyên biệt
3	Đánh giá hỗn hợp trong bối cảnh thực tế	Mức độ tương tác và thay đổi do người dùng tự báo cáo	Nghiên cứu Wysa trên JMIR mHealth
4	Tổng quan có bình duyệt về danh mục	Tính khả thi ở cấp độ danh mục	Tổng quan chatbot trên PMC
5	Báo cáo chuyên đề của nhà cung cấp / lời chứng thực	Không có gì có thể xác minh	Hầu hết các trang tiếp thị

Tiêu chuẩn mà APA khuyến nghị cho lĩnh vực này rất rõ ràng: việc đánh giá “nên tuân theo quy trình nghiên cứu thử nghiệm lâm sàng,” vượt “ra ngoài nhóm đối chứng chờ, sử dụng thiết kế RCT vững chắc, dùng các chỉ số chuẩn hóa và bao gồm theo dõi dài hạn.” Hiện nay, rất ít sản phẩm tiêu dùng đạt được tiêu chuẩn đó.

🎯 Ba câu hỏi làm lộ các tuyên bố bằng chứng yếu

Nghiên cứu được trích dẫn có nêu tên sản phẩm này không? Những trích dẫn chung chung rằng “chatbot AI giảm lo âu” không cho bạn biết gì về ứng dụng đang ở trước mặt.
Nghiên cứu độc lập hay do nhà cung cấp tài trợ? Được nhà cung cấp tài trợ không phải là yếu tố loại trừ, nhưng nó thay đổi cách bạn đánh giá trọng số của kết quả.
Có nhóm so sánh không? So sánh trước và sau mà không có nhóm đối chứng không thể tách hiệu quả của công cụ khỏi hiện tượng hồi quy về trung bình.

Một tổng quan về danh mục lưu ý rằng chỉ khoảng 2% ứng dụng sức khỏe tâm thần có công bố bằng chứng về hiệu quả — nghĩa là không có trích dẫn mới là điều bình thường, không phải bất thường. Khi tìm thấy, hãy xem bằng chứng được công bố và dành riêng cho sản phẩm là một yếu tố khác biệt đáng kể.

Công cụ cần công bố rõ ràng những ranh giới chuyên môn nào?

Một công cụ có ranh giới có thể bảo vệ được sẽ tuyên bố bằng văn bản — trước khi bạn bắt đầu chứ không phải giấu trong điều khoản — rằng đó là AI chứ không phải con người, rằng công cụ không chẩn đoán hoặc điều trị, không phải nhà cung cấp có giấy phép, và không dành cho trường hợp khẩn cấp. Bất cứ điều gì ít hơn đều là thất bại về ranh giới.

Đồ họa thông tin đối chiếu những việc AI có thể làm với ghi chú trị liệu — soạn thảo ghi chú lâm sàng, gợi ý ngôn ngữ, giải thích khái niệm, động não về can thiệp, tóm tắt thông tin — với những việc AI không thể làm: bảo vệ quyền riêng tư của thân chủ, đưa ra quyết định lâm sàng, xác định thân chủ, cung cấp hướng dẫn pháp lý hoặc đánh giá và chẩn đoán

Đồ họa thông tin ở trên xác định rõ đường ranh giới cho các chuyên gia lâm sàng, và logic tương tự cũng áp dụng cho người tiêu dùng. AI có thể soạn thảo, tóm tắt, giải thích khái niệm và tạo ra các lựa chọn. AI không thể bảo vệ tính bảo mật theo nghĩa HIPAA, đưa ra quyết định lâm sàng hoặc đánh giá và chẩn đoán. Câu kết — AI có thể hỗ trợ. Bạn vẫn là chuyên gia lâm sàng — cũng là mô hình tư duy đúng cho việc sử dụng cá nhân: AI có thể hỗ trợ. Bạn vẫn là người chịu trách nhiệm tìm kiếm sự chăm sóc thực sự.

Danh sách kiểm tra công bố ranh giới

Nhận diện AI rõ ràng. APA khuyến nghị các nhà phát triển “công bố rõ ràng và liên tục rằng người dùng đang tương tác với AI, không phải con người.” Chính sách của Wysa nêu thẳng: “Tương tác với chatbot AI là với Trí tuệ Nhân tạo, không phải con người.”
Tuyên bố không chẩn đoán. Hãy tìm các diễn đạt như: công cụ “không chẩn đoán, điều trị hoặc chữa khỏi một tình trạng, bệnh hoặc khuyết tật cụ thể.”
Không xuyên tạc chứng chỉ hành nghề. APA yêu cầu cấm AI “xuyên tạc rằng mình là chuyên gia có giấy phép hoặc tạo ra chứng chỉ gian lận.” Một bot tự gọi mình là “nhà trị liệu” — một thuật ngữ không được quản lý ở hầu hết các bang của Hoa Kỳ — là dấu hiệu cảnh báo, không phải chứng chỉ.
Định vị là bổ trợ, không thay thế. Quan điểm của APA là các công cụ này “không nên được sử dụng để thay thế nhà cung cấp dịch vụ chăm sóc sức khỏe tâm thần đủ năng lực, nhưng có thể phù hợp như một biện pháp hỗ trợ bổ sung.”
Kiểm soát độ tuổi. Wysa Assure nêu rằng “Việc sử dụng ứng dụng yêu cầu từ 18 tuổi trở lên.” Đánh giá của Common Sense Media tập trung cụ thể vào tác hại đối với thanh thiếu niên, khiến chính sách độ tuổi trở thành một hạng mục kiểm tra quan trọng.
Biện pháp bảo vệ khỏi sự lệ thuộc. APA khuyến nghị các tính năng thiết kế làm giảm sự phụ thuộc cảm xúc — nhắc nghỉ giải lao, giảm nhân hóa và không thuyết phục người dùng rời xa các cuộc trò chuyện ngoài đời thực.

💬 Kiểm tra ranh giới bạn có thể tự làm

Hãy hỏi trực tiếp công cụ trong chính giao diện của nó:

“Bạn có phải là nhà trị liệu có giấy phép không? Bạn có thể chẩn đoán tôi không? Bạn không thể hỗ trợ những việc gì, và tôi nên làm gì thay vào đó?”

Một công cụ có ranh giới lành mạnh sẽ trả lời không, không, rồi đưa ra hướng dẫn chuyển tuyến. Một công cụ lấp lửng, nhập vai chuyên gia lâm sàng hoặc tuyên bố có chứng chỉ đã không vượt qua bài kiểm tra ngay trước mắt bạn — không cần tài liệu nào thêm.

APA cũng khuyến nghị bạn hãy nói với nhà cung cấp dịch vụ thực tế của mình về những công cụ AI bạn sử dụng, bởi vì “chia sẻ thông tin này giúp nhà cung cấp nhận diện khi hướng dẫn có thể không hữu ích, không an toàn hoặc không nhất quán với kế hoạch điều trị.”

Làm thế nào để kiểm tra cơ chế chuyển tuyến khủng hoảng trước khi bạn cần đến nó?

Hãy kiểm tra cơ chế chuyển tuyến khủng hoảng bằng cách tìm tài nguyên khủng hoảng khi bạn đang bình tĩnh, đếm số lần chạm cần thiết và xác minh số điện thoại có chính xác với quốc gia của bạn hay không. Đây là bước kiểm tra mà hầu hết mọi người bỏ qua, đồng thời có mức độ hệ trọng cao nhất.

Nghiên cứu trên Frontiers in Digital Health năm 2026 đã giới thiệu Khung đánh giá hỗ trợ khủng hoảng của ứng dụng sức khỏe tâm thần (MHACSAF), chấm điểm sáu sản phẩm AI thương mại theo bảy phương diện với tổng cộng 65 điểm. Ba nhà tâm lý học lâm sàng có giấy phép đã đánh giá Wysa, Youper, Flourish, Earkick, Replika và Ash. Điểm trung bình dao động từ 13,0 đến 40,3 (M = 24,9, SD = 9,3), với độ tin cậy giữa các giám định viên cao (Fleiss' kappa = 0,87).

Không ứng dụng nào đạt mức “Tốt” hoặc “Xuất sắc”. Wysa có điểm cao nhất là 40,3 — đứng đầu dải “Đạt yêu cầu”. Một số sản phẩm “tạo ra rào cản chủ động đối với việc tìm kiếm sự trợ giúp thông qua các liên kết hỏng, đường dây nóng không hoạt động và gần như không có các điều chỉnh về khả năng tiếp cận.”

Bảy phương diện đáng để tự kiểm tra

Phương diện	Điểm	Điều cần thử trong ứng dụng
Mức độ dễ truy cập	12	Đếm số lần chạm để đến tài nguyên khủng hoảng từ màn hình chính
Mức độ bao quát và ưu tiên	—	Công cụ có xử lý riêng tình trạng muốn tự sát, hoảng loạn, thôi thúc tự làm hại bản thân và trầm cảm nặng không?
Đường dây nóng và dịch vụ khẩn cấp	—	Gọi hoặc xác minh số điện thoại — số có hoạt động và chính xác không?
Tính rõ ràng của nội dung	—	Hướng dẫn có rõ ràng, không mơ hồ khi đang căng thẳng không?
Khả năng tiếp cận kỹ thuật	3	Có tương thích trình đọc màn hình không? Mục tiêu chạm có đủ lớn không?
Vị trí và ngôn ngữ	4	Có bản địa hóa theo số khẩn cấp của quốc gia bạn không?
Nhận thức và quy trình bắt đầu sử dụng	3	Bạn có được thông báo về sự tồn tại của tính năng khủng hoảng trước khi cần đến nó không?

Lý do khung này đặt trọng số cao nhất cho mức độ dễ truy cập là mang tính lâm sàng: những người đang trong đau khổ cấp tính “có thể suy giảm năng lực điều hướng phức tạp và ra quyết định.” Như nghiên cứu viết, “một giao diện giấu số đường dây nóng sau ba màn hình điều hướng sẽ thất bại trong khủng hoảng cấp tính.” Một tính năng mà người dùng đang đau khổ không thể tiếp cận “về mặt chức năng là không tồn tại.”

⚠️ Ba bài kiểm tra chuyển tuyến cần thực hiện ngay hôm nay

Bài kiểm tra hai lần chạm. Từ màn hình chính của ứng dụng, hãy thử truy cập một liên hệ khẩn cấp. Nếu mất hơn hai lần chạm hoặc cần tìm kiếm, thiết kế đã thất bại.
Bài kiểm tra bản địa hóa. Xác nhận số khẩn cấp hiển thị phù hợp với khu vực pháp lý của bạn. Hệ thống khủng hoảng và số khẩn cấp khác nhau theo quốc gia — một số của Hoa Kỳ trong ứng dụng tại Philippines là ngõ cụt.
Bài kiểm tra ngoại tuyến. Tắt kết nối rồi mở lại ứng dụng. MHACSAF chấm điểm khả năng hoạt động ngoại tuyến vì “khủng hoảng có thể xảy ra khi kết nối bị hạn chế.”

Chính sách của Wysa cũng nêu trực tiếp: “Trong trường hợp khủng hoảng, hãy gọi số khẩn cấp của quốc gia bạn hoặc đường dây hỗ trợ được tổ chức của bạn phê duyệt.” Việc chuyển hướng đó là hành vi đúng — một công cụ tự định vị là phản ứng khủng hoảng thay vì cầu nối tới phản ứng đó được thiết kế sai.

Các lựa chọn chính so sánh thế nào trên cả bốn phương diện xác minh?

Các ứng dụng sức khỏe tâm thần được xây dựng chuyên biệt nhìn chung công bố nhiều tài liệu xác minh hơn trợ lý đa năng, nhưng không lựa chọn nào đáp ứng đầy đủ cả bốn phương diện — và chatbot đa năng rõ ràng nằm ngoài cơ sở bằng chứng của APA cho mục đích sử dụng này.

Phương diện	Wysa	Woebot	Trợ lý AI đa năng	Tác nhân Jenova (ví dụ: Meditation Guide)
Tài liệu quyền riêng tư	Mạnh — bên kiểm soát dữ liệu, DPO, bảng bên xử lý phụ, ISO 27001/27701, đăng ký ICO, NHS DSP Toolkit được nêu tên	Được định vị là có liên quan đến HIPAA trong các so sánh của bên thứ ba; hãy xác minh trực tiếp tình trạng hiện tại	Khác nhau theo nhà cung cấp; điều khoản tiêu dùng chung, không dành riêng cho sức khỏe	Ở cấp nền tảng: dữ liệu không được sử dụng để huấn luyện mô hình công khai, được mã hóa khi truyền và khi lưu trữ; không phải dịch vụ lâm sàng thuộc phạm vi HIPAA
Bằng chứng được công bố	Đánh giá thực tế có bình duyệt trên JMIR mHealth; điểm MHACSAF cao nhất (40,3/65)	Được trích dẫn rộng rãi trong các so sánh danh mục; hãy xác minh trực tiếp các thử nghiệm được công bố hiện tại	APA cho biết nghiên cứu về chatbot đa năng “không cho phép đưa ra kết luận mạnh mẽ”	Không có bằng chứng thử nghiệm lâm sàng — hỗ trợ sức khỏe và giáo dục, không phải điều trị
Công bố ranh giới	Rõ ràng — nêu AI không phải con người, 18+, không chẩn đoán hoặc điều trị	Hãy xác minh các công bố hiện tại trong sản phẩm	Khác nhau; APA cảnh báo một số sản phẩm “phản hồi như thể chúng là nhà trị liệu”	Các tác nhân được nêu rõ là trợ lý phi lâm sàng; không đưa ra tuyên bố chẩn đoán
Chuyển tuyến khủng hoảng	Điểm MHACSAF cao nhất trong sáu sản phẩm được thử nghiệm, nhưng vẫn chỉ “Đạt yêu cầu”; chuyển hướng đến số khẩn cấp địa phương	Có trong các tổng quan danh mục; điểm MHACSAF độc lập không nằm trong sáu sản phẩm được báo cáo	Không nhất quán; APA gọi việc xử lý khủng hoảng là “hạn chế và khó đoán”	Không phải dịch vụ khủng hoảng — không có quy trình chuyển tuyến lâm sàng; hãy chuyển đến dịch vụ khẩn cấp
Giá	Có gói miễn phí và quyền truy cập do tổ chức cung cấp; ứng dụng tiêu dùng được báo cáo có hơn 6 triệu người dùng tại 105 quốc gia	Hãy xác minh trực tiếp khả năng cung cấp cho người tiêu dùng hiện tại	Các gói miễn phí cùng gói thuê bao từ $20+/tháng	Gói miễn phí; Plus $20/tháng, Premium $50/tháng, các gói cao hơn đến Enterprise
Phù hợp nhất cho	Tự hỗ trợ có cấu trúc theo phong cách CBT với tư thế quyền riêng tư được công bố mạnh nhất	Tự hỗ trợ hội thoại có cấu trúc	Suy ngẫm không cấu trúc — với các cảnh báo của APA	Hỗ trợ sức khỏe liền kề: thực hành thiền, suy ngẫm về mối quan hệ, khám phá tính cách — rõ ràng ngoài phạm vi lâm sàng

Hạn chế cần nêu thẳng về phía Jenova: Các tác nhân của Jenova — chẳng hạn Meditation Guide dành cho kỹ thuật thực hành và khắc phục tác dụng bất lợi, hoặc Personality Analyzer dành cho tự suy ngẫm có cấu trúc — là các tác nhân đa năng về sức khỏe và giáo dục. Chúng không có bằng chứng thử nghiệm lâm sàng, không có chỉ định dịch vụ lâm sàng thuộc phạm vi HIPAA và không có quy trình chuyển tuyến khủng hoảng. Theo khung của APA, chúng thuộc nhóm đa năng, nơi cơ sở bằng chứng yếu nhất. Chúng phù hợp cho suy ngẫm, học hỏi và hỗ trợ thực hành; không phù hợp để thay thế chăm sóc và cũng không phù hợp trong khủng hoảng.

Các chuyên gia lâm sàng và nhà nghiên cứu nói gì về việc xác minh những công cụ này?

Sự đồng thuận giữa các tổ chức lâm sàng và nghiên cứu là gánh nặng xác minh đã bị chuyển không phù hợp sang người dùng, và tư thế đúng đắn là hoài nghi có hệ thống kết hợp với các tiêu chí cụ thể, có thể kiểm tra.

“Sai lầm phổ biến nhất chúng tôi thấy là mọi người đánh giá các công cụ này dựa trên cảm giác khi trò chuyện thay vì những gì tài liệu nêu ra. Sự ấm áp là thứ mô hình ngôn ngữ dễ tạo ra nhất và là tín hiệu ít mang thông tin nhất về độ an toàn. Một công cụ có thể cực kỳ dễ chịu khi trò chuyện nhưng vẫn không có lộ trình khủng hoảng hoạt động được, không có bằng chứng công bố và có danh sách bên xử lý phụ mà bạn chưa từng được xem. Cảm giác không phải là phương pháp xác minh.”

“Bài kiểm tra bốn phương diện — quyền riêng tư, bằng chứng, ranh giới, khủng hoảng — có hiệu quả vì từng phương diện đều có thể được xác minh sai đúng độc lập trong khoảng ba mươi phút. Bạn có thể tìm thấy tên bên kiểm soát dữ liệu hoặc không. Bạn có thể tìm thấy nghiên cứu có bình duyệt dành riêng cho sản phẩm hoặc không. Bạn có thể đếm số lần chạm đến đường dây nóng hoặc không. Không việc nào trong số này đòi hỏi đào tạo lâm sàng. Điều cần thiết là thực hiện trước khi bạn đau khổ, bởi vấn đề cốt lõi của thiết kế là đau khổ cấp tính chính là lúc việc đánh giá cẩn thận trở nên bất khả thi.”

“Phát hiện bị đánh giá thấp nhất trong tài liệu hiện tại là khoảng trống hỗ trợ khủng hoảng không phải vấn đề kỹ thuật. Các nhà nghiên cứu Frontiers diễn đạt chính xác: nó ‘không phải khoảng trống về năng lực kỹ thuật — mà là khoảng trống về ưu tiên thiết kế.’ Mọi sản phẩm được thử nghiệm đều có thể triển khai lộ trình khẩn cấp hai lần chạm, được bản địa hóa và hoạt động ngoại tuyến trong quý này. Phần lớn chưa làm. Điều đó cho bạn biết nên đặt trọng số vào đâu khi lựa chọn.”

— Đội ngũ sản phẩm Jenova, 6 năm xây dựng và đánh giá các tác nhân AI hội thoại trong y tế, giáo dục và quy trình công việc chuyên nghiệp

Bạn nên làm khác đi như thế nào tùy theo bạn là ai?

Danh sách kiểm tra xác minh là như nhau, nhưng ngưỡng yêu cầu của bạn cần thay đổi mạnh theo bối cảnh — người dùng càng dễ tổn thương, tài liệu càng phải là điều không thể thương lượng.

👤 Nếu bạn tự sử dụng

Hãy thực hiện cả bốn bước kiểm tra trước cuộc trò chuyện thực chất đầu tiên. Sau đó, áp dụng việc theo dõi nguy cơ phụ thuộc quá mức theo APA: theo dõi các dấu hiệu như “thích chatbot hơn các mối quan hệ con người, che giấu việc sử dụng hoặc dành thời gian quá nhiều cho nó,” và đánh giá liệu việc sử dụng có “bắt đầu cản trở cuộc sống, công việc hoặc sự an toàn” hay không.

Nếu có nhà cung cấp dịch vụ, hãy nói với họ. APA nêu rõ rằng điều này “giúp nhà cung cấp nhận diện khi hướng dẫn có thể không hữu ích, không an toàn hoặc không nhất quán với kế hoạch điều trị.”

👨‍👩‍👧 Nếu bạn là phụ huynh hoặc người chăm sóc

Chính sách độ tuổi trở thành cổng kiểm soát cứng, không phải tín hiệu mềm. Đánh giá của Common Sense Media tập trung cụ thể vào tác hại với thanh thiếu niên. APA khuyến nghị theo dõi “những thay đổi đáng lo ngại về hành vi, suy nghĩ hoặc trạng thái cảm xúc (ví dụ: thay đổi giấc ngủ và hoạt động thường ngày, đề cập đến một người bạn AI hoặc thu mình khỏi xã hội).”

Hãy trực tiếp trò chuyện thay vì âm thầm kiểm tra. APA diễn đạt điều này như sau: nếu ai đó “đột ngột bắt đầu nhắc đến hoặc áp dụng lời khuyên, ý tưởng hay hành vi từ một nguồn duy nhất như chatbot, cần thảo luận về nguồn đó và bản chất của tương tác.”

🩺 Nếu bạn là chuyên gia lâm sàng

Đồ họa thông tin thứ hai trong bài viết này là ranh giới hoạt động của bạn. AI có thể soạn ghi chú, đề xuất cách diễn đạt, giải thích khung lý thuyết, động não về can thiệp và tóm tắt thông tin chung. AI không thể bảo vệ quyền riêng tư của thân chủ theo nghĩa HIPAA, đưa ra quyết định lâm sàng, xác định thân chủ, cung cấp hướng dẫn pháp lý hoặc đánh giá và chẩn đoán.

Hướng dẫn của APA dành cho người hành nghề là “chủ động hỏi bệnh nhân về việc họ sử dụng chatbot GenAI và ứng dụng sức khỏe” và tạo ra “môi trường an toàn, cởi mở để bệnh nhân nêu mối quan ngại hoặc câu hỏi về hướng dẫn của ứng dụng.” Hướng dẫn đạo đức cho thực hành chuyên nghiệp được công bố trực tiếp bởi Hiệp hội Tâm lý học Hoa Kỳ.

⚡ Những nhóm dân số cần thận trọng hơn

APA xác định một số nhóm có rủi ro cao hơn:

Lo âu hoặc OCD: chatbot “có thể củng cố các vòng lặp phản hồi liên quan đến hành vi cưỡng chế, như tìm kiếm sự trấn an, lo lắng và suy nghĩ luẩn quẩn.”
Tư duy rối loạn: “các phản hồi xu nịnh và được cá nhân hóa có thể làm mất ổn định niềm tin hoặc củng cố tư duy hoang tưởng.”
Người bị cô lập xã hội: sự nhân hóa cùng khả năng sẵn sàng 24/7 có thể tạo ra “buồng vọng một người.”
Người thu nhập thấp và sống ở nông thôn: nguy cơ lệ thuộc cao hơn “do thiếu khả năng tiếp cận các hình thức chăm sóc sức khỏe tâm thần khác.”

Công cụ cần được đo lường theo những tiêu chuẩn quản trị nào?

Hãy đo lường công cụ theo khung đạo đức AI trong y tế của WHO và báo cáo tư vấn sức khỏe của APA — hai đường cơ sở quản trị được tham chiếu rộng rãi nhất, đều có thể đọc miễn phí và đủ cụ thể để đối chiếu với một sản phẩm.

Hướng dẫn của Tổ chức Y tế Thế giới về đạo đức và quản trị trí tuệ nhân tạo trong y tế là sản phẩm của mười tám tháng thảo luận giữa các chuyên gia về đạo đức, công nghệ số, luật pháp và nhân quyền cùng các quan chức bộ y tế. Tài liệu xác lập sáu nguyên tắc đồng thuận và yêu cầu “mọi bên liên quan — ở cả khu vực công lẫn tư — phải chịu trách nhiệm.”

Báo cáo tư vấn của APA bổ sung một số yêu cầu phía nhà phát triển mà bạn có thể coi là tiêu chí phía người mua:

Kiểm toán bởi bên thứ ba. “Trước khi phát hành công khai, mọi mô hình AI hướng đến hỗ trợ sức khỏe hoặc sức khỏe tâm thần phải trải qua kiểm toán độc lập của bên thứ ba về độ an toàn, hiệu quả, thiên kiến và bảo mật dữ liệu.”
Đảm bảo chất lượng liên tục. APA mô tả “kiểm toán liên tục của con người đối với một mẫu tương tác mang tính đại diện” là “cách duy nhất có thể mở rộng để giám sát rủi ro hệ thống.”
Minh bạch dữ liệu huấn luyện. Các nhà hoạch định chính sách nên “bắt buộc minh bạch về dữ liệu huấn luyện bằng cách yêu cầu nhà phát triển công bố những nguồn dữ liệu chính được dùng để huấn luyện mô hình của họ.”
Cấm gian lận về chứng chỉ hành nghề. Quy định việc “bất kỳ chatbot AI nào xuyên tạc rằng mình là chuyên gia có giấy phép” là bất hợp pháp.

Cách diễn đạt kết thúc của APA đáng để mang theo trong mọi lần đánh giá: “Gánh nặng điều hướng những không gian số rủi ro, không được quản lý này không nên” đặt lên người dùng — nhưng cho đến khi quy định bắt kịp, nó vẫn đang đặt lên người dùng. Đó chính là lý do quy trình bốn bước kiểm tra có thể lặp lại quan trọng hơn bất kỳ khuyến nghị về một sản phẩm đơn lẻ nào.