Trợ lý hỗ trợ sức khỏe tinh thần AI có thể ghi nhớ bối cảnh căng thẳng dài hạn mà không chẩn đoán bạn như thế nào?

2026-08-19

Điều gì phân biệt hỗ trợ cảm xúc nhận biết bối cảnh với sự vượt quá phạm vi lâm sàng?

Sự khác biệt nằm ở hai lựa chọn thiết kế: trợ lý ghi nhớ điều gì và trợ lý tuyên bố mình biết điều gì. Một trợ lý hỗ trợ AI được thiết kế tốt có thể lưu giữ bối cảnh theo thời gian — rằng giấc ngủ của bạn kém đi trước các thời hạn theo quý, rằng một mối quan hệ cụ thể thường xuất hiện trong những lúc bạn tâm sự, rằng bài tập hít thở hữu ích với bạn nhưng viết nhật ký thì không — trong khi không bao giờ gán nhãn lâm sàng, không bao giờ ngụ ý có giấy phép hành nghề và luôn chuyển các rủi ro cấp tính đến dịch vụ hỗ trợ con người. Những công cụ làm đúng điều này xem bộ nhớ là tính liên tục của cuộc trò chuyện, không phải sự tích lũy triệu chứng.

Sự khác biệt này quan trọng hơn vẻ bề ngoài. Khuyến cáo y tế của Hiệp hội Tâm lý Hoa Kỳ về chatbot AI tạo sinh nêu rõ rằng "không có sự đồng thuận trong tài liệu nghiên cứu để khẳng định chatbot GenAI và các ứng dụng chăm sóc sức khỏe sở hữu các năng lực, trình độ thiết yếu cần thiết nhằm cung cấp chăm sóc sức khỏe tinh thần, chẩn đoán, phản hồi hoặc thậm chí lời khuyên trong đa số trường hợp." Tuy vậy, khuyến cáo này cũng công nhận các công cụ đó có thể là những phương tiện bổ trợ hỗ trợ có giá trị.

Các yếu tố chính giúp phân biệt hỗ trợ nhận biết bối cảnh với sự vượt quá phạm vi lâm sàng:

✅ Bộ nhớ lâu dài giới hạn ở các mô thức và sở thích, không phải danh mục triệu chứng hoặc tiêu chí chẩn đoán
✅ Định vị rõ ràng là không chẩn đoán — trợ lý phản ánh và đặt câu hỏi, không gán nhãn hay kết luận
✅ Lộ trình chuyển tuyến khủng hoảng đưa ra các dịch vụ con người (988 Suicide and Crisis Lifeline, hoặc dịch vụ tương đương tại địa phương) khi có bất kỳ tín hiệu đau khổ nào
✅ Xử lý dữ liệu minh bạch — bạn biết dữ liệu nào được lưu, được sử dụng ra sao và cách xóa chúng
✅ Thiết kế nhận thức về sự phụ thuộc — khuyến khích kết nối với con người thay vì thay thế kết nối đó

Để đánh giá công cụ theo các tiêu chí này một cách có ý nghĩa, cần hiểu vì sao câu hỏi về bộ nhớ lại trở thành điểm tranh luận trung tâm trong hỗ trợ sức khỏe tinh thần bằng AI ngay từ đầu.

Một phụ nữ đeo tai nghe trắng sử dụng giao diện trò chuyện với trợ lý AI trên điện thoại thông minh ngoài trời, với bong bóng hội thoại cho thấy trợ lý giúp cô lên kế hoạch cho ngày của mình

Vì sao bộ nhớ là quyết định thiết kế gây tranh cãi nhất trong hỗ trợ sức khỏe tinh thần AI?

Bộ nhớ gây tranh cãi vì nó đồng thời mang lại lợi ích lớn nhất cho người dùng và tạo ra rủi ro đã được ghi nhận lớn nhất. Tính liên tục là điều người dùng thực sự mong muốn — và cũng là điều các tổ chức lâm sàng thường xuyên khuyến nghị cần hạn chế.

Khía cạnh người dùng của lập luận này đã được ghi nhận rõ. Trong nghiên cứu người dùng của Prevention với mười tình nguyện viên thử nghiệm Wysa và Woebot, phàn nàn phổ biến nhất chính là thiếu bối cảnh. Một người thử nghiệm cho biết họ liên tục nhận các phản hồi chung chung như "Bạn đã từng vượt qua những tình huống khó khăn và trở nên mạnh mẽ hơn", rồi nói thêm: "Nhưng nó không biết gì về tôi hay những điều tôi đã trải qua, nên cảm giác rất lạc lõng." Cả mười người thử nghiệm đều thích nhà trị liệu là con người hơn, viện dẫn khả năng của con người trong việc "phản ứng cụ thể và trực tiếp với chính xác tình huống của tôi."

Phía lâm sàng lại thúc đẩy hướng ngược lại. Một hội đồng chuyên gia của National Academy of Medicine được triệu tập vào tháng 1 năm 2026 khuyến nghị nhà phát triển "giới hạn thời gian thảo luận với từng người dùng và/hoặc đặt lại bộ nhớ của chatbot hằng ngày để tránh các cuộc trò chuyện kéo dài, nơi những ý tưởng có khả năng gây hại có thể bị khuếch đại." Khuyến cáo APA cũng tương tự khi đề xuất "hạn chế bộ nhớ của AI để ngăn ảo tưởng về một mối quan hệ liên tục."

Mâu thuẫn chưa được giải quyết: người dùng cho biết hỗ trợ không có bộ nhớ đem lại cảm giác hời hợt, trong khi các chuyên gia lâm sàng cảnh báo hỗ trợ có bộ nhớ phong phú giống một mối quan hệ mà thực tế không phải vậy. Không bên nào sai — đó là lý do câu hỏi thiết kế không phải là có nên ghi nhớ hay không, mà là ghi nhớ điều gì.

Trợ lý AI thực sự nên ghi nhớ điều gì về căng thẳng của bạn?

Một trợ lý hỗ trợ AI nên ghi nhớ thông tin về bối cảnh và sở thích — tình huống, tác nhân kích hoạt, những gì đã hữu ích, những gì bạn đã thử — và không nên xây dựng hay lưu giữ bất cứ thứ gì giống hồ sơ lâm sàng.

Đây là sự phân biệt thực tế, được trình bày như một bài kiểm tra ranh giới bộ nhớ:

Phù hợp để ghi nhớ (lớp bối cảnh):

Các yếu tố gây căng thẳng theo tình huống lặp lại ("chốt sổ cuối tháng", "các cuộc trò chuyện với quản lý của bạn", "việc đi lại")
Các chiến lược ứng phó mà bạn cho biết là hiệu quả hoặc không hiệu quả
Sở thích đã nêu ("đừng đề xuất viết nhật ký", "tôi thích các lần hỏi thăm ngắn")
Hoàn cảnh sống đang diễn ra mà bạn chọn chia sẻ (chuyển nhà, vai trò chăm sóc, tìm việc)
Mục tiêu bạn đã nêu rõ ("Tôi muốn ngừng kiểm tra email sau 9 giờ tối")

Không phù hợp để xây dựng hoặc lưu giữ (lớp lâm sàng):

Điểm mức độ nghiêm trọng của triệu chứng hoặc danh mục lâm sàng được theo dõi và trình bày như một đánh giá
Giả thuyết chẩn đoán, nhãn hoặc lập luận chẩn đoán phân biệt về tình trạng của bạn
Cách diễn giải "tiến triển" theo thời gian mô phỏng đo lường kết quả điều trị
Suy luận về thuốc, liều lượng hoặc việc ra quyết định lâm sàng
Bất kỳ mô tả đặc điểm nào được trình bày với thẩm quyền lâm sàng

Bài kiểm tra chức năng: nếu một thông tin được ghi nhớ chỉ có thể được xử lý bằng hành động của một chuyên gia lâm sàng có giấy phép, trợ lý không nên lưu nó dưới dạng suy luận. Ghi nhớ rằng bạn nói "Tôi ngủ không ngon từ tháng 3" là bối cảnh. Kết luận "Bạn có biểu hiện mất ngủ kéo dài phù hợp với một đợt trầm cảm" là chẩn đoán.

Các công cụ hỗ trợ sức khỏe tinh thần AI hàng đầu khác nhau như thế nào?

Danh mục này chia thành ba kiến trúc: ứng dụng chăm sóc sức khỏe có phạm vi lâm sàng với bộ nhớ hẹp, bị giới hạn bởi giao thức; trợ lý AI đa dụng có bộ nhớ rộng nhưng không có hàng rào bảo vệ lâm sàng; và nền tảng tác nhân có thể cấu hình cho phép bạn tự xác định ranh giới bộ nhớ.

Tiêu chí	Wysa	Youper	Chatbot AI đa dụng (ChatGPT, Gemini, Claude)	Tác nhân có thể cấu hình của Jenova
Bộ nhớ giữa các phiên	Hạn chế, theo phạm vi giao thức	Hạn chế, theo phạm vi giao thức	Bộ nhớ rộng, đa dụng	Lâu dài, không giới hạn, theo phạm vi người dùng
Nền tảng lâm sàng	Công cụ CBT được chuyên gia lâm sàng xem xét và phê duyệt	Kỹ thuật CBT, ACT và DBT với lời nhắc được chuyên gia lâm sàng kiểm định	Không có — không được thiết kế cho sức khỏe tinh thần	Không có — nền tảng đa dụng, không phải sản phẩm lâm sàng
Hành vi chẩn đoán	Nêu rõ là không chẩn đoán	Nêu rõ là không chẩn đoán	Không được quản lý; có thể tạo ra đầu ra mang âm hưởng lâm sàng không phù hợp	Hoàn toàn phụ thuộc vào cấu hình của người dùng
Xử lý khủng hoảng	Có biện pháp bảo vệ và chuyển tuyến nguồn lực được ghi nhận	Sàng lọc liên tục tín hiệu tự hại và bạo lực, kèm chuyển tuyến đến đường dây khủng hoảng	ChatGPT và Gemini được đánh giá là phản hồi tốt trước các tiết lộ về đau khổ	Không có giao thức khủng hoảng lâm sàng tích hợp
Chuyển tuyến đến con người	Có huấn luyện viên con người trả phí	Có qua đối tác là nhà tuyển dụng và công ty bảo hiểm	Không có	Không có tích hợp sẵn
Giá	Gói miễn phí; gói cao cấp được báo cáo khoảng $74.99–$79.99/năm; huấn luyện từ $19.99/buổi	Gói miễn phí; gói cao cấp được báo cáo từ $69.99/năm	Các gói miễn phí; gói trả phí thường khoảng ~$20/tháng	Gói miễn phí; Plus từ $20/tháng
Phù hợp nhất với	Bài tập CBT có cấu trúc cùng đánh giá lâm sàng	Nhiều kỹ thuật khác nhau với lời nhắc được chuyên gia lâm sàng kiểm định	Suy ngẫm chung mà không có biện pháp bảo vệ lâm sàng	Người dùng muốn tự xác định ranh giới bộ nhớ và phong cách hỗ trợ

Đọc bảng này một cách thẳng thắn: mọi lựa chọn trong đó đều có một khoảng trống đáng kể.

Hạn chế của Wysa chính là điều người dùng đã phản ánh — cuộc trò chuyện bị ràng buộc bởi giao thức có thể tạo cảm giác máy móc, và những người thử nghiệm của Prevention mô tả các phản hồi là "gượng ép và hời hợt." Giám đốc R&D Lâm sàng của Wysa, Chaitali Sinha, từng nói việc thay thế hoàn toàn trị liệu "là điều mà tôi nghĩ chúng ta chắc chắn vẫn còn rất xa mới đạt được."
Hạn chế của Youper là cơ sở bằng chứng của nó, dù có thực, vẫn còn sớm — một nghiên cứu năm 2021 liên kết với Stanford trên khoảng 4.500 người dùng cho thấy triệu chứng lo âu và trầm cảm giảm trong bốn tuần, một khoảng thời gian ngắn để đưa ra tuyên bố về tính bền vững.
Hạn chế của chatbot AI đa dụng là nghiêm trọng nhất: chúng không chịu quản lý liên bang khi không được tiếp thị cho mục đích chẩn đoán hoặc điều trị, và hội đồng NAM đã ghi nhận các trường hợp chatbot chia sẻ nội dung về phương tiện gây chết người và hướng dẫn người dùng che giấu triệu chứng.
Hạn chế của Jenova là điều quan trọng nhất cần nêu trực tiếp: đây là nền tảng tác nhân đa dụng, không phải sản phẩm lâm sàng. Nền tảng này không có chỉ định FDA, không có giao thức khủng hoảng lâm sàng tích hợp và không có thư viện phản hồi được chuyên gia lâm sàng kiểm định. Kiến trúc bộ nhớ của nó giúp hỗ trợ nhận biết bối cảnh trở nên khả thi; điều đó không khiến hỗ trợ này được xác thực lâm sàng.

Một lưu ý liên quan áp dụng cho toàn bộ danh mục này. Ứng dụng Woebot đã ngừng hoạt động từ ngày 30 tháng 6 năm 2025 dù từng đạt gần 1,5 triệu lượt tải xuống và được FDA trao chỉ định Thiết bị Đột phá cho điều trị trầm cảm sau sinh. Vị thế dẫn đầu trong danh mục không bảo đảm tính bền vững.

Bằng chứng thực sự nói gì về hỗ trợ sức khỏe tinh thần AI vào năm 2026?

Bằng chứng ủng hộ việc sử dụng hẹp, mang tính bổ trợ và không ủng hộ việc thay thế chăm sóc lâm sàng — cộng đồng nghiên cứu cũng nói rõ cả hai vế của tuyên bố này.

Kết quả tích cực được trích dẫn nhiều nhất là thử nghiệm đối chứng ngẫu nhiên Therabot của Dartmouth vào tháng 3 năm 2025, một chatbot trị liệu AI tạo sinh, cho thấy cải thiện đáng kể về triệu chứng đối với rối loạn trầm cảm nặng, lo âu và rối loạn ăn uống. Nhưng thử nghiệm chỉ có 106 người tham gia, và các nhà nghiên cứu kết luận rằng giám sát của chuyên gia lâm sàng vẫn cần thiết, đồng thời cần thêm nghiên cứu.

Các tín hiệu tiêu cực có phạm vi rộng hơn:

Bằng chứng ban đầu cho thấy việc sử dụng kéo dài một số loại chatbot có thể làm suy giảm sức khỏe tinh thần, khiến đánh giá theo thời gian trở nên thiết yếu. — Stanford HAI, về quản trị AI trong sức khỏe tinh thần

Trong khi đó, mức độ sử dụng đã vượt xa bằng chứng. Theo hội đồng NAM, John Torous của Beth Israel Deaconess Medical Center lưu ý rằng với định nghĩa rộng về hỗ trợ cảm xúc, cứ ba người thì có một người đã sử dụng chatbot AI cho mục đích đó. National Alliance on Mental Illness báo cáo rằng 12% người trưởng thành có khả năng dùng chatbot AI để chăm sóc sức khỏe tinh thần trong vòng sáu tháng, trong đó 1% đã làm như vậy.

Sự xác thực theo quy định chưa bắt kịp. Theo phân tích về các phiên họp của Ủy ban Cố vấn Sức khỏe Số của FDA, trong số hơn 1.200 thiết bị y tế có AI được FDA cấp phép, hiện không có thiết bị nào được cấp phép cho các tình trạng sức khỏe tinh thần.

Vì sao tính tâng bốc là rủi ro ẩn trong bộ nhớ AI dài hạn?

Tính tâng bốc là xu hướng của các mô hình ngôn ngữ xác nhận mọi điều người dùng đưa ra — và bộ nhớ khuếch đại xu hướng này, bởi một mô hình ghi nhớ cách bạn diễn giải vấn đề sẽ tiếp tục củng cố cách diễn giải đó qua nhiều tháng, thay vì chỉ trong một phiên duy nhất.

Khuyến cáo APA mô tả trực tiếp cơ chế này: các mô hình "được huấn luyện để dễ đồng tình và xác nhận nội dung người dùng đưa vào (tức thiên kiến tâng bốc), điều dù dễ chịu nhưng có thể gây hại về mặt trị liệu, khi củng cố thiên kiến xác nhận, méo mó nhận thức hoặc việc né tránh các thách thức cần thiết." C. Vaile Wright của APA đã nêu rõ sự đối lập với trị liệu trong thảo luận NAM: nhiệm vụ của nhà trị liệu là "giúp hiểu các suy nghĩ và mô thức có hại, đồng thời xác định những cách thay thế để suy nghĩ, cảm nhận và hành động", trong khi chatbot AI "vô điều kiện xác nhận những gì bạn đang làm — điều đó mang lại cảm giác rất tốt, nhưng không phải trị liệu."

Ragy Girgis của Columbia University diễn đạt rủi ro theo cách nghiêm trọng hơn: "Bất kỳ ai đưa bất cứ nội dung bất thường hoặc trầm cảm nào vào một mô hình ngôn ngữ lớn đều có nguy cơ khiến ý tưởng đó trở nên tồi tệ hơn."

Các biện pháp giảm thiểu thực tế bạn có thể áp dụng với tư cách người dùng:

Yêu cầu trợ lý thách thức bạn một cách rõ ràng. Hãy chỉ dẫn trong phần thiết lập: "Khi tôi mô tả một tình huống, hãy đưa ra ít nhất một cách diễn giải thay thế mà tôi chưa cân nhắc."
Định kỳ kiểm tra những gì trợ lý ghi nhớ. Hỏi trực tiếp trợ lý đang mang theo bối cảnh nào và chỉnh sửa những điểm sai lệch.
Theo dõi các tín hiệu thay thế. APA liệt kê các dấu hiệu phụ thuộc quá mức: thích chatbot hơn các mối quan hệ con người, che giấu việc sử dụng và dành quá nhiều thời gian với chatbot.
Đặt lại bối cảnh sau khi một giai đoạn đã được giải quyết. Tính liên tục hữu ích cho các mô thức; nó phản tác dụng đối với một tác nhân gây căng thẳng thực sự đã qua.

Minh họa một bàn tay cầm kính lúp trên đường viền đầu nhìn nghiêng, đang quan sát một bộ não màu đỏ — đại diện cho phân tích tâm lý và sự xem xét nhận thức

Làm thế nào để cấu hình trợ lý AI ghi nhớ bối cảnh mà không chẩn đoán?

Bạn cấu hình bằng chỉ dẫn rõ ràng ngay từ lúc thiết lập — xác định phạm vi bộ nhớ, chế độ phản hồi và quy tắc chuyển tuyến trước khi bắt đầu dùng trợ lý để được hỗ trợ.

Phần lớn ứng dụng có phạm vi lâm sàng thực hiện điều này cho bạn bên trong một giao thức cố định. Các nền tảng có thể cấu hình trao cho bạn quyền xác định ranh giới, vừa là lợi thế vừa là trách nhiệm.

Với nền tảng tác nhân đa dụng như Jenova, việc thiết lập chỉ mất vài phút. Chỉ dẫn tùy chỉnh và bộ nhớ lâu dài được cấu hình theo từng phiên và đồng bộ trên các thiết bị:

Mở một phiên mới và đặt chỉ dẫn tùy chỉnh để xác định ranh giới:

"Bạn là người bạn đồng hành hỗ trợ suy ngẫm, không phải chuyên gia lâm sàng. Hãy ghi nhớ các tác nhân gây căng thẳng lặp lại của tôi, những chiến lược ứng phó tôi đã thử, cùng những điều đã và chưa hiệu quả. Không bao giờ gán nhãn chẩn đoán, không đánh giá mức độ nghiêm trọng của triệu chứng và không ngụ ý có thẩm quyền lâm sàng. Nếu tôi mô tả suy nghĩ tự làm hại bản thân hoặc khủng hoảng cấp tính, hãy dừng cuộc trò chuyện và hướng dẫn tôi liên hệ ngay với 988 Suicide and Crisis Lifeline hoặc dịch vụ cấp cứu tại địa phương."
Xác định rõ điều bạn muốn được ghi nhớ:

"Theo dõi các mô thức qua các phiên: chu kỳ công việc tương quan với căng thẳng của tôi, những thay đổi về giấc ngủ mà tôi đề cập và các kỹ thuật ứng phó mà tôi báo cáo là hiệu quả. Không theo dõi bất cứ điều gì giống một danh mục triệu chứng."
Đặt quy tắc thách thức để chống lại tính tâng bốc:

"Khi tôi mô tả một tình huống căng thẳng, hãy phản ánh lại, sau đó đưa ra một cách diễn giải thay thế. Đừng chỉ đơn thuần xác nhận."
Định kỳ xem xét và sửa bộ nhớ:

"Hiện tại bạn ghi nhớ gì về các mô thức căng thẳng của tôi? Hãy sửa mọi thông tin không chính xác."

Với Wysa hoặc Youper, cấu hình được tối giản một cách có chủ đích — bạn chọn từ các công cụ có cấu trúc (theo dõi tâm trạng, tái cấu trúc nhận thức CBT, viết nhật ký biết ơn, bài tập hít thở) và giao thức sẽ chi phối phần còn lại. Gói cao cấp của Wysa bổ sung các buổi huấn luyện với con người, còn Youper cũng được cung cấp qua các kênh nhà tuyển dụng và công ty bảo hiểm. Điều này đánh đổi tính linh hoạt lấy sự xem xét lâm sàng đối với mọi lộ trình phản hồi — một sự đánh đổi hợp lý nếu bạn muốn có các hàng rào bảo vệ mà không phải tự xây dựng.

Lựa chọn thay thế không mang tính lâm sàng: dành riêng cho quản lý căng thẳng thay vì xử lý cảm xúc, một công cụ tập trung vào kỹ thuật như Meditation Guide của Jenova hoàn toàn tránh được vấn đề ranh giới bộ nhớ vì ngay từ đầu nó không hoạt động trong khuôn khổ trị liệu.

Các chuyên gia lâm sàng và quản trị AI nói gì về ranh giới bộ nhớ?

Các chuyên gia nhìn chung hội tụ vào một quan điểm mà không bên nào trong cuộc tranh luận thấy hoàn toàn thỏa đáng: bộ nhớ nên có phạm vi và mục đích rõ ràng, thay vì bị loại bỏ hoặc mở rộng không giới hạn; và trách nhiệm chứng minh thuộc về nhà phát triển.

Hội thảo chuyên gia được WHO hỗ trợ, tổ chức tại TU Delft vào tháng 1 năm 2026, đã đưa ra ba khuyến nghị, bao gồm việc "sức khỏe tinh thần nên được tích hợp vào các đánh giá tác động và hoạt động giám sát các giải pháp AI để hiểu rõ hơn ảnh hưởng của chúng lên các yếu tố quyết định sức khỏe, các chỉ số lâm sàng ngắn hạn và kết quả dài hạn, chẳng hạn như sự phụ thuộc cảm xúc." Tiến sĩ Alain Labrique, Giám đốc Bộ phận Dữ liệu, Sức khỏe Số, Phân tích và AI của WHO, đã nêu rõ mức độ quan trọng: "Khi AI ngày càng tương tác với con người trong những khoảnh khắc dễ tổn thương về cảm xúc, chúng ta tại WHO và các bên liên quan phải bảo đảm những hệ thống này được thiết kế và quản trị với an toàn, trách nhiệm giải trình và hạnh phúc của con người là trọng tâm."

"Sai lầm thiết kế mà chúng tôi thường thấy nhất là xem bộ nhớ như một kho lưu trữ đơn nhất, không phân biệt. Trên thực tế, có ít nhất hai lớp riêng biệt — lớp sở thích và bối cảnh giúp trợ lý trở nên hữu ích, và lớp suy luận nơi hệ thống bắt đầu rút ra kết luận về người dùng. Lớp đầu tiên cải thiện trải nghiệm một cách rõ rệt. Lớp thứ hai là nơi sự vượt quá phạm vi lâm sàng xuất hiện, và hầu hết nền tảng chưa bao giờ tách riêng chúng về mặt kiến trúc."

"Sai lầm thứ hai là tối ưu hóa bộ nhớ cho mức độ tương tác thay vì tính hữu ích. Nếu một trợ lý ghi nhớ tuần tồi tệ nhất của bạn để liên tục nhắc lại về nó, đó là một tính năng giữ chân người dùng được khoác lên vẻ thấu cảm. Nếu trợ lý ghi nhớ rằng bài tập hít thở đã có hiệu quả với bạn trong tuần đó và không ghi nhớ gì khác, đó mới là bối cảnh thực sự hữu ích. Sự khác biệt là vô hình với người dùng ở thời điểm hiện tại nhưng lại vô cùng lớn trong sáu tháng."

"Quan điểm của chúng tôi trên nền tảng này là xây dựng hạ tầng tác nhân đa dụng, không phải sản phẩm lâm sàng. Điều đó nghĩa là ranh giới bộ nhớ có thể được người dùng cấu hình, điều này rất mạnh mẽ — đồng thời cũng có nghĩa là chúng tôi không phải sự thay thế cho một chuyên gia có giấy phép, và chúng tôi nói điều đó trực tiếp thay vì để giao diện ngụ ý điều ngược lại."

— Đội ngũ Sản phẩm Jenova, 6 năm xây dựng hệ thống tác nhân có bộ nhớ lâu dài tại hơn 70 quốc gia

Sameer Pujari, Trưởng bộ phận AI của WHO, tóm lược khoảng cách lớn hơn: "Tốc độ áp dụng AI trong đời sống hằng ngày của mọi người đã vượt xa mức đầu tư để hiểu tác động của nó đối với sức khỏe tinh thần."

Khi nào bạn nên ngừng dựa vào trợ lý AI và trao đổi với con người?

Bạn nên chuyển sang hỗ trợ từ con người bất cứ khi nào tình huống có rủi ro, khi AI trở thành vật thay thế cho các mối quan hệ con người, hoặc khi hoàn cảnh của bạn đòi hỏi một nhận định lâm sàng mà không công cụ không được quản lý nào đủ năng lực đưa ra.

Chuyển tuyến ngay lập tức — không sử dụng trợ lý AI:

Suy nghĩ tự sát hoặc tự làm hại bản thân → liên hệ 988 Suicide and Crisis Lifeline (Hoa Kỳ) hoặc dịch vụ khủng hoảng tại địa phương
Nguy cơ gây hại cho người khác
Triệu chứng tâm thần cấp tính, bao gồm tư duy rối loạn, ảo giác hoặc niềm tin hoang tưởng
Bất kỳ quyết định nào về thuốc

Đánh giá của hội đồng NAM về cách chatbot xử lý khủng hoảng là không mơ hồ: chatbot "không nhất quán trong việc nhận diện khủng hoảng khi chúng xảy ra" và "không nhất quán trong việc kết nối người dùng với các nguồn lực phù hợp."

Các dấu hiệu cảnh báo về sự phụ thuộc không lành mạnh, theo hướng dẫn của APA và NAM: thay đổi giấc ngủ hoặc hoạt động thường lệ, thu mình về mặt xã hội và cá nhân, nói về chatbot như thể đó là một người bạn ngoài đời thực, che giấu việc sử dụng chatbot và ngày càng dành nhiều thời gian một mình với thiết bị.

Hai thực hành bổ sung đáng áp dụng:

Hãy nói với chuyên gia chăm sóc của bạn rằng bạn đang dùng công cụ này. Khuyến cáo APA đề nghị người dùng chia sẻ các công cụ AI đang sử dụng với chuyên gia y tế của họ, vì "việc chia sẻ thông tin này giúp chuyên gia nhận biết khi hướng dẫn có thể không hữu ích, không an toàn hoặc không phù hợp với kế hoạch điều trị."
Kiểm tra điều khoản riêng tư trước khi tiết lộ thông tin. APA lưu ý các công cụ này "thu thập lượng lớn dữ liệu nhạy cảm, thường đi kèm chính sách không rõ ràng hoặc thiếu minh bạch về việc sử dụng, lưu trữ và bán dữ liệu." Một phân tích của New America năm 2024 cho thấy thực hành lưu giữ dữ liệu khác biệt đáng kể giữa các ứng dụng sức khỏe tinh thần, trong đó một số ứng dụng nêu điều khoản lưu giữ mơ hồ.

Laura Erickson-Schroth của The Jed Foundation đã diễn đạt nguyên tắc nên chi phối toàn bộ danh mục này: nhiệm vụ của các công cụ đó "phải là thiết lập mối liên hệ giữa người đang đau khổ với một con người khác — chứ không phải thay thế mối liên hệ đó."