개인정보 보호를 중시하는 사용자에게 가장 중요한 AI 정신 건강 지원 플랫폼 기능은 무엇일까?

2026-08-20

압도감을 느낀다는 내용의 AI 치료 채팅 대화가 표시된 스마트폰을 들고 있는 사람

데이터 보존, 익명성, 삭제 제어 기능은 개인정보 보호가 안전한 AI 정신 건강 도구를 어떻게 구분할까?

개인정보 보호를 중시하는 사용자에게 가장 중요한 기능은 대화 품질이나 운동 라이브러리가 아니다. 핵심은 익명 계정 생성, 실제로 작동하는 원클릭 데이터 초기화, 대화 데이터 비판매의 명시, 투명한 보존 기간이다. 목적 특화 정신 건강 도구 중에서는 Wysa가 현재 익명성과 사용자 주도 삭제 측면에서 가장 강력하며, Headspace는 문서화된 HIPAA 및 GDPR 준수로 규제 대응 측면에서 앞선다. Jenova와 같은 범용 플랫폼은 다른 범주에 속한다. 메모리와 제어 기능은 더 강력하지만, 임상 도구가 아님을 명시한다.

실제로 이들 플랫폼을 구분하는 개인정보 보호 요소는 다음과 같다.

✅ 익명 온보딩 — 이메일, 전화번호 또는 실명 없이 시작할 수 있는지 ✅ 대화 데이터 분리 — 채팅 로그가 개인 식별자와 함께 저장되는지, 아니면 가명화되는지 ✅ 사용자 주도 삭제 — 데이터 초기화 기능이 있는지와 실제로 무엇을 삭제하는지 ✅ 제3자 공유 및 광고 기술 — 분석 SDK 또는 광고 관리자가 민감한 대화 데이터에 접근하는지 ✅ 기본 보존 기간 — 앱 사용을 중단했을 때 데이터가 얼마나 오래 남는지

미국심리학회는 이러한 도구가 “사용, 저장, 판매에 관한 정책이 불명확하거나 불투명한 경우가 많음에도 방대한 양의 민감한 데이터를 수집한다”고 경고하며, 사용자의 공개 내용이 “개인정보 침해 및 디지털 프로파일링과 같은 위협에 취약해질 수 있다”고 지적한다. 각 플랫폼이 제공하는 구체적 제어 기능을 이해하는 일만이 위험을 평가할 수 있는 신뢰할 만한 방법이다.

지금 AI 정신 건강 지원에서 개인정보 보호가 가장 큰 우려가 된 이유는 무엇일까?

정신 건강 대화는 가장 민감한 유형의 개인 데이터를 생성하지만, 해당 소프트웨어는 규제가 가장 약한 범주 중 하나에서 운영된다. 이 때문에 개인정보 보호는 핵심 평가 기준이 되었다. 생성형 AI 챗봇 및 웰니스 앱에 관한 미국심리학회 건강 권고는 대부분의 이러한 기술이 “임상적 피드백이나 치료를 제공하도록 설계되거나 의도된 것이 아니며, 과학적 검증과 감독이 부족할 수 있고, 적절한 안전 프로토콜을 포함하지 않는 경우가 많으며, 규제 승인을 받지 않았다”고 명확히 밝힌다.

규제 공백은 우연한 문제가 아니라 구조적 문제다. Simply Psychology의 분석은 AI 정신 건강 플랫폼에 의무적 최소 안전 기준이 없으며, 대부분의 앱에 대한 개인정보 보호 요건은 임상 치료에 적용되는 요건보다 현저히 약하다고 지적한다.

보안 연구자들은 이 공백이 실제 결과를 낳는다고 밝혀 왔다. Oversecured는 수천만 건의 다운로드를 기록한 여러 인기 정신 건강 앱에서 취약점을 발견했으며, Brookings는 정신 건강 앱이 막대한 민감 데이터를 생성하면서도 종종 “놀랄 만큼 느슨한 개인정보 보호 조치”를 유지한다고 기록했다.

미국심리학회가 특히 우려하는 지점은 상업성이다. 정서적 고백을 수집하는 관행은 “사용자, 특히 청소년의 발달상 취약성을 상업적 자산으로 바꿀 수 있다.” 취약성을 자산군으로 보는 이러한 관점 때문에, 많은 사용자에게 개인정보 보호 평가는 이제 기능 평가보다 앞선다.

가입 전에 실제로 어떤 개인정보 보호 기능을 평가해야 할까?

가장 유용한 평가 방법은 “은행급 암호화”라는 마케팅 주장보다 구체적으로 검증할 수 있는 다섯 가지 제어 기능을 확인하는 것이다. 저장 시 암호화는 기본 요건이다. 플랫폼 간에 의미 있게 달라지는 점은 처음에 무엇을 수집하는지, 그리고 이후 누가 그 정보에 접근할 수 있는지다.

각 기능이 사용자에게 얼마나 많은 제어권을 돌려주는지를 기준으로, 플랫폼을 여섯 가지 개인정보 보호 차원에서 평가했다.

🔐 1. 신원 정보 최소화(가장 높은 비중)

이메일, 전화번호 또는 법적 실명을 제공하지 않고 서비스를 이용할 수 있는가? 익명 또는 가명 계정은 정서적 고백이 실제 신원과 연결되는 가장 심각한 실패 상황, 즉 데이터 유출을 예방한다. Wysa의 개인정보 처리방침은 앱을 “가능한 한 적은 개인 데이터를 수집하도록” 설계했다고 밝히며, 기관을 통해 접근하는 경우 로그인 세부 정보 대신 “Wysa가 귀하를 위한 무작위 식별자를 생성하기 위해 고유한 암호화 코드를 받는다”고 설명한다.

🗑️ 2. 삭제 범위와 되돌릴 수 없음

삭제 기능이 존재하며, 실제로 삭제하는가? 앱 설정의 Wysa “Reset my Data” 기능은 “ID, 과거 채팅, 알림, 평가 답변 및 설정을 포함한 모든 대화 정보”를 제거한다. 다만 Wysa Medical Assistants 또는 웰빙 어드바이저가 처리한 데이터는 “치료 연속성을 보장하기 위해” 제외된다고 정책에 명시되어 있다.

📊 3. 분석 및 광고 기술 노출

플랫폼은 대화 데이터와 함께 광고 SDK를 실행하는가? Wysa는 광고에 Meta Ads Manager를, 사용량 측정에 Google Analytics를 사용한다고 공개하면서 “개인 데이터는 수집되거나 공유되지 않는다”고 밝힌다. 이 분리가 실제로 유지되는지를 검증하기 위해 독립 감사가 존재한다.

⏱️ 4. 기본 보존 기간

앱 사용을 단순히 중단하면 어떻게 되는가? Wysa가 밝힌 기본 정책은 “특정 기간이 명시되지 않은 경우, 마지막 업데이트 시점부터 최대 10년간 정보를 보관한다”는 것이다. 공황 발작 대화 기록에 10년은 매우 긴 꼬리 기간이다.

🏛️ 5. 규제 프레임워크

HIPAA와 GDPR 준수는 중요하지만, 서비스가 실제로 해당 규정의 적용을 받는 경우에만 의미가 있다. Headspace는 “HIPAA 및 GDPR과 같은 개인정보 보호 규정을 완전히 준수한다”고 밝힌다. 대부분의 소비자 웰니스 앱은 애초에 HIPAA의 적용 대상 기관이 아니다. 사용자가 자주 오해하는 차이다.

⚠️ 6. 위기 데이터 처리

안전 위험이 감지되면 누가 대화를 보는가? Headspace는 AI 동반자 Ebb에 전송되는 메시지의 100%가 독점적인 Safety Risk Identification 시스템으로 모니터링되며, 플래그된 메시지는 면허 보유 임상의의 검토 전에 “비식별화되고 선별된다”고 공개한다. 이는 실질적인 상충 관계다. 위기 안전성은 더 높아지지만 대화 개인정보 보호는 줄어든다.

주요 AI 정신 건강 플랫폼은 개인정보 보호 측면에서 어떻게 비교될까?

현재 모든 차원에서 높은 점수를 받는 플랫폼은 없다. 익명성이 가장 강한 옵션은 임상 감독이 가장 약한 경향이 있고, 임상 감독이 가장 강한 경우에는 플래그된 대화를 사람이 검토해야 한다. 아래 표는 2026년 기준 공개 문서화된 정책을 반영한다.

개인정보 보호 차원	Wysa	Headspace (Ebb)	Youper	Jenova(범용)
익명 / 최소 신원 가입	최소 데이터 수집을 위해 설계됨. 별명과 연령대만 필요	Headspace 계정 필요, 멤버십 기반	계정 기반, 앱 스토어 구독	계정 필요, 임상 신원 데이터는 요청하지 않음
사용자 주도 완전 삭제	앱 설정의 “Reset my Data”, 되돌릴 수 없음, 임상의 처리 데이터 제외	Headspace 개인정보 처리방침 적용, 소비자 건강 데이터 권리 페이지 공개	2026년 9월 30일 종료, 데이터 내보내기 제공	Global Memory를 완전히 끌 수 있으며, 무제한 기록은 사용자가 제어
대화의 사람 검토	Wysa Coach / Medical Assistant 등급에는 사람 임상의 참여	Ebb 메시지의 100%를 기계 모니터링, 플래그된 메시지는 비식별화 후 임상의 검토	확인되지 않음	임상 검토 계층 없음, 임상 제품 아님
광고 / 분석 노출	Meta Ads Manager 및 Google Analytics 사용, 개인 데이터 미공유 명시	검토한 출처에서 확인되지 않음	개인정보 처리방침은 과거 Consumer Reports의 비판을 받았고, Mozilla는 2023년 개선 사항을 언급	데이터는 공개 AI 모델 학습에 절대 사용되지 않으며, 광고주에게 판매 또는 공유되지 않는다고 명시
명시된 기본 보존 기간	특정 제한이 없는 경우 마지막 업데이트 후 최대 10년	검토한 출처에서 명시되지 않음	서비스 종료, 내보내기 기간 진행 중	메모리 설정을 통해 사용자가 제어
규제 / 임상 상태	AI 주도 대화형 에이전트에 대한 FDA Breakthrough Device Designation	HIPAA 및 GDPR 완전 준수 명시	JMIR에 효과성 연구 게재	임상 지정 없음, 치료 도구가 아님을 명시
가격	AI 포함 무료 등급, 유료 등급은 미국에서 월 $19.99 또는 연 $74.99 수준	Ebb 구독은 연 $69.99로 표시	종료 전 연 약 $69.99	무료 등급, Plus 월 $20, Premium 월 $50
적합한 사용자	익명성과 임상 근거를 함께 우선하는 사용자	위기 안전 인프라와 규제 준수 체계를 원하는 사용자	권장하지 않음 — 서비스 종료 예정	명시적 비임상 프레임 내에서 성찰, 저널링 및 인접 웰빙 워크플로를 원하는 사용자

이 표를 정직하게 읽는 방법: Wysa와 Headspace는 실제로 서로 다른 개인정보 보호 철학을 따른다. Wysa는 시스템에 들어오는 정보를 최소화하고, Headspace는 문서화된 안전 체계를 대가로 더 많은 데이터 수집을 수용한다. 어느 한쪽이 보편적으로 옳은 것은 아니다. 주된 두려움이 데이터 유출인지, 아니면 대응되지 않는 위기인지에 따라 답이 달라진다.

Wysa는 무엇을 잘하며, 어디에서 부족할까?

Wysa의 개인정보 보호 강점은 구조적이다. 설계상 수집하는 정보가 적고, 삭제 제어 기능은 제거 대상이 무엇인지 유난히 구체적으로 설명한다. 공개 정책은 “데이터를 안전하게 유지하고 개인정보를 보호하기 위해 가능한 한 적은 개인 데이터를 수집한다”고 약속하며, 초기화 기능은 모호한 표현이 아니라 필드 수준에서 문서화되어 있다.

임상적 신뢰성 역시 소비자 부문에서 가장 강하다. Wysa는 Cambridge University, Harvard University, Washington University in St. Louis 등을 포함한 기관과 협력하여 36편 이상의 동료 심사 논문을 발표했다고 보고한다. 여기에는 8건의 임상시험, 6건의 서비스 평가, 13건의 실제 환경 연구가 포함된다. 이 회사는 만성 통증 및 관련 우울·불안에 관한 JMIR 독립 동료 심사 시험 이후 FDA Breakthrough Device Designation을 받았다.

부족한 점:

특정 제한이 없는 데이터에 적용되는 10년 기본 보존 기간은 어떤 개인정보 보호 기준으로도 길다.
Meta Ads Manager와 Google Analytics가 기술 스택에 포함되어 있다. 회사는 개인 데이터가 이들에게 전달되지 않는다고 밝히지만, 정신 건강 앱에 이들이 존재한다는 사실은 위협 모델이 높은 사용자에게 타당한 우려다.
초기화는 불완전하다. Wysa Medical Assistants 또는 웰빙 어드바이저가 보유한 데이터는 삭제 요청 후에도 남는다.
Wysa의 자체 정책도 한계를 솔직하게 인정한다. “AI는 발전 중인 기술입니다. 이 기술에 내재한 잠재적 위험은 완전히 이해되지 않았을 수 있습니다.”

정신 건강 앱의 개인정보 보호를 감사한 연구자들은

Reddit Post

. 이는 정책 문구만으로는 부족한 구조적 주장을 독립적으로 뒷받침하며, 중요한 의미를 갖는다.

Headspace의 Ebb는 개인정보 보호와 안전성의 상충 관계를 어떻게 다룰까?

Headspace는 안전성을 우선하는 방향으로 상충 관계를 해결하며, 그 선택을 이례적으로 투명하게 문서화한다. Ebb에 보내는 모든 메시지는 기계로 선별되며, 회사는 위험 분류 체계도 공개한다. 여기에는 자살 사고, 타살 사고, 자해, 가정 폭력, 물질 사용, 섭식 장애, 취약 집단 학대가 포함된다.

AI 동반자 채팅 옵션과 안내형 치료 세션 예약이 함께 표시된 정신 건강 앱 인터페이스

위험이 플래그되면 Ebb는 “미국과 캐나다에서 988로 문자 또는 전화를 걸 수 있는 직접 링크를 제공하며 회원을 위기 치료로 부드럽게 안내한 뒤” 대화를 종료한다. 플래그된 메시지는 면허 보유 임상의가 검토하기 전에 비식별화되며, 품질 보증을 위해 무작위로 선택된 일부 대화가 매일 검토된다.

정직한 상충 관계: 메시지의 100%를 모니터링하고 매일 무작위 표본을 사람이 검토하는 시스템은, 정의상 아무도 읽지 않는 시스템보다 개인정보 보호 수준이 낮다. Headspace의 입장은 자살 사고를 다루는 제품에는 이러한 교환이 옳다는 것이다. Business Wire는 Ebb 출시 당시 이 제품이 “정신 건강 조언, 안내 또는 진단을 제공하지 않는다”고 보도했다. 이는 위험 범위를 의도적으로 좁힌 것이다.

Headspace는 Ebb가 의료 조언을 제공하거나, 약물을 논의하거나, 임상 치료 기법을 사용하거나, 범위를 벗어난 주제를 다루지 못하도록 하는 명시적 가드레일도 공개한다. 사용 대상은 18세 이상 성인으로 제한된다.

한계: Ebb는 유료 멤버십에 묶여 있어 무료 접근이 제한된다. 면허 보유 치료사를 진단, 치료 또는 대체하지 않는다고 명시한다. 또한 잘 문서화되어 있더라도 안전 모니터링은 선택 사항이 아니다. 사용자는 제품을 계속 이용하면서 메시지 선별만 거부할 수 없다.

Woebot과 Youper에는 무슨 일이 있었으며, 그것이 개인정보 보호에 왜 중요할까?

두 개의 저명한 AI 정신 건강 플랫폼이 시장에서 철수했다. 이들의 종료는 어떤 정책 문서도 다루지 못하는 개인정보 보호 위험, 즉 회사가 더 이상 존재하지 않을 때 데이터에 무슨 일이 일어나는가를 보여 준다.

가장 이른 시기의 CBT 챗봇 중 하나였으며 JMIR Mental Health에 RCT 근거를 발표한 Woebot은 2025년에 서비스를 종료했다. STAT는 FDA가 Woebot에 자사 제품을 가짜 대조 앱과 비교하는 시험을 진행하도록 안내했다고 보도했다. 창립자는 AI가 규제 기관보다 빠르게 발전한다고 이유를 밝혔다. 특히 Woebot의 자체 보관 정책에는 “우리는 절대로, 어떤 경우에도 광고주에게 귀하의 데이터를 판매하거나 공유하지 않습니다”라고 적혀 있었다. 그러나 이러한 약속은 데이터를 보유한 법인이 존속하는 동안에만 유효하다.

Youper의 개인정보 처리방침 페이지에는 현재 한 줄만 표시된다. 서비스는 2026년 9월 30일에 종료되며, 사용자에게 데이터 내보내기 기간이 제공된다. Youper는 JMIR에 “정신 건강 치료를 받기 어려운 사용자도 이용할 수 있는 저비용의 완전 자가 주도형 치료”라는 근거를 발표한 바 있다.

실질적 교훈: 플랫폼의 지속성은 개인정보 보호 기능이다. 수년간의 정서적 고백을 어떤 서비스에 맡기기 전에 데이터 내보내기를 제공하는지 확인하라. 또한 “우리는 절대 데이터를 판매하지 않습니다”라는 말은 회사의 재무 상태에 의해 제한되는 약속으로 보아야 한다. Mozilla의 Privacy Not Included 리뷰는 여러 시점에 Woebot과 Youper를 모두 지적했다. Woebot의 자체 정책도 “어떤 시스템도 100% 안전하지 않다”고 인정했다.

범용 AI 플랫폼은 개인정보 보호를 중시하는 정신적 웰빙에서 어떤 위치를 차지할까?

범용 AI 플랫폼은 실제로 다른 위험 범주에 속하며, 이를 임상 도구와 혼동하는 것은 사용자가 가장 흔히 하는 평가 오류다. 미국심리학회는 “근거 기반, 전문가 의견 또는 출시 후 모니터링이 거의 또는 전혀 없는” “범용 GenAI 챗봇”과 임상 프레임워크에 기반한 목적 특화 웰니스 앱을 명확히 구분한다.

미국심리학회의 첫 번째 권고는 분명하다. 심리치료 또는 심리 치료를 제공하기 위해 GenAI 챗봇과 웰니스 앱에 의존하지 말 것. 이러한 도구는 “지속적인 치료 관계를 대체하는 것이 아니라 보조 수단”으로는 적절할 수 있다.

이 경계 안에서 범용 플랫폼은 실제 개인정보 보호 장점과 실제 공백을 모두 가진다. Jenova는 완전히 끌 수 있는 Global Memory 토글을 제공한다. 이를 끄면 대화는 하나의 세션에만 분리되어 유지되고, 채팅 간에 지속되는 정보가 없다. 플랫폼은 데이터가 공개 AI 모델 학습에 절대 사용되지 않고, 전송 중 및 저장 시 암호화되며, 광고주에게 판매 또는 공유되지 않는다고 밝힌다.

임상 지원이 아닌 인접 웰빙 워크플로를 위해 Jenova 디렉터리에는 기법 매칭 및 실천 프로그램을 위해 주요 명상 전통 전반에서 학습한 Meditation Guide, 그리고 자기 성찰을 위해 Big Five, MBTI, Enneagram 및 애착 이론 프레임워크를 종합하는 Personality Analyzer와 같은 도구가 포함되어 있다.

이 사용 사례에서 Jenova의 명확한 한계:

❌ 임상 검증 없음 — 동료 심사 시험, FDA 지정, 정신 건강 결과에 대한 공개 효능 데이터가 없다.
❌ 위기 감지 인프라 없음 — Ebb의 Safety Risk Identification 시스템과 달리 자살 사고나 자해를 자동 선별하지 않는다.
❌ 치료 제품 아님 — 성찰 및 저널링 워크플로는 CBT 제공과 동일하지 않다.
❌ 계정 필요 — Wysa의 식별자 없는 구조에 해당하는 익명 모드가 없다.

현재 심각한 고통을 겪고 있는 사용자는 범용 어시스턴트가 아니라 목적 특화 임상 도구나 면허 보유 제공자에게 도움을 요청해야 한다.

AI 정신 건강 도구를 최대한 개인정보 보호적으로 설정하려면 어떻게 해야 할까?

가장 효과적인 개인정보 보호 조치는 첫 번째 실질적 대화 전에 하는 설정 선택이지, 나중에 수정하는 설정이 아니다. 다음은 플랫폼과 무관하게 적용할 수 있는 보안 강화 순서다.

1단계 — 공개하기 전에 감사하라. 개인정보 처리방침에서 특히 보존 기간 섹션을 읽어라. 명시된 삭제 기간을 찾아라. 정책이 숫자 제한 없이 데이터를 “필요한 기간 동안” 보관한다고 말한다면, 수년을 가정해야 한다.

2단계 — 가입 시 신원 정보를 최소화하라.

주 이메일이 아닌 전용 이메일 별칭을 사용한다.
선택 사항인 경우 법적 실명 대신 별명을 제공한다.
서비스 작동에 꼭 필요하지 않다면 선택적 인구통계 필드를 거부한다.

3단계 — 플랫폼이 허용한다면 영구 메모리를 비활성화하라.

Jenova에서는 입력 표시줄의 설정을 통해 Global Memory를 토글할 수 있다. 이를 끄면 세션의 어떤 정보도 향후 대화를 위해 보존되지 않으며, 어시스턴트는 이전 세션 맥락에 접근할 수 없다. 그런 다음 명확한 프레임을 제시하며 세션을 시작한다.

“이번 주에 계속 안고 있던 스트레스를 정리해 보고 싶습니다. 진단이나 임상적 조언은 하지 말고, 제 생각을 정리하고 패턴을 파악하도록 도와주세요. 이것은 치료가 아니라 저널링입니다.”

4단계 — Wysa에서는 초기화 기능을 미리 찾아두라. 앱 설정의 “Reset my Data”에 있다. 이를 종료 경로로 사용하기 전에 되돌릴 수 없으며 임상의가 처리한 기록은 제외된다는 점을 이해했는지 확인하라.

5단계 — Headspace의 Ebb에서는 모니터링 전제를 받아들여야 한다. 안전 선별을 비활성화하는 설정은 없다. 지속적인 메시지 모니터링이 자신의 위협 모델과 양립할 수 없다면, 이 제품은 적합하지 않다.

6단계 — 로컬 기록을 보관하라. 미국심리학회는 사용자가 어떤 AI 도구를 사용 중인지 의료 제공자와 공유할 것을 권고하며, “이 정보를 공유하면 제공자가 안내가 도움이 되지 않거나, 안전하지 않거나, 치료 계획과 일치하지 않는 경우를 파악하는 데 도움이 된다”고 설명한다.

7단계 — 검토 날짜를 정하라. 플랫폼은 종료되고 정책은 바뀐다. 6개월마다 보존 정책을 다시 읽고 서비스가 여전히 존재하는지 확인할 일정을 잡아라.

개인정보 보호 및 임상 전문가들은 AI 정신 건강 도구에 대해 무엇을 말할까?

전문가들의 견해는 한 가지로 수렴한다. 이 범주의 개인정보 보호 위험은 주로 암호화 강도가 아니라 데이터 수집을 형성하는 상업적 인센티브에 관한 문제다.

“개인정보 보호를 중시하는 사용자가 물어야 할 질문은 ‘내 데이터는 암호화되는가?’가 아닙니다. 거의 모든 서비스가 암호화합니다. 질문은 ‘무엇이 수집되었는가, 누가 이를 검토했는가, 삭제를 누르면 무엇이 남는가?’여야 합니다. 이 세 가지 답은 플랫폼마다 크게 다르며, 보통 마케팅 문구에는 그중 하나만 나옵니다. 정신 건강 도구를 감사할 때 보존 기본값은 보안 섹션 전체보다 더 많은 것을 알려 줍니다. 정서적 고백 데이터에 10년의 기간이 적용된다는 것은 회사가 자신이 보유한 정보에 대해 진지하게 생각하지 않았다는 뜻입니다.”

“아무도 명확하게 말하고 싶어 하지 않는 구조적 상충 관계가 있습니다. 가장 우수한 위기 안전 인프라를 갖춘 플랫폼은 필연적으로 가장 많은 메시지를 읽는 플랫폼입니다. 지속적인 안전 선별과 대화 개인정보 보호는 직접 충돌합니다. 주된 위험이 급성 위기인 사용자는 모니터링을 선택해야 합니다. 고용, 이민 신분, 양육권 소송 또는 자신의 정체성에 적대적인 관할권 때문에 노출이 주된 위험인 사용자는 익명성을 선택해야 하며, 이를 위해 안전망을 포기한다는 점을 받아들여야 합니다.”

“Woebot과 Youper의 종료는 이 범주를 평가하는 방식을 바꿨습니다. 기업의 지속성은 이제 개인정보 보호 변수입니다. 잘 작성된 개인정보 처리방침은 3년 뒤에는 존재하지 않을 수도 있는 법인과 맺는 계약이며, 인수나 파산 절차는 역사적으로 데이터 약속이 약해지는 지점입니다. 데이터를 주기적으로 내보내십시오. 모든 플랫폼은 일시적인 것으로 취급해야 합니다.”

— Jenova 제품 팀, AI 플랫폼 아키텍처 및 데이터 거버넌스 경력 9년

개인정보 보호를 중시하는 사용자에게 단 하나의 최고의 AI 정신 건강 플랫폼이 있을까?

없다. 그렇지 않다고 주장하는 글은 무언가를 판매하고 있는 것이다. 올바른 선택은 자신의 상황에서 어떤 구체적 개인정보 보호 위험이 가장 큰지에 달려 있다.

Wysa를 선택할 경우: 익명성이 최우선이고 도구의 임상 근거도 원할 때다. 식별자 없는 구조와 문서화된 초기화 기능은 현재 이용 가능한 가장 강력한 조합이며, 36편 이상의 동료 심사 논문과 FDA Breakthrough Device Designation은 경쟁사가 따라오기 어려운 신뢰성을 제공한다. 그 대가로 10년 보존 기본값과 분석 SDK의 존재를 받아들여야 한다.

Headspace의 Ebb를 선택할 경우: 자신 또는 지원하는 사람이 급성 위기를 겪을 수 있고, 문서화된 HIPAA/GDPR 준수와 임상의 검토 인프라를 원할 때다. 모든 메시지가 선별된다는 점을 받아들여야 한다.

Jenova와 같은 범용 플랫폼을 선택할 경우: 세분화된 메모리 제어와 함께 성찰, 저널링 또는 명상 지원을 원하며, 별도의 임상 지원 체계가 마련되어 있을 때다. 치료 대체 수단으로 사용해서는 안 된다.

위 어느 것도 선택하지 말아야 할 경우: 현재 위기 상황에 있는 경우다. 미국심리학회는 이 도구들이 “위기 상황의 사용자를 일관되고 안전하게 관리하는 능력은 제한적이고 예측 불가능하다”고 지적하며, 정신 건강 응급 상황에서 앱에만 의존하는 것은 “위험할 수 있다”고 경고한다. 미국과 캐나다에서는 988을 통해 위기 지원에 직접 연결할 수 있다.

마지막으로 내면화할 만한 구조적 지점이 있다. 미국심리학회 권고는 “대부분의 대규모 언어 모델을 위한 기초 학습 데이터가 공개되지 않아 체계적인 평가가 불가능하다”고 강조하며, 이 모델들이 “본질적으로 학습 데이터의 문화적 규범과 편향을 반영한다”고 말한다. 처음부터 자신의 맥락에 맞춰 평가된 적 없는 모델의 문제를 개인정보 보호 설정만으로 바로잡을 수는 없다.