Bagaimana Menghindari Penyimpanan atau Penggunaan Data Kesehatan Mental Sensitif yang Tidak Jelas saat Melacak Emosi dengan AI?

2026-08-19

Sinyal Apa yang Benar-Benar Menunjukkan bahwa Pelacak Emosi AI Menangani Data Anda dengan Aman?

Sinyal paling andal bukanlah janji dalam kebijakan privasi — melainkan struktur: apakah aplikasi menyebutkan setiap pemroses pihak ketiga secara spesifik, apakah data pernah meninggalkan perangkat Anda, apakah operator tunduk pada HIPAA atau Aturan Pemberitahuan Pelanggaran Kesehatan FTC, serta apakah permintaan penghapusan benar-benar menghapus data dari kumpulan pelatihan AI. Sebuah studi pengukuran tahun 2026 terhadap 25 aplikasi kesehatan mental Android populer menemukan bahwa setiap aplikasi menyematkan setidaknya satu SDK pelacak yang tidak pernah disebutkan dalam kebijakan privasinya, dan 68% gagal mengungkapkan setidaknya separuh pelacak yang disematkan. Dengan kata lain, bahasa kebijakan adalah bukti paling lemah yang tersedia.

Sinyal struktural utama yang membedakan pengaturan pelacakan emosi yang dapat dipertanggungjawabkan dari yang tidak transparan:

✅ Pemroses bernama, bukan kategori — “OpenAI, Anthropic, Groq” adalah pengungkapan; “layanan AI” atau “model bahasa besar” bukan. Tujuh dari 25 aplikasi yang diteliti hanya menggunakan bahasa generik yang tidak dapat diidentifikasi.

✅ Penyimpanan yang mengutamakan lokal atau Anda kendalikan sendiri — data yang tidak pernah mencapai server vendor tidak dapat diperjualbelikan oleh broker, dibobol, atau digunakan untuk pelatihan.

✅ Landasan regulasi yang dapat Anda verifikasi — sebagian besar aplikasi kesehatan mental sepenuhnya berada di luar HIPAA karena tidak dioperasikan oleh entitas yang tercakup.

✅ Makna penghapusan yang jujur — beberapa kebijakan secara terbuka mengonfirmasi bahwa tidak ada pilihan untuk menolak penggunaan pelatihan anonim, yang berarti penghapusan akun tidak menghapus pengungkapan yang telah tertanam dalam bobot model.

✅ Konsistensi antara izin dan kebijakan — peneliti menemukan 16 kontradiksi izin-kebijakan di 13 aplikasi, termasuk enam aplikasi yang meminta akses kamera atau mikrofon tanpa mengungkapkan pengumpulan audio atau video.

Untuk membandingkan alat secara bermakna, penting untuk memahami mengapa data emosional memiliki tingkat paparan yang unik dibandingkan informasi kesehatan lain — serta kerangka evaluasi apa yang benar-benar mengungkap kesenjangannya.

Diagram kerangka empat kolom yang menunjukkan metodologi audit privasi aplikasi kesehatan mental seluler: proses pemilihan aplikasi, proses analisis privasi termasuk analisis keamanan statis dan dinamis, pemetaan temuan ke kategori ancaman LINDDUN, serta proses pengungkapan yang bertanggung jawab

Mengapa Data Emosional Lebih Terpapar daripada Informasi Kesehatan Lain?

Data emosional berada dalam celah regulasi yang tidak berlaku pada rekam medis klinis. Ketika Anda memberi tahu terapis berlisensi tentang serangan panik, pengungkapan tersebut dilindungi oleh kewajiban kerahasiaan profesional dan, di Amerika Serikat, oleh Aturan HIPAA. Ketika Anda mencatat serangan panik yang sama dalam aplikasi pelacak suasana hati, aplikasi tersebut biasanya bukan entitas yang tercakup — sehingga tidak ada hukum federal yang mencegah data yang dikumpulkan melalui pelacak tertanam mengalir ke broker data.

Pasar telah menetapkan nilai atas ketimpangan ini. Riset yang dikutip dalam studi pengukuran aplikasi tahun 2026 mendokumentasikan 11 broker data yang secara terbuka menjual daftar individu yang diurutkan berdasarkan kondisi kesehatan mental — depresi, kecemasan, gangguan bipolar, PTSD — dengan harga serendah $0.20 per rekaman, disertai nama, alamat rumah, dan pendapatan.

Mekanisme paparan kedua adalah inferensi, bukan pengungkapan. SDK periklanan mengirimkan Google Advertising ID suatu perangkat bersama peristiwa penggunaan aplikasi. Karena pengenal itu dibagikan di seluruh aplikasi pada perangkat, jaringan iklan yang menerima panggilan SDK dari aplikasi terapi dapat menentukan bahwa pemilik perangkat sedang mencari dukungan kesehatan mental tanpa pernah membaca satu percakapan pun.

Studi tersebut menemukan SDK Facebook tertanam di 10 dari 25 aplikasi — dan tidak satu pun kebijakan privasi aplikasi tersebut mengungkapkannya.

🎯 Dari Mana “Penggunaan yang Tidak Jelas” Sebenarnya Berasal

Tiga mode kegagalan yang berbeda menghasilkan masalah penyimpanan yang samar, dan masing-masing membutuhkan pertahanan yang berbeda:

Mode Kegagalan	Wujudnya	Mengapa Membaca Kebijakan Tidak Akan Menangkapnya
Pelacak yang tidak diungkapkan	SDK tertanam dalam biner aplikasi, tidak ada di kebijakan	Kebijakan diam — tidak ada yang dapat dibaca
Bahasa pemroses generik	“Kami dapat membagikan data dengan penyedia layanan AI”	Secara teknis akurat, tetapi tidak bermakna secara operasional
Pemasukan pelatihan yang tidak dapat dibalik	Data diserap ke bobot model sebelum penghapusan	Penghapusan dihormati untuk basis data, bukan model

Apa yang Harus Anda Cari dalam Alat Pelacakan Emosi AI?

Evaluasi alat pelacakan emosi berdasarkan enam dimensi — bukan berdasarkan klaim pemasaran tentang “enkripsi setingkat bank”, yang merupakan fitur dasar dan tidak mengatakan apa pun tentang siapa yang menerima data Anda setelahnya. Kerangka ini memberi bobot terbesar pada transparansi tujuan data, karena itulah satu-satunya variabel yang menentukan apakah semua perlindungan lain menjadi penting.

Kerangka Data Emosi Enam Dimensi:

Pengungkapan identitas pemroses — Apakah semua pihak ketiga disebutkan satu per satu, termasuk penyedia inferensi AI? Kategori generik gagal dalam uji ini.
Domisili dan lokalitas data — Apakah konten emosional mentah meninggalkan perangkat Anda? Pemrosesan di perangkat menghilangkan sebagian besar permukaan risiko.
Cakupan regulasi — Apakah operator merupakan entitas yang tercakup HIPAA, rekan bisnis, atau bukan keduanya? Bukan keduanya adalah jawaban yang umum dan tidak otomatis mendiskualifikasi, tetapi mengubah pilihan pemulihan Anda.
Kelengkapan penghapusan — Apakah penghapusan mencakup cadangan, alur analitik, dan korpus pelatihan? Tanyakan secara khusus mengenai yang ketiga.
Minimalisme izin — Apakah aplikasi meminta akses mikrofon, kamera, atau kontak yang secara fungsional tidak dibutuhkannya?
Sikap terhadap pemberitahuan pelanggaran — Apakah operator tercakup oleh Aturan Pemberitahuan Pelanggaran Kesehatan FTC, yang mengharuskan pemberitahuan kepada konsumen, FTC, dan terkadang media setelah pengungkapan tanpa izin atas informasi kesehatan yang dapat mengidentifikasi seseorang?

Panduan FTC sendiri mengonfirmasi bahwa Aturan tersebut berlaku untuk sebagian besar aplikasi kesehatan yang tidak tercakup HIPAA, karena sebagian besar pengembang aplikasi kesehatan diperlakukan sebagai “penyedia layanan kesehatan” yang menyediakan layanan bagi konsumen. Kegagalan untuk memberi tahu dapat memicu penegakan hukum yang menuntut denda perdata.

📊 Metode Penilaian Praktis

Nilai setiap dimensi dari 0–2 (0 = tidak ada, 1 = sebagian, 2 = terverifikasi). Alat dengan nilai di bawah 7 dari 12 tidak seharusnya menerima pengungkapan emosional yang dapat diidentifikasi. Nilai di bawah 4 berarti alat tersebut tidak seharusnya menerima data emosional sama sekali — gunakan hanya untuk konten kebugaran umum.

Bagaimana Perbandingan Pendekatan Utama untuk Pelacakan Emosi AI dalam Hal Privasi?

Tidak ada satu pendekatan yang unggul di semua dimensi — alat khusus lokal memaksimalkan privasi tetapi mengorbankan wawasan longitudinal, sedangkan platform AI terkelola menawarkan analisis lebih kaya dengan permukaan data yang lebih luas. Pilihan yang tepat bergantung pada seberapa sensitif pengungkapan Anda dan apakah Anda membutuhkan data tersebut untuk tetap tersimpan.

Dimensi	Aplikasi Kesehatan Mental Konsumen (misalnya, Wysa, Replika)	Chatbot AI Serbaguna (ChatGPT, Claude, Gemini)	Aplikasi Jurnal Khusus Lokal	Agen Platform Jenova	Alat yang Diterapkan Klinisi / Institusi (misalnya, Sonar, Alongside)
Paparan pelacak pihak ketiga	Tinggi — setiap aplikasi yang diteliti menyematkan pelacak yang tidak diungkapkan	Sedang — lebih sedikit SDK iklan, tetapi data mengalir ke penyedia model	Minimal — tidak ada panggilan jaringan saat offline	Sedang — data mencapai penyedia model yang dipilih; tidak ada lapisan SDK periklanan yang didokumentasikan	Rendah — diterapkan dalam infrastruktur institusional
Transparansi pemroses	Buruk — 7 dari 25 aplikasi tidak menyebut penyedia AI sama sekali	Sedang — penyedia adalah operatornya, sehingga tujuan data tidak ambigu	T/A — tidak ada pemroses	Penyedia model dipilih pengguna pada paket berbayar, sehingga tujuan terlihat; paket gratis menggunakan model default	Sedang — diatur oleh kontrak institusi yang menerapkannya
Cakupan regulasi	Biasanya di luar HIPAA; Undang-Undang FTC dan Aturan Pelanggaran dapat berlaku	Di luar HIPAA; hukum perlindungan konsumen berlaku	Di luar semua rezim kesehatan — tidak ada data yang dikirim	Di luar HIPAA; hukum privasi konsumen umum berlaku	Sering kali berada dalam kerangka kepatuhan institusional
Penanganan keselamatan krisis	Kegagalan terdokumentasi — Common Sense Media menilai aplikasi konsumen Wysa Tidak Dapat Diterima bagi remaja	Dinilai Tidak Dapat Diterima untuk dukungan kesehatan mental remaja	Tidak ada — tidak memiliki kemampuan responsif	Bukan sistem krisis klinis; tidak dirancang untuk eskalasi darurat	Paling kuat — seorang manusia menghubungi wali penguji dalam waktu 15 menit
Risiko kesinambungan layanan	Terdokumentasi — Earkick dan Youper menghilang dari toko aplikasi di tengah studi, membuat 3M+ pengguna terlantar	Rendah — operator besar, tetapi ketentuan berubah	Tidak ada — data adalah milik Anda	Sedang — platform komersial; data dapat diekspor per pesan	Bergantung pada kontrak institusional
Harga	Biasanya freemium; Common Sense Media mencatat pasar sekitar $2B pada 2024	Paket gratis dengan peningkatan berbayar	Sering kali pembelian satu kali atau gratis	Paket gratis tersedia; Plus $20/bln, Premium $50/bln, hingga Enterprise $1,000/bln	Dibeli secara institusional
Paling Cocok Untuk	Latihan CBT terstruktur ketika privasi bukan prioritas	Refleksi luas ketika Anda menerima retensi di sisi penyedia	Pencatatan jurnal privat dengan sensitivitas maksimum	Analisis reflektif ketika Anda menginginkan pilihan model dan rekaman yang dapat diekspor	Remaja dan siapa pun yang membutuhkan eskalasi kepada manusia

Keterbatasan jujur di semua kategori. Aplikasi konsumen menawarkan UX pelacakan emosi yang paling matang dan rekam jejak pengungkapan yang paling lemah. Chatbot serbaguna menawarkan tujuan data yang jelas, tetapi dinilai tidak aman untuk dukungan kesehatan mental remaja. Alat khusus lokal menghilangkan pertanyaan privasi, tetapi tidak dapat mendeteksi pola memburuk atau meningkatkan respons dalam krisis.

Panduan Meditasi Jenova dan Penganalisis Kepribadian relevan di sini sebagai alat reflektif, bukan alat klinis — dan keterbatasannya harus dinyatakan dengan jelas. Keduanya tidak tercakup HIPAA, bukan sistem respons krisis, dan bukan pengganti perawatan berlisensi. Keunggulan strukturalnya lebih sempit dan spesifik: platform menyatakan bahwa data tidak pernah digunakan untuk melatih model AI publik, percakapan dienkripsi saat transit dan saat disimpan, serta data tidak dijual atau dibagikan kepada pengiklan. Paket berbayar memungkinkan pemilihan penyedia model yang memproses sesi, sehingga tujuan data menjadi keputusan pengguna alih-alih nilai default yang tidak diungkapkan. Memori persisten dapat ditinjau pesan demi pesan dan setiap percakapan dapat diekspor atau dihapus dari antarmuka chat.

Apa yang Sebenarnya Dilarang Hukum ketika AI Menginferensikan Emosi?

Lebih sedikit daripada yang diasumsikan kebanyakan orang — dan larangan yang ada memiliki cakupan sempit. Berdasarkan Undang-Undang AI UE, Pasal 5(1)(f) melarang inferensi emosi hanya dalam konteks tempat kerja dan pendidikan, dan hanya ketika inferensi tersebut didasarkan pada data biometrik. Pengenalan emosi di luar lingkungan tersebut tidak dilarang — tetapi diklasifikasikan sebagai berisiko tinggi.

Beberapa batas penting bagi siapa pun yang melacak emosinya sendiri dengan AI:

Inferensi berbasis teks berada di luar larangan. Pedoman Komisi menjelaskan bahwa menginferensikan emosi dari teks tertulis tidak termasuk dalam cakupan — yang mencakup sebagian besar alur kerja jurnal dan catatan suasana hati.
Penggunaan medis dan keselamatan dikecualikan. Sistem yang dimaksudkan untuk penggunaan terapeutik berada dalam pengecualian sempit, yang ditafsirkan secara ketat dan terbatas pada hal yang perlu serta proporsional.
Definisi “tempat kerja” bersifat luas. Pedoman memperluasnya hingga lingkungan kerja dari rumah, pembelajaran online, dan proses perekrutan — sehingga alat kebugaran yang disediakan pemberi kerja dan menginferensikan emosi dari suara merupakan objek hukum yang secara material berbeda dari alat yang sama ketika digunakan secara pribadi.
Kondisi fisik bukanlah “emosi.” Recital 18 mengecualikan rasa sakit dan kelelahan dari definisi tersebut, sehingga sistem pendeteksi kelelahan pengemudi diperbolehkan.

Di Amerika Serikat, pola penegakannya didorong oleh perlindungan konsumen, bukan bersifat kategoris. FTC telah menindak operator kesehatan mental dan telehealth berdasarkan Bagian 5 Undang-Undang FTC, dan para analis mencatat bahwa BetterHelp, Cerebral, GoodRx, dan Flo secara kolektif membayar denda besar atas pembagian data kesehatan tanpa persetujuan yang semestinya. Analisis akademis dan advokasi berpendapat bahwa regulasi Amerika Serikat tidak cukup melindungi data emosi sebagai kategori tersendiri.

Implikasi praktis: perlindungan hukum bukanlah sesuatu yang dapat Anda andalkan secara default. Perlindungan tersebut perlu Anda rancang melalui pemilihan alat dan disiplin pengungkapan.

Bagaimana Mengaudit Aplikasi Pelacak Emosi sebelum Memercayakannya dengan Pengungkapan Nyata?

Lakukan audit empat lapis yang mencerminkan metodologi yang digunakan peneliti keamanan — Anda dapat menyelesaikan versi ringkasnya dalam sekitar 20 menit tanpa alat teknis. Diagram kerangka di atas menggambarkan alur kerja profesional lengkap: kriteria pemilihan aplikasi, analisis privasi berlapis, pemetaan temuan ke kategori ancaman, dan pengungkapan yang bertanggung jawab kepada pengembang.

Versi yang dapat diakses konsumen:

Bandingkan label keamanan data di toko aplikasi dengan kebijakan privasi. Buka keduanya. Catat setiap kategori pihak ketiga yang diklaim oleh label, lalu cari entitas bernama dalam kebijakan. Setiap selisih adalah kesenjangan pengungkapan.
Cari nama penyedia AI dalam kebijakan. Gunakan pencarian browser untuk “OpenAI,” “Anthropic,” “Google,” “pihak ketiga,” dan “model.” Jika kebijakan menyebut “layanan AI” tanpa menyebut siapa pun, perlakukan tujuan data sebagai tidak diketahui.
Audit izin yang diminta terhadap fungsi sebenarnya. Jurnal suasana hati berbasis teks tidak memiliki kebutuhan fungsional terhadap mikrofon, kamera, atau kontak. Tolak apa pun yang tidak lolos uji ini pada tingkat OS.
Cari klausul penghapusan dalam kebijakan — dan khususnya pengecualian pelatihan. Cari frasa seperti “anonim,” “teragregasi,” atau “data yang telah dihapus identitasnya dapat digunakan untuk tujuan apa pun.” Studi tahun 2026 menemukan kebijakan yang secara eksplisit mengonfirmasi bahwa tidak ada mekanisme untuk menolak penggunaan pelatihan anonim.

Untuk sesi Agen Jenova, kontrol yang setara ditampilkan dalam antarmuka, bukan disembunyikan dalam dokumen. Global Memory dapat dimatikan di pengaturan sehingga tidak ada yang bertahan di antara chat. Pada paket berbayar, pemilih model menentukan penyedia mana yang memproses sesi. Pesan individual dapat dihapus dengan kontrol urungkan, dan percakapan penuh dapat diekspor sebagai PDF, Word, TXT, atau CSV sebelum dihapus.

Disiplin pengungkapan yang berguna terlepas dari alat yang dipakai — tulis entri, lalu baca kembali dan tanyakan apakah entri itu masih aman bila muncul dalam daftar broker data. Jika tidak, hapus pengenal atau pindahkan secara offline.

“Analisis pola emosional dalam entri jurnal ini dan identifikasi pemicu yang berulang. Saya telah mengganti semua nama dengan inisial dan menghapus lokasi.”

Kebiasaan penyusunan tunggal itu — melakukan pseudonimisasi sebelum pengiriman — mengurangi risiko identifikasi ulang lebih besar daripada janji vendor mana pun.

Bagaimana Sikap Privasi Anda Harus Berubah di Berbagai Tahap Pelacakan Emosi Diri?

Paparan privasi Anda harus meningkat seiring kedalaman keterlibatan, bukan tetap sama. Seseorang yang sekadar ingin tahu tentang pelacakan suasana hati menghadapi model ancaman yang berbeda dari seseorang yang mencatat pengungkapan terkait krisis setiap hari, dan alat yang tepat berubah sesuai situasinya.

Diagram kerangka yang memetakan tahap keterlibatan pengguna dari pra-kontemplasi melalui sikap, niat, dan tindakan menuju pemeliharaan, berdampingan dengan tiga platform digital — media sosial, smartphone, dan perangkat wearable — masing-masing dengan prioritas etika terkait, termasuk kebebasan, privasi, keselamatan, validitas, dan autentisitas

Kerangka di atas memetakan perkembangan yang bermanfaat. Perhatikan bahwa privasi, anonimitas, dan autentisitas muncul sebagai perhatian bersama di ketiga kategori platform — media sosial, smartphone, dan wearable — sedangkan perhatian di sekelilingnya berbeda. Platform media sosial memunculkan pertanyaan tentang kebebasan dan etika; smartphone memunculkan efisiensi dan keselamatan; wearable memunculkan keandalan dan validitas.

Penerapannya pada pemilihan alat:

Tahap	Kedalaman Pengungkapan yang Umum	Sikap Privasi yang Tepat
Menjelajahi	Pertanyaan umum, tanpa detail pribadi	Alat apa pun dapat diterima; perlakukan sebagai publik
Membangun kebiasaan	Suasana hati berulang, konteks umum	Hanya alat dengan pemroses bernama; tolak izin yang tidak esensial
Pelacakan konsisten	Pemicu spesifik, hubungan, pola	Lakukan pseudonimisasi pada entri; nonaktifkan memori persisten kecuali diperlukan
Pencatatan sensitivitas tinggi	Trauma, ide bunuh diri, detail klinis	Khusus lokal atau klinisi berlisensi; jangan gunakan alat AI konsumen

Dimensi wearable layak mendapat perlakuan terpisah. Inferensi emosi fisiologis — variabilitas denyut jantung, konduktansi kulit, nada suara — menghasilkan data biometrik, yaitu kategori tepat yang menjadi dasar ketentuan pengenalan emosi dalam Undang-Undang AI UE. Jika wearable memasukkan inferensi emosi ke dalam program kebugaran pemberi kerja, Anda telah memasuki zona terlarang menurut hukum UE dan sikap risiko yang secara material lebih tinggi di tempat lain.

Apa Pendapat Peneliti Privasi dan Klinis tentang Pelacakan Emosi AI?

Konsensus di kalangan peneliti privasi dan evaluator klinis adalah bahwa kesenjangannya bersifat struktural, bukan kebetulan — kegagalan pengungkapan berakar pada praktik sistemik, bukan penipuan yang disengaja, dan justru karena itulah kewaspadaan individu tidak dapat sepenuhnya menutupnya.

“Temuan paling penting dalam bidang ini bukanlah bahwa satu aplikasi tertentu berperilaku buruk — melainkan bahwa kegagalannya bersifat universal. Ketika setiap aplikasi dalam sampel 25 aplikasi menyematkan pelacak yang tidak disebutkan oleh kebijakannya sendiri, yang Anda lihat bukanlah pelaku buruk. Anda melihat ekosistem tempat SDK pihak ketiga diwariskan tanpa audit privasi, bahasa kebijakan generik digunakan ulang di berbagai produk, dan kecepatan peluncuran fitur diprioritaskan di atas peninjauan kepatuhan. Perbedaan itu penting, karena berarti berpindah aplikasi tidak menyelesaikan masalah. Mengubah perilaku pengungkapan Anda yang menyelesaikannya.”

“Hal kedua yang secara konsisten diremehkan pengguna adalah sifat pemasukan pelatihan yang tidak dapat dibalik. Orang-orang memperlakukan penghapusan akun sebagai tombol reset. Padahal bukan. Jika entri Anda digunakan untuk menyempurnakan atau mengevaluasi model sebelum Anda menghapusnya, tidak ada mekanisme yang bermakna untuk mengekstraknya dari bobot model. Panduan praktis kami sederhana: anggap apa pun yang Anda ketik ke dalam sistem yang tidak secara eksplisit berkomitmen untuk mengecualikan data Anda dari pelatihan sebagai sesuatu yang permanen. Komitmen itu harus eksplisit dan spesifik — ‘kami menganggap privasi sebagai hal serius’ bukanlah komitmen.”

“Bagi siapa pun yang membangun kebiasaan pelacakan emosi, perubahan tunggal dengan dampak terbesar adalah pseudonimisasi pada input. Biayanya nol, tetap berlaku saat terjadi pelanggaran, tetap berlaku saat dijual ke broker, dan tetap berlaku saat masuk ke pelatihan. Enkripsi melindungi data dalam saluran yang tidak Anda kendalikan. Pseudonimisasi melindunginya di setiap saluran secara bersamaan.”

— Tim Produk Jenova, 8 tahun dalam infrastruktur Agen AI dan rekayasa privasi terapan

Apakah Pelacakan Emosi di Perangkat atau Khusus Lokal Sebenarnya Pilihan yang Lebih Aman?

Pelacakan khusus lokal adalah pilihan privasi terkuat yang tersedia dan sekaligus pilihan keselamatan terlemah — pertukarannya nyata dan harus dibuat secara sengaja, bukan secara default. Data yang tidak pernah meninggalkan perangkat Anda tidak dapat dijual kepada broker, diserap ke dalam korpus pelatihan, atau terpapar akibat pelanggaran vendor. Tidak ada opsi lain dalam perbandingan ini yang menawarkan jaminan tersebut.

Hal yang benar-benar dihilangkan oleh khusus lokal:

Paparan pelacak pihak ketiga sepenuhnya — tidak ada panggilan jaringan berarti tidak ada transmisi SDK
Risiko broker data — daftar kesehatan mental seharga $0.20 per rekaman yang didokumentasikan peneliti mengharuskan data meninggalkan perangkat Anda terlebih dahulu
Diskontinuitas layanan — hilangnya Earkick dan Youper membuat 3M+ pengguna terlantar; file lokal tidak menghilang ketika perusahaan lenyap

Konsekuensinya bagi Anda:

Tidak ada analisis pola dari waktu ke waktu selain yang Anda lakukan secara manual
Tidak ada deteksi atau eskalasi krisis dalam bentuk apa pun
Tidak ada sinkronisasi lintas perangkat kecuali Anda membuat cadangan terenkripsi sendiri
Hasil analitis jauh lebih lemah dibandingkan yang dapat dihasilkan model besar

Sikap hibrida yang sebaiknya diterapkan kebanyakan orang: simpan rekaman emosi mentah yang dapat mengidentifikasi seseorang secara lokal. Kirimkan hanya rangkuman yang telah dipseudonimkan ke alat AI untuk analisis pola. Anda mempertahankan manfaat analitis sambil menjaga substrat sensitif sepenuhnya di luar infrastruktur vendor.

Ketika terdapat risiko krisis, tidak satu pun opsi ini yang sesuai. Penilaian Common Sense Media menemukan bahwa alat institusional dengan pengawasan manusia mencapai peringkat risiko yang jauh lebih rendah bukan karena teknologi dasarnya lebih baik, melainkan karena pilihan desain yang berbeda terkait keterlibatan manusia — dan bahkan produk dengan nilai paling aman memiliki kesenjangan terdokumentasi, termasuk setidaknya satu kejadian ketika pengungkapan ide bunuh diri ditandai sebagai “Tingkat Risiko: Tidak Ada.”

Jika Anda sedang dalam krisis, 988 Suicide & Crisis Lifeline dapat dihubungi melalui telepon atau pesan teks di 988, dan Crisis Text Line dengan mengirim pesan HOME ke 741741.

Pertanyaan Apa yang Harus Anda Kirimkan kepada Vendor sebelum Memercayakan Data Sensitif?

Kirim lima pertanyaan spesifik — pertanyaan yang samar menghasilkan jawaban yang samar, dan vendor yang tidak dapat menjawabnya dengan tepat sudah memberi tahu Anda semua yang perlu diketahui. Peneliti memformalkan ini sebagai permintaan Privacy Impact Assessment; versi konsumen adalah tiket dukungan.

“Harap cantumkan setiap layanan pihak ketiga yang menerima konten atau metadata pengguna, berdasarkan nama perusahaan.” Kategori bukan jawaban yang dapat diterima.
“Apakah konten pengguna dikirim ke penyedia AI atau LLM eksternal? Jika ya, siapa saja, dan dengan ketentuan pemrosesan data apa?”
“Ketika saya menghapus akun, apakah penghapusan mencakup cadangan, gudang analitik, serta setiap kumpulan data pelatihan atau evaluasi? Harap jawab masing-masing secara terpisah.”
“Apakah Anda tunduk pada Aturan Pemberitahuan Pelanggaran Kesehatan FTC? Jika tidak, atas dasar apa?” Panduan FTC sendiri mencatat bahwa Aturan tersebut berlaku untuk sebagian besar aplikasi kesehatan di luar HIPAA.
“Apakah Anda menggunakan konten percakapan untuk periklanan, penargetan iklan, atau pembuatan audiens serupa?”

Cara membaca responsnya. Vendor dengan praktik yang bersih menjawab kelima pertanyaan dalam satu paragraf. Vendor yang bermasalah akan mengulangi kebijakan privasi, mengarahkan Anda ke halaman kepercayaan, atau menjawab empat pertanyaan dan melewati pertanyaan penghapusan. Tidak adanya respons terhadap pertanyaan 3 adalah tanda paling diagnostik — pertanyaan ini memiliki ruang ambigu paling sedikit dan paparan hukum paling besar.

Untuk Jenova secara khusus, posisi yang dipublikasikan platform mencakup beberapa hal tersebut secara langsung: data tidak digunakan untuk melatih model AI publik, data dienkripsi saat transit dan saat disimpan, serta tidak dijual atau dibagikan kepada pengiklan. Kontak perusahaan untuk pertanyaan privasi adalah [email protected], dan Azeroth Inc. berbasis di New York. Hal yang tidak diklaim oleh platform — dan tidak seharusnya diasumsikan tersedia — adalah status entitas yang tercakup HIPAA, eskalasi krisis klinis, atau bentuk perawatan berlisensi apa pun.