Как избежать неясного хранения и использования конфиденциальных данных о психическом здоровье при отслеживании эмоций с помощью AI?

2026-08-19

Какие сигналы действительно показывают, безопасно ли AI-трекер эмоций обрабатывает ваши данные?

Самые надёжные сигналы — не обещания в политике конфиденциальности, а структура сервиса: называет ли приложение каждого стороннего обработчика по имени, покидают ли данные ваше устройство, подпадает ли оператор под HIPAA или Правило FTC об уведомлении об утечках медицинских данных и удаляются ли данные из наборов для обучения AI после запроса на удаление. Исследование 2026 года, в котором измеряли параметры 25 популярных Android-приложений для психического здоровья, показало, что каждое приложение содержало как минимум один SDK-трекер, не упомянутый в его политике конфиденциальности, а 68% приложений не раскрывали сведения как минимум о половине встроенных трекеров. Иными словами, формулировки политики — самое слабое из доступных доказательств.

Ключевые структурные признаки, отличающие оправданные решения для отслеживания эмоций от непрозрачных:

✅ Названные обработчики, а не категории — «OpenAI, Anthropic, Groq» является раскрытием информации; «AI-сервисы» или «большие языковые модели» — нет. Семь из 25 изученных приложений использовали только общие, неидентифицируемые формулировки.

✅ Локальное хранение или хранилище под вашим контролем — данные, которые никогда не попадают на сервер поставщика, нельзя передать брокерам, скомпрометировать при утечке или использовать для обучения.

✅ Проверяемая нормативная основа — большинство приложений для психического здоровья вообще не подпадают под HIPAA, поскольку ими не управляют организации, подпадающие под действие этих норм.

✅ Честная семантика удаления — некоторые политики открыто подтверждают отсутствие возможности отказаться от использования анонимизированных данных для обучения, то есть удаление аккаунта не убирает сведения, уже встроенные в веса модели.

✅ Соответствие между разрешениями и политикой — исследователи обнаружили 16 противоречий между разрешениями и политиками в 13 приложениях, включая шесть приложений, запрашивавших доступ к камере или микрофону без раскрытия сбора аудио- или видеоданных.

Чтобы содержательно сравнивать инструменты, важно понять, почему эмоциональные данные особенно уязвимы по сравнению с другой медицинской информацией и какая система оценки действительно выявляет пробелы.

Схема из четырёх колонок, показывающая методологию аудита конфиденциальности мобильного приложения для психического здоровья: процесс отбора приложений, анализ конфиденциальности со статическим и динамическим анализом безопасности, сопоставление результатов с категориями угроз LINDDUN и процесс ответственного раскрытия информации

Почему эмоциональные данные более уязвимы, чем другая медицинская информация?

Эмоциональные данные находятся в нормативном пробеле, в котором не оказываются клинические записи. Когда вы рассказываете лицензированному терапевту о панической атаке, это раскрытие защищено обязательствами профессиональной конфиденциальности и, в Соединённых Штатах, правилами HIPAA. Когда вы фиксируете ту же паническую атаку в приложении для отслеживания настроения, такое приложение обычно не является организацией, подпадающей под действие норм HIPAA, — поэтому никакой федеральный закон не препятствует передаче данных, собранных через встроенные трекеры, брокерам данных.

Рынок уже отразил эту асимметрию в ценах. Исследование, процитированное в работе по измерению приложений 2026 года, задокументировало 11 брокеров данных, открыто продающих списки людей, отсортированные по психическим расстройствам — депрессия, тревожность, биполярное расстройство, PTSD — всего по $0.20 за запись, с прикреплёнными именами, домашними адресами и доходами.

Второй механизм раскрытия — вывод, а не прямое раскрытие. Рекламные SDK передают Google Advertising ID устройства вместе с событиями использования приложения. Поскольку этот идентификатор используется во всех приложениях устройства, рекламная сеть, получающая вызовы SDK от приложения для терапии, может установить, что владелец устройства ищет поддержку по вопросам психического здоровья, не прочитав ни одного сообщения.

Исследование выявило SDK Facebook в 10 из 25 приложений, и ни одна из политик конфиденциальности этих приложений не раскрывала его наличие.

🎯 Откуда на самом деле возникает «неясное использование»

Три разных типа сбоев создают проблему неясного хранения, и для каждого нужны разные меры защиты:

Тип сбоя	Как это выглядит	Почему чтение политики этого не выявит
Нераскрытые трекеры	SDK встроены в бинарный файл приложения, но отсутствуют в политике	Политика умалчивает об этом — читать нечего
Общие формулировки об обработчиках	«Мы можем передавать данные поставщикам AI-услуг»	Технически верно, но операционно бессодержательно
Необратимое включение в обучение	Данные поглощаются весами модели до удаления	Удаление соблюдается для базы данных, но не для модели

На что следует обращать внимание в AI-инструменте для отслеживания эмоций?

Оценивайте инструменты для отслеживания эмоций по шести параметрам, а не по маркетинговым заявлениям о «шифровании банковского уровня». Это базовое свойство, которое ничего не говорит о том, кто получит ваши данные далее. В этой системе наибольший вес имеет прозрачность конечного назначения данных, поскольку именно она определяет, имеют ли значение все остальные меры защиты.

Система оценки эмоциональных данных по шести параметрам:

Раскрытие личности обработчиков — названы ли все третьи стороны по отдельности, включая поставщиков AI-инференса? Общие категории этот тест не проходят.
Местонахождение и локальность данных — покидает ли необработанное эмоциональное содержимое ваше устройство? Обработка на устройстве сокращает большую часть поверхности риска.
Нормативное покрытие — является ли оператор организацией, подпадающей под HIPAA, деловым партнёром или ни тем ни другим? Последний вариант наиболее распространён и не является дисквалифицирующим, но влияет на доступные вам средства защиты.
Полнота удаления — распространяется ли удаление на резервные копии, аналитические конвейеры и обучающие корпуса? Отдельно спросите о третьем пункте.
Минимизация разрешений — запрашивает ли приложение доступ к микрофону, камере или контактам, который ему функционально не нужен?
Подход к уведомлению об утечках — подпадает ли оператор под Правило FTC об уведомлении об утечках медицинских данных, требующее уведомлять потребителей, FTC, а иногда и СМИ после несанкционированного раскрытия идентифицируемой медицинской информации?

Собственное руководство FTC подтверждает, что Правило применяется к большинству медицинских приложений, не подпадающих под HIPAA, поскольку большинство разработчиков медицинских приложений рассматриваются как «поставщики медицинских услуг», предоставляющие услуги потребителям. Неспособность уведомить может привести к принудительным мерам с требованием гражданских штрафов.

📊 Практический метод оценки

Оценивайте каждый параметр от 0 до 2 (0 = отсутствует, 1 = частично, 2 = подтверждено). Инструменту с результатом ниже 7 из 12 не следует передавать идентифицируемые эмоциональные раскрытия. Результат ниже 4 означает, что ему вообще не следует передавать эмоциональные данные — используйте его только для общего контента о благополучии.

Как основные подходы к AI-отслеживанию эмоций сравниваются с точки зрения конфиденциальности?

Ни один подход не выигрывает по всем параметрам: исключительно локальные инструменты обеспечивают максимальную конфиденциальность, но жертвуют продольным анализом, тогда как управляемые AI-платформы дают более содержательный анализ при большей поверхности данных. Правильный выбор зависит от чувствительности ваших раскрытий и от того, нужно ли вам сохранять данные.

Параметр	Потребительские приложения для психического здоровья (например, Wysa, Replika)	Универсальные AI-чат-боты (ChatGPT, Claude, Gemini)	Приложения для дневника только с локальным хранением	Агенты платформы Jenova	Инструменты, внедрённые клиницистами / учреждениями (например, Sonar, Alongside)
Подверженность сторонним трекерам	Высокая — каждое изученное приложение содержало нераскрытые трекеры	Умеренная — меньше рекламных SDK, но данные поступают поставщику модели	Минимальная — в офлайн-режиме нет сетевых вызовов	Умеренная — данные поступают выбранному поставщику модели; рекламный слой SDK не задокументирован	Низкая — развёрнуты в инфраструктуре учреждения
Прозрачность обработчиков	Низкая — 7 из 25 приложений вообще не назвали поставщика AI	Умеренная — поставщик является оператором, поэтому назначение данных однозначно	Н/П — обработчиков нет	Поставщик модели выбирается пользователем на платных тарифах, поэтому назначение видно; бесплатный тариф использует модель по умолчанию	Умеренная — регулируется договорами учреждения, внедряющего инструмент
Нормативное покрытие	Обычно вне HIPAA; могут применяться Закон FTC и Правило об утечках	Вне HIPAA; применяется законодательство о защите потребителей	Вне всех режимов здравоохранения — данные не передаются	Вне HIPAA; применяется общее законодательство о конфиденциальности потребителей	Часто входит в институциональные системы соответствия требованиям
Работа с безопасностью в кризисных ситуациях	Зафиксированные сбои — Common Sense Media присвоил потребительскому приложению Wysa оценку «Неприемлемо» для подростков	Оценены как «Неприемлемо» для поддержки психического здоровья подростков	Отсутствует — нет возможности реагировать	Не является клинической кризисной системой; не предназначено для экстренной эскалации	Самый высокий уровень — человек позвонил тестовому опекуну в течение 15 минут
Риск прекращения сервиса	Задокументирован — Earkick и Youper исчезли из магазинов приложений во время исследования, оставив без доступа более 3M пользователей	Низкий — крупные операторы, хотя условия могут меняться	Отсутствует — данные принадлежат вам	Умеренный — коммерческая платформа; данные можно экспортировать для каждого сообщения	Зависит от договора с учреждением
Стоимость	Обычно freemium; Common Sense Media отмечает рынок примерно в $2B в 2024 году	Бесплатные тарифы с платными обновлениями	Часто разовая покупка или бесплатно	Доступен бесплатный тариф; Plus $20/мес., Premium $50/мес., вплоть до Enterprise $1,000/мес.	Приобретаются учреждениями
Лучше всего подходит для	Структурированных упражнений CBT, когда конфиденциальность не в приоритете	Широкой рефлексии, когда вы принимаете хранение у поставщика	Частного ведения дневника с максимальной чувствительностью	Рефлексивного анализа, когда нужен выбор модели и экспортируемые записи	Подростков и всех, кому необходима эскалация к человеку

Честные ограничения для всех вариантов. Потребительские приложения предлагают наиболее проработанный UX для отслеживания эмоций и имеют наихудшие показатели раскрытия информации. Универсальные чат-боты предлагают понятные назначения данных, но были признаны небезопасными для поддержки психического здоровья подростков. Только локальные инструменты устраняют вопрос конфиденциальности, но не могут выявлять признаки ухудшения или эскалировать кризис.

Гид Jenova по медитации и Анализатор личности уместны здесь как инструменты для рефлексии, а не как клинические решения, и их ограничения следует обозначить прямо. Они не подпадают под HIPAA, не являются системами кризисного реагирования и не заменяют лицензированную помощь. Их структурные преимущества уже и конкретнее: платформа заявляет, что данные никогда не используются для обучения публичных AI-моделей, разговоры шифруются при передаче и хранении, а данные не продаются и не передаются рекламодателям. Платные тарифы позволяют выбрать, какой поставщик модели обрабатывает сеанс, что превращает назначение данных в решение пользователя, а не в нераскрытое значение по умолчанию. Постоянную память можно просмотреть сообщение за сообщением, а любой разговор — экспортировать или удалить через интерфейс чата.

Что на самом деле запрещает закон, когда AI делает выводы об эмоциях?

Меньше, чем предполагает большинство людей, и существующие запреты имеют узкую сферу действия. Согласно EU AI Act, статья 5(1)(f) запрещает вывод об эмоциях только в контексте работы и образования и только в случаях, когда такой вывод основан на биометрических данных. Распознавание эмоций вне этих условий не запрещено — оно классифицируется как высокорисковое.

Несколько границ важны для каждого, кто отслеживает собственные эмоции с помощью AI:

Вывод на основе текста не подпадает под запрет. Руководящие указания Комиссии уточняют, что вывод об эмоциях из письменного текста не входит в сферу действия запрета, что охватывает большинство сценариев ведения дневника и журнала настроения.
Медицинское использование и использование в целях безопасности исключены. Системы, предназначенные для терапевтического использования, подпадают под узкое исключение, которое толкуется строго и ограничено необходимым и соразмерным.
Определение «рабочего места» широко. Руководящие указания распространяют его на домашнюю рабочую среду, онлайн-обучение и процессы найма, поэтому инструмент благополучия, предоставленный работодателем и делающий выводы об эмоциях по голосу, юридически существенно отличается от того же инструмента при личном использовании.
Физические состояния не являются «эмоциями». Пункт 18 преамбулы исключает боль и усталость из определения, поэтому системы контроля усталости водителей разрешены.

В Соединённых Штатах практика правоприменения ориентирована на защиту потребителей, а не на категорические запреты. FTC преследовала операторов в сфере психического здоровья и телемедицины по разделу 5 Закона FTC, а аналитики отмечали, что BetterHelp, Cerebral, GoodRx и Flo совместно выплатили существенные штрафы за передачу медицинских данных без надлежащего согласия. Академические и правозащитные исследования утверждают, что законодательство США не обеспечивает адекватной защиты эмоциональных данных как отдельной категории.

Практический вывод: правовая защита — не то, на что можно полагаться по умолчанию. Её необходимо компенсировать выбором инструмента и дисциплиной раскрытия информации.

Как проверить приложение для отслеживания эмоций, прежде чем доверить ему реальные раскрытия?

Проведите четырёхуровневый аудит, повторяющий методологию, используемую исследователями безопасности. Сокращённую версию можно выполнить примерно за 20 минут без технических инструментов. Схема выше иллюстрирует полный профессиональный процесс: критерии отбора приложений, многоуровневый анализ конфиденциальности, сопоставление результатов с категориями угроз и ответственное раскрытие информации разработчикам.

Версия, доступная потребителю:

Сопоставьте ярлык безопасности данных в магазине приложений с политикой конфиденциальности. Откройте оба документа. Составьте список каждой категории третьих сторон, заявленной на ярлыке, затем найдите в политике названные организации. Любой разрыв — это пробел в раскрытии информации.
Ищите в политике названия поставщиков AI. Используйте поиск в браузере по словам «OpenAI», «Anthropic», «Google», «третья сторона» и «модель». Если в политике сказано «AI-сервисы» без указания конкретных компаний, считайте назначение данных неизвестным.
Проверьте запрошенные разрешения относительно реальной функции. Текстовому дневнику настроения функционально не нужны микрофон, камера или контакты. Отклоняйте всё, что не проходит этот тест, на уровне ОС.
Ищите в политике пункт об удалении и особенно исключения для обучения. Обращайте внимание на фразы вроде «анонимизированные», «агрегированные» или «обезличенные данные могут использоваться для любых целей». Исследование 2026 года обнаружило политики, прямо подтверждающие отсутствие механизма отказа от использования анонимизированных данных для обучения.

Для сеанса с агентом Jenova эквивалентные механизмы управления доступны в интерфейсе, а не спрятаны в документе. Global Memory можно отключить в настройках, чтобы между чатами ничего не сохранялось. На платных тарифах селектор модели определяет, какой поставщик обрабатывает сеанс. Отдельные сообщения можно удалить с помощью функции отмены, а полные разговоры — экспортировать как PDF, Word, TXT или CSV перед удалением.

Полезная дисциплина раскрытия вне зависимости от инструмента: напишите запись, затем перечитайте её и спросите себя, осталась бы она безопасной, если бы появилась в списке брокера данных. Если нет, либо удалите идентификаторы, либо перенесите её в офлайн.

«Проанализируй эмоциональные закономерности в этих записях дневника и выяви повторяющиеся триггеры. Я заменил все имена инициалами и удалил названия мест.»

Одна эта привычка формулировать запросы — псевдонимизация до отправки — снижает риск повторной идентификации сильнее, чем любое обещание поставщика.

Как должен меняться ваш подход к конфиденциальности на разных этапах самостоятельного отслеживания эмоций?

Ваше воздействие на конфиденциальность должно масштабироваться вместе с глубиной вовлечения, а не оставаться неизменным. У человека, который лишь поверхностно интересуется отслеживанием настроения, модель угроз отличается от модели для человека, ежедневно фиксирующего раскрытия, близкие к кризисным, и соответственно должен меняться используемый инструмент.

Схема, отображающая этапы вовлечённости пользователя от отсутствия намерения через отношение, намерение и действие к поддержанию, а также три цифровые платформы — социальные сети, смартфон и носимые устройства — с этическими приоритетами, включая свободу, конфиденциальность, безопасность, достоверность и аутентичность

Приведённая выше схема отображает полезную последовательность. Обратите внимание, что конфиденциальность, анонимность и аутентичность выступают общими проблемами для всех трёх категорий платформ — социальных сетей, смартфонов и носимых устройств, — тогда как сопутствующие вопросы различаются. Социальные сети поднимают вопросы свободы и этики; смартфоны — эффективности и безопасности; носимые устройства — надёжности и достоверности.

Применение этого к выбору инструмента:

Этап	Типичная глубина раскрытия	Подходящий уровень конфиденциальности
Изучение	Общие вопросы, без личных деталей	Допустим любой инструмент; относитесь к нему как к публичному
Формирование привычки	Повторяющиеся настроения, общий контекст	Только инструменты с названными обработчиками; отклоняйте необязательные разрешения
Регулярное отслеживание	Конкретные триггеры, отношения, закономерности	Псевдонимизируйте записи; отключайте постоянную память, если она не нужна
Ведение записей высокой чувствительности	Травма, суицидальные мысли, клинические детали	Только локальный инструмент или лицензированный клиницист; никаких потребительских AI-инструментов

Носимые устройства заслуживают отдельного рассмотрения. Физиологический вывод об эмоциях — по вариабельности сердечного ритма, проводимости кожи, тону голоса — создаёт биометрические данные, то есть именно ту категорию, к которой относятся положения EU AI Act о распознавании эмоций. Если носимое устройство передаёт вывод об эмоциях в программу благополучия работодателя, вы переходите в запрещённую зону по праву ЕС и в существенно более рискованный режим во всех остальных местах.

Что говорят исследователи конфиденциальности и клинические эксперты об AI-отслеживании эмоций?

Консенсус среди исследователей конфиденциальности и клинических оценщиков заключается в том, что разрыв носит структурный, а не случайный характер: сбои в раскрытии информации происходят из системных практик, а не из намеренного обмана. Именно поэтому индивидуальная бдительность не может полностью устранить проблему.

«Самый важный вывод в этой области состоит не в том, что какое-то одно приложение ведёт себя плохо, а в том, что сбой универсален. Когда каждое приложение в выборке из 25 содержит трекеры, которые его собственная политика не называет, перед нами не просто недобросовестные игроки. Перед нами экосистема, где сторонние SDK наследуются без аудита конфиденциальности, шаблонные формулировки политик повторно используются в разных продуктах, а скорость добавления функций важнее проверки соответствия требованиям. Это различие имеет значение, потому что смена приложения не решает проблему. Её меняет изменение вашего поведения при раскрытии информации».

«Второй момент, который пользователи систематически недооценивают, — необратимость включения данных в обучение. Люди воспринимают удаление аккаунта как кнопку сброса. Это не так. Если ваши записи использовались для тонкой настройки или оценки модели до удаления, не существует значимого механизма извлечь их из весов модели. Наш практический совет прост: считайте постоянным всё, что вы вводите в систему, которая явно не обязуется исключать ваши данные из обучения. Обязательство должно быть прямым и конкретным: «мы серьёзно относимся к конфиденциальности» — не обязательство».

«Для каждого, кто формирует привычки отслеживания эмоций, изменение с наибольшим эффектом — это псевдонимизация на входе. Она ничего не стоит, сохраняет эффект при утечке, при продаже брокеру и при включении в обучение. Шифрование защищает данные в канале, который вы не контролируете. Псевдонимизация защищает их одновременно во всех каналах».

— Команда продукта Jenova, 8 лет в инфраструктуре AI-агентов и прикладной инженерии конфиденциальности

Действительно ли отслеживание эмоций на устройстве или только локально безопаснее?

Только локальное отслеживание — самый сильный из доступных вариантов конфиденциальности и одновременно самый слабый вариант безопасности. Этот компромисс реален, и его следует делать сознательно, а не по умолчанию. Данные, которые никогда не покидают ваше устройство, нельзя продать брокерам, включить в обучающие корпуса или раскрыть при утечке у поставщика. Ничто другое в этом сравнении не даёт такой гарантии.

Что локальный подход действительно устраняет:

Полностью исключает воздействие сторонних трекеров: отсутствие сетевых вызовов означает отсутствие передач через SDK
Риск со стороны брокеров данных: списки людей с психическими расстройствами по $0.20 за запись, задокументированные исследователями, требуют, чтобы данные сначала покинули ваше устройство
Прекращение работы сервиса: исчезновение Earkick и Youper оставило без доступа более 3M пользователей; локальный файл не исчезает вместе с компанией

Чем вы за это платите:

Нет анализа закономерностей во времени, кроме того, который вы выполняете вручную
Нет обнаружения кризиса или эскалации любого рода
Нет синхронизации между устройствами, если вы самостоятельно не настроите зашифрованное резервное копирование
Существенно более слабый аналитический результат по сравнению с тем, который может дать большая модель

Гибридная модель, которую большинству людей следует использовать: храните необработанные идентифицируемые эмоциональные записи локально. Отправляйте AI-инструменту только псевдонимизированные сводки для анализа закономерностей. Так вы сохраняете аналитическую пользу, полностью удерживая чувствительную основу вне инфраструктуры поставщика.

При наличии риска кризиса ни один из этих вариантов не подходит. Оценка Common Sense Media установила, что институциональные инструменты с человеческим контролем получили существенно более низкие оценки риска не потому, что базовая технология была лучше, а из-за иных решений о вовлечении людей. При этом даже продукт с наивысшей оценкой имел задокументированные пробелы, включая как минимум один случай, когда раскрытие суицидальных мыслей было отмечено как «Уровень риска: отсутствует».

Если вы находитесь в кризисной ситуации, с линией помощи при суицидальном кризисе 988 Suicide & Crisis Lifeline можно связаться звонком или SMS на номер 988, а с Crisis Text Line — отправив HOME на номер 741741.

Какие вопросы следует задать поставщику перед передачей конфиденциальных данных?

Отправьте пять конкретных вопросов. Расплывчатые вопросы дают расплывчатые ответы, а поставщики, которые не могут ответить на них точно, уже сообщили вам всё необходимое. Исследователи формализуют это как запрос на оценку воздействия на конфиденциальность; потребительская версия — обращение в поддержку.

«Перечислите, пожалуйста, каждую стороннюю службу, которая получает пользовательский контент или метаданные, с указанием названия компании». Ответы категориями неприемлемы.
«Передаётся ли пользовательский контент внешнему поставщику AI или LLM? Если да, каким именно и на каких условиях обработки данных?»
«Когда я удаляю аккаунт, распространяется ли удаление на резервные копии, аналитические хранилища и наборы данных для обучения или оценки? Пожалуйста, ответьте по каждому пункту отдельно».
«Подпадаете ли вы под Правило FTC об уведомлении об утечках медицинских данных? Если нет, на каком основании?» Собственное руководство FTC отмечает, что Правило применяется к большинству медицинских приложений вне HIPAA.
«Используете ли вы содержимое разговоров для рекламы, рекламного таргетинга или формирования похожих аудиторий?»

Как интерпретировать ответ. Поставщик с прозрачными практиками отвечает на все пять вопросов в одном абзаце. Поставщик с проблемами пересказывает политику конфиденциальности, перенаправляет на страницу доверия либо отвечает на четыре вопроса и пропускает вопрос об удалении. Отсутствие ответа на вопрос 3 наиболее показательно: в нём меньше всего пространства для неоднозначности и больше всего правовых рисков.

Что касается Jenova, опубликованные позиции платформы напрямую охватывают несколько из этих вопросов: данные не используются для обучения публичных AI-моделей, шифруются при передаче и хранении и не продаются и не передаются рекламодателям. Для запросов о конфиденциальности можно обратиться по адресу [email protected], а Azeroth Inc. находится в Нью-Йорке. Платформа не заявляет — и не следует предполагать, что она предоставляет, — статус организации, подпадающей под HIPAA, клиническую кризисную эскалацию или любую форму лицензированной помощи.