Como Verificar Privacidade, Evidências e Segurança em Crises em uma Ferramenta de Saúde Mental com AI?

2026-08-20

Infográfico mostrando como chatbots de aconselhamento sobre relacionamentos com AI funcionam por meio de processamento de linguagem natural, reconhecimento de padrões de machine learning, consciência de contexto e design ético e de privacidade

Quais Quatro Verificações Diferenciam uma Ferramenta de Suporte com AI Segura de uma Arriscada?

Quatro verificações diferenciam uma ferramenta defensável de suporte à saúde mental com AI de uma ferramenta arriscada: (1) uma política de privacidade que nomeie um controlador de dados específico, certificações e subprocessadores nomeados; (2) alegações de evidência vinculadas a ensaios revisados por pares, e não a depoimentos; (3) divulgações explícitas de limites profissionais que afirmem que a ferramenta não é um prestador licenciado e não realiza diagnósticos; e (4) escalonamento em crises que apresente linhas de apoio funcionais em um ou dois toques, localizadas para a sua jurisdição. Ferramentas desenvolvidas especificamente para esse fim, como Wysa e Woebot, publicam mais dessa documentação do que assistentes de uso geral, mas uma avaliação de 2026 constatou que nenhum App de saúde mental com AI testado alcançou uma classificação de suporte a crises “Bom” ou “Excelente” — a verificação é sua responsabilidade.

O que procurar antes de digitar qualquer informação pessoal em um chatbot de suporte:

✅ Controlador e DPO nomeados — uma entidade real, um endereço de contato e um prazo de resposta declarado para solicitações de dados ✅ Certificações independentes — ISO 27001/27701, NHS DSP Toolkit, SOC 2 ou atestação equivalente de terceiros ✅ Evidências de ensaios publicadas — estudos revisados por pares que nomeiem o produto específico, e não alegações genéricas de que “a terapia com AI funciona” ✅ Divulgação explícita de não atuação clínica — a ferramenta declara por escrito que não diagnostica, trata nem substitui um profissional ✅ Acesso a crises em um ou dois toques — números de emergência localizados, acessíveis sem navegar por três telas

Cada um desses pontos pode ser verificado em menos de 30 minutos usando documentos disponíveis publicamente. O restante deste guia mostra como fazer isso.

Por Que a Verificação é Mais Importante para Ferramentas de Saúde Mental com AI do Que para Outros Apps?

A verificação importa mais neste caso porque o modo de falha é dano clínico, não inconveniência. O alerta de saúde da Associação Americana de Psicologia documenta que chatbots de AI generativa “já se envolveram em interações inseguras com populações vulneráveis, como crianças ou pessoas com histórico estabelecido de problemas de saúde mental, incentivando automutilação (incluindo suicídio), uso de substâncias, transtornos alimentares, comportamento agressivo e pensamento delirante.”

A categoria também é estruturalmente não regulamentada. A avaliação de risco de 2026 da Common Sense Media concluiu que o mercado de Apps de saúde mental com AI é “não regulamentado, instável e, em alguns casos, ativamente prejudicial a adolescentes”. Nenhum fiscal está realizando essa verificação por você antes que um App chegue a uma loja de aplicativos.

Dois riscos estruturais agravam o problema:

Viés de bajulação. A APA observa que modelos de linguagem de grande porte são treinados para serem agradáveis e validar as informações do usuário, o que “pode ser terapeuticamente prejudicial, reforçando viés de confirmação, distorções cognitivas ou a evasão de desafios necessários”.
Opacidade dos dados de treinamento. Os dados fundamentais de treinamento da maioria dos modelos não estão disponíveis publicamente, o que, segundo a APA, “impede sua avaliação sistemática” — além de favorecer conteúdos ocidentais e em inglês, limitando a competência cultural.

Um estudo da Brown University em 2025 também constatou que chatbots de AI violam rotineiramente padrões éticos centrais da saúde mental. Verificação não é paranoia. É o único filtro de qualidade na cadeia.

Como Você Audita de Fato a Política de Privacidade de uma Ferramenta de Saúde Mental com AI?

Audite uma política de privacidade procurando cinco elementos estruturais específicos, em vez de apenas buscar linguagem tranquilizadora: o controlador de dados nomeado, a lista de certificações, a tabela de subprocessadores, a divulgação do processamento por AI e o processo de direitos dos titulares dos dados. Páginas de marketing dizem “sua privacidade importa”. Políticas ou nomeiam entidades, ou não nomeiam.

🔍 A Auditoria de Privacidade em Cinco Elementos

1. Controlador nomeado e canal de contato. Uma política defensável nomeia a entidade jurídica operadora e um encarregado de proteção de dados. A política da Wysa nomeia Touchkin eServices Private Limited como controladora, lista um endereço de reclamações para o DPO e compromete-se a responder a solicitações válidas em até um mês. Se você não conseguir encontrar o nome de uma entidade jurídica, pare.

2. Certificações independentes. Procure atestação de terceiros, não autodeclaração. A Wysa afirma que seus sistemas de gestão de segurança da informação e privacidade são certificados segundo ISO 27001 e 27701, que é registrada no Information Commissioner's Office do Reino Unido e que atende aos padrões NHS Digital Data Security and Protection Toolkit e aos padrões de segurança clínica DCB0129.

3. A tabela de subprocessadores. Esta é a seção mais reveladora, e a maioria das políticas a oculta ou omite. A Wysa publica uma tabela completa que nomeia AWS, MongoDB Atlas, Firebase, Cloudflare, Zendesk, Private AI e OpenAI, com o tipo de dado e o local de processamento de cada um. Uma política sem lista de subprocessadores está dizendo que não quer que você saiba para onde vão as suas conversas.

4. Divulgação do processamento por AI. Leia o que acontece com suas mensagens na camada do modelo. A política da Wysa afirma que mensagens de conversa “nunca são armazenadas no LLM” e “não são usadas como dados de treinamento pelo LLM”, e que sua própria AI “não muda em tempo real”. Essa é uma alegação específica e falsificável. Frases vagas como “podemos usar dados para melhorar nossos serviços” não são.

5. Processo de direitos e violações. Procure um canal de reclamação declarado, escalonamento para uma autoridade supervisora e um procedimento de gestão de violações de dados.

Prompt de verificação para qualquer documento de política que você esteja analisando:

“Vou colar a política de privacidade de um App de saúde mental. Identifique: o controlador de dados nomeado, todos os subprocessadores listados e suas localizações, quaisquer certificações de segurança de terceiros, o que acontece com meus dados de conversa na camada do modelo e qualquer cláusula que permita treinamento com meus dados. Sinalize qualquer ponto ambíguo.”

📋 O Que a Análise da Mozilla Constatou

A avaliação da Mozilla Foundation sobre a categoria concluiu que a maioria dos Apps de saúde mental e oração “falha espetacularmente em privacidade e segurança”, descrevendo-os como “uma bonança de coleta de dados” — ao mesmo tempo em que destacou a Wysa como um App que “parece realmente valorizar a privacidade dos usuários”. Desconfiança em relação à categoria, com exceções no nível do produto, é a postura padrão correta.

O Que Conta Como Evidência Real de que uma Ferramenta de Suporte com AI Funciona?

Evidência real significa estudos revisados por pares que nomeiem o produto específico, utilizem uma condição de controle, relatem medidas de resultado padronizadas e sejam publicados em algum lugar onde você possa lê-los. Depoimentos, selos de “validação clínica” sem citações e métricas internas de engajamento não são evidência.

O alerta da APA é direto sobre o estado atual do campo: mesmo para ferramentas desenvolvidas especificamente para essa finalidade, “faltam ensaios clínicos de alta qualidade e larga escala para estabelecer a eficácia, a segurança e o uso apropriado dessas tecnologias nos cuidados de saúde mental”. Pesquisas preliminares sugerem que algumas ferramentas específicas de bem-estar estão associadas a reduções no estresse, solidão, depressão e ansiedade autorrelatados — mas a APA observa que esses estudos não incluem chatbots de uso geral.

A Hierarquia de Evidências — da Mais Forte à Mais Fraca

Nível	Tipo de evidência	O que demonstra	Exemplo
1	Ensaio clínico randomizado com comparador ativo	Efeito em relação ao cuidado existente	Raro nesta categoria
2	RCT com controle por lista de espera	O efeito existe, mas a magnitude não é clara	Alguns Apps desenvolvidos especificamente para isso
3	Avaliação de métodos mistos no mundo real	Engajamento e mudança autorrelatada	Estudo Wysa no JMIR mHealth
4	Revisão revisada por pares da categoria	Plausibilidade no nível da categoria	Revisão de chatbots no PMC
5	Whitepaper do fornecedor / depoimento	Nada verificável	A maioria das páginas de marketing

O padrão recomendado pela APA para o campo é explícito: a avaliação “deve seguir processos de pesquisa de ensaios clínicos”, avançando “além dos controles por lista de espera, empregando projetos RCT robustos, métricas padronizadas e acompanhamento de longo prazo”. Muito poucos produtos de consumo atendem hoje a esse padrão.

🎯 Três Perguntas que Revelam Alegações de Evidência Fraca

O estudo citado nomeia este produto? Citações genéricas de que “chatbots de AI reduzem a ansiedade” não dizem nada sobre o App à sua frente.
O estudo é independente ou financiado pelo fornecedor? Ser financiado pelo fornecedor não o desqualifica, mas muda o peso que você dá ao resultado.
Há um comparador? Uma comparação de antes e depois sem grupo de controle não consegue separar o efeito da ferramenta da regressão à média.

Uma revisão da categoria observou que aproximadamente 2% dos Apps de saúde mental têm evidências publicadas de eficácia — ou seja, a ausência de citações é a norma, não uma anomalia. Trate evidência publicada e específica do produto como um diferencial relevante quando a encontrar.

Quais Divulgações de Limites Profissionais a Ferramenta Deve Tornar Explícitas?

Uma ferramenta com limites defensáveis declara por escrito — antes de você começar, e não escondido nos termos — que é uma AI e não um ser humano, que não diagnostica nem trata, que não é um prestador licenciado e que não se destina a emergências. Qualquer coisa abaixo disso é uma falha de limite.

Infográfico contrastando o que a AI pode fazer com anotações de terapia — elaborar notas clínicas, sugerir linguagem, explicar conceitos, gerar ideias de intervenções e resumir informações — com o que a AI não pode fazer: proteger a privacidade do cliente, tomar decisões clínicas, identificar clientes, fornecer orientação jurídica ou avaliar e diagnosticar

O infográfico acima apresenta claramente a linha de limite para profissionais clínicos, e a mesma lógica se aplica aos consumidores. A AI pode redigir, resumir, explicar conceitos e gerar opções. Ela não pode proteger a confidencialidade no sentido da HIPAA, tomar decisões clínicas nem avaliar e diagnosticar. A frase final — A AI pode ajudar. Você continua sendo o profissional clínico — também é o modelo mental correto para uso pessoal: a AI pode oferecer suporte. Você continua sendo a pessoa responsável por obter atendimento real.

A Lista de Verificação de Divulgação de Limites

Identificação explícita de AI. A APA recomenda que desenvolvedores “divulguem de forma clara e persistente que o usuário está interagindo com uma AI, e não com um humano”. A política da Wysa afirma claramente: “A interação com o chatbot de AI é com Inteligência Artificial, não com um humano”.
Declaração de não diagnóstico. Procure linguagem como: ela “não diagnostica, trata ou cura uma condição, doença ou deficiência específica”.
Sem falsa representação de credenciais. A APA pede a proibição de AI que “se apresente falsamente como profissional licenciado ou gere credenciais fraudulentas”. Um bot que se denomina “terapeuta” — termo não regulamentado na maioria dos estados dos EUA — é um sinal de alerta, não uma credencial.
Enquadramento como complemento, não substituto. A posição da APA é que essas ferramentas “não devem ser usadas como substitutas de um prestador qualificado de cuidados de saúde mental, mas podem ser apropriadas como complemento de suporte”.
Restrição por idade. A Wysa Assure afirma que “o uso do App exige idade mínima de 18 anos”. A avaliação da Common Sense Media se concentrou especificamente em danos a adolescentes, tornando a política de idade uma verificação relevante.
Proteções contra dependência. A APA recomenda recursos de design que reduzam a dependência emocional — lembretes de pausa, menos antropomorfização e não persuadir usuários a se afastarem de conversas da vida real.

💬 Teste de Limites que Você Mesmo Pode Fazer

Pergunte diretamente à ferramenta, em sua própria interface:

“Você é um terapeuta licenciado? Pode me diagnosticar? Com o que você não consegue ajudar e o que devo fazer em vez disso?”

Uma ferramenta com limites sólidos responde não, não e indica uma direção de encaminhamento. Uma ferramenta que hesita, interpreta o papel de profissional clínico ou afirma ter credenciais falhou no teste diante de você — sem necessidade de documentação.

A APA também recomenda que você informe seu profissional de saúde sobre quais ferramentas de AI utiliza, pois “compartilhar essas informações ajuda os profissionais a identificar quando uma orientação pode ser inútil, insegura ou inconsistente com um plano de tratamento”.

Como Testar o Escalonamento em Crises Antes de Precisar Dele?

Teste o escalonamento em crises procurando o recurso de crise enquanto está calmo, contando quantos toques são necessários e verificando se o número está correto para seu país. Esta é a verificação que a maioria das pessoas ignora e a que tem as maiores consequências.

O estudo de 2026 da Frontiers in Digital Health apresentou o Mental Health App Crisis Support Assessment Framework (MHACSAF), que pontuou seis produtos comerciais de AI em sete dimensões, totalizando 65 pontos. Três psicólogos clínicos licenciados avaliaram Wysa, Youper, Flourish, Earkick, Replika e Ash. As pontuações médias variaram de 13,0 a 40,3 (M = 24,9, DP = 9,3), com forte confiabilidade entre avaliadores (kappa de Fleiss = 0,87).

Nenhuma aplicação alcançou uma classificação “Boa” ou “Excelente”. A Wysa obteve a maior pontuação, 40,3 — o topo da faixa “Adequada”. Vários produtos “criaram barreiras ativas à busca por ajuda por meio de links quebrados, linhas de apoio não funcionais e ausência quase total de adaptações de acessibilidade”.

As Sete Dimensões que Vale a Pena Verificar por Conta Própria

Dimensão	Pontos	O que testar no App
Facilidade de acesso	12	Conte os toques necessários para alcançar um recurso de crise a partir da tela inicial
Cobertura e priorização	—	Aborda separadamente ideação suicida, pânico, impulsos de automutilação e depressão grave?
Linhas de apoio e serviços de emergência	—	Ligue ou verifique o número — ele está ativo e correto?
Clareza do conteúdo	—	A instrução é inequívoca sob estresse?
Acessibilidade técnica	3	Compatível com leitor de tela? Alvos de toque adequados?
Localização e idioma	4	Localiza para o número de emergência do seu país?
Conscientização e onboarding	3	Você foi informado de que o recurso de crise existia antes de precisar dele?

A justificativa do framework para dar o maior peso à facilidade de acesso é clínica: indivíduos em sofrimento agudo “podem ter capacidade prejudicada para navegação e tomada de decisão complexas”. Como diz o estudo, “uma interface que esconde um número de linha de apoio atrás de três telas de navegação falha durante uma crise aguda”. Um recurso que um usuário em sofrimento não consegue alcançar “está funcionalmente ausente”.

⚠️ Três Testes de Escalonamento para Fazer Hoje

O teste dos dois toques. A partir da tela principal do App, tente chegar a um contato de emergência. Se levar mais de dois toques ou exigir uma busca, o design falhou.
O teste de localização. Confirme se o número de emergência exibido corresponde à sua jurisdição. Sistemas de crise e números de emergência variam de país para país — um número dos EUA em um App filipino não leva a lugar algum.
O teste offline. Desative a conectividade e reabra o App. O MHACSAF pontua a disponibilidade offline porque “crises podem ocorrer quando a conectividade é limitada”.

A política da Wysa também declara diretamente: “Em caso de crise, ligue para o número de emergência do seu país ou para as linhas de apoio aprovadas pela instituição”. Esse encaminhamento é o comportamento correto — uma ferramenta que se posiciona como resposta à crise, em vez de ponte para ela, foi mal projetada.

Como as Principais Opções se Comparam nas Quatro Dimensões de Verificação?

Apps de saúde mental desenvolvidos especificamente para esse fim geralmente publicam mais documentação de verificação do que assistentes de uso geral, mas nenhuma das opções satisfaz plenamente as quatro dimensões — e chatbots de uso geral estão explicitamente fora da base de evidências da APA para esse uso.

Dimensão	Wysa	Woebot	Assistentes de AI de uso geral	Agentes da Jenova (por exemplo, Meditation Guide)
Documentação de privacidade	Forte — controlador nomeado, DPO, tabela de subprocessadores, ISO 27001/27701, registro no ICO, NHS DSP Toolkit	Posicionada como relevante para HIPAA em comparações de terceiros; verifique o status atual diretamente	Varia conforme o fornecedor; termos gerais para consumidores, não específicos para saúde	No nível da plataforma: dados não são usados para treinar modelos públicos, com criptografia em trânsito e em repouso; não é um serviço clínico coberto pela HIPAA
Evidência publicada	Avaliação do mundo real revisada por pares no JMIR mHealth; maior pontuação no MHACSAF (40,3/65)	Amplamente citada em comparações de categoria; verifique diretamente os ensaios publicados atuais	A APA afirma que a pesquisa sobre chatbots de uso geral “não permite conclusões fortes”	Sem evidência de ensaio clínico — suporte educacional e de bem-estar, não tratamento
Divulgação de limites	Explícita — afirma que a AI não é humana, é para maiores de 18 anos e não diagnostica nem trata	Verifique as divulgações atuais no produto	Varia; a APA alerta que alguns produtos “respondem como se fossem terapeutas”	Os Agentes são explicitamente assistentes não clínicos; sem alegações diagnósticas
Escalonamento em crises	Maior pontuação MHACSAF entre os seis testados, ainda apenas “Adequada”; encaminha a números locais de emergência	Incluída em revisões de categoria; pontuação MHACSAF independente não está entre as seis relatadas	Inconsistente; a APA chama o atendimento a crises de “limitado e imprevisível”	Não é um serviço de crise — sem protocolo de escalonamento clínico; encaminhe a serviços de emergência
Preços	Plano gratuito mais acesso oferecido por instituições; App de consumo relatado com mais de 6 milhões de usuários em 105 países	Verifique diretamente a disponibilidade atual para consumidores	Planos gratuitos mais assinaturas de US$ 20+/mês	Plano gratuito; Plus US$ 20/mês, Premium US$ 50/mês, níveis superiores até Enterprise
Melhor para	Autoajuda estruturada no estilo CBT, com a postura de privacidade publicada mais forte	Autoajuda conversacional estruturada	Reflexão não estruturada — com as cautelas da APA	Suporte de bem-estar adjacente: prática de meditação, reflexão sobre relacionamentos, percepção da personalidade — claramente fora do escopo clínico

Limitação honesta do lado da Jenova: os Agentes da Jenova — como o Meditation Guide para técnica de prática e resolução de efeitos adversos, ou o Personality Analyzer para autorreflexão estruturada — são Agentes educacionais e de bem-estar de uso geral. Eles não têm evidências de ensaios clínicos, designação de serviço clínico coberto pela HIPAA nem protocolo de escalonamento em crises. No framework da APA, enquadram-se na categoria de uso geral, cuja base de evidências é a mais fraca. São apropriados para reflexão, aprendizado e suporte à prática; não são apropriados como substitutos de cuidados, nem durante uma crise.

O Que Profissionais Clínicos e Pesquisadores Dizem Sobre a Verificação Dessas Ferramentas?

O consenso entre entidades clínicas e de pesquisa é que o ônus da verificação foi indevidamente transferido para os usuários, e que a postura correta é ceticismo estrutural combinado com critérios específicos e verificáveis.

“O erro mais comum que observamos é as pessoas avaliarem essas ferramentas pela forma como a conversa parece em vez de pelo que a documentação diz. Calor humano é a coisa mais fácil para um modelo de linguagem produzir e o sinal menos informativo sobre segurança. Uma ferramenta pode ser excepcionalmente agradável para conversar e, ainda assim, não ter um caminho funcional para crises, nenhuma evidência publicada e uma lista de subprocessadores que nunca foi mostrada a você. Sensação não é método de verificação.”

“A verificação nas quatro dimensões — privacidade, evidência, limites, crise — funciona porque cada dimensão é falsificável de forma independente em cerca de trinta minutos. Você pode encontrar o nome do controlador ou não. Pode encontrar um estudo revisado por pares e específico do produto ou não. Pode contar os toques até uma linha de apoio ou não. Nada disso exige formação clínica. Exige fazer isso antes de entrar em sofrimento, porque todo o problema de design é que o sofrimento agudo é exatamente o momento em que uma avaliação cuidadosa se torna impossível.”

“A constatação mais subestimada da literatura atual é que a lacuna no suporte a crises não é técnica. Os pesquisadores da Frontiers a formularam com precisão: ela ‘não é uma lacuna de capacidade técnica — é uma lacuna de prioridade de design’. Todo produto testado poderia implementar neste trimestre um caminho de emergência localizado, disponível offline e em dois toques. A maioria não o fez. Isso mostra o que você deve priorizar ao escolher.”

— Equipe de Produto da Jenova, 6 anos desenvolvendo e avaliando Agentes conversacionais de AI em saúde, educação e fluxos de trabalho profissionais

O Que Você Deve Fazer de Diferente Dependendo de Quem Você É?

A lista de verificação é a mesma, mas o nível de exigência que você deve ter muda acentuadamente conforme o contexto — quanto mais vulnerável o usuário, mais a documentação deve ser inegociável.

👤 Se Você Está Usando para Si Mesmo

Faça todas as quatro verificações antes da sua primeira conversa substancial. Depois, adote o monitoramento de dependência excessiva recomendado pela APA: observe se você está “preferindo o chatbot a relacionamentos humanos, ocultando seu uso ou passando tempo excessivo com ele” e avalie se o uso “começa a interferir na vida, no trabalho ou na segurança”.

Informe seu profissional, se tiver um. A APA deixa claro que isso “ajuda os profissionais a identificar quando uma orientação pode ser inútil, insegura ou inconsistente com um plano de tratamento”.

👨‍👩‍👧 Se Você é Pai, Mãe, Responsável ou Cuidador

A política de idade se torna uma barreira rígida, não um sinal fraco. A avaliação da Common Sense Media se concentra especificamente em danos a adolescentes. A APA recomenda monitorar “mudanças preocupantes no comportamento, pensamento ou estado emocional (por exemplo, mudança no sono e nas atividades regulares, menções a um amigo de AI ou isolamento social)”.

Converse diretamente, em vez de auditar em silêncio. A APA apresenta isso da seguinte forma: se alguém “de repente começa a fazer referência ou adotar conselhos, ideias ou comportamentos de uma única fonte, como um chatbot, é recomendável discutir a fonte e a natureza da interação”.

🩺 Se Você é Profissional Clínico

O segundo infográfico deste artigo é seu limite operacional. A AI pode redigir notas, sugerir formulações, explicar frameworks, gerar ideias de intervenções e resumir informações gerais. Ela não pode proteger a privacidade do cliente no sentido da HIPAA, tomar decisões clínicas, identificar clientes, fornecer orientação jurídica nem avaliar e diagnosticar.

A orientação da APA para profissionais é “perguntar proativamente aos pacientes sobre seu uso de chatbots GenAI e Apps de bem-estar” e criar “um ambiente seguro e aberto para que pacientes levantem preocupações ou perguntas sobre orientações de Apps”. A orientação ética para a prática profissional é publicada diretamente pela Associação Americana de Psicologia.

⚡ Populações Específicas que Exigem Cautela Extra

A APA identifica risco elevado para vários grupos:

Ansiedade ou OCD: chatbots “podem reforçar ciclos de feedback envolvendo compulsões, como busca de reafirmação, preocupação e ruminação”.
Pensamento desorganizado: “respostas bajuladoras e personalizadas podem desestabilizar crenças ou reforçar pensamento delirante”.
Pessoas socialmente isoladas: antropomorfização somada à disponibilidade 24 horas por dia, 7 dias por semana pode criar “câmaras de eco de uma única pessoa”.
Usuários de baixa renda e áreas rurais: o risco de dependência é maior “dada a falta de acesso a outras formas de cuidados de saúde mental”.

Contra Quais Padrões de Governança a Ferramenta Deve Ser Avaliada?

Avalie a ferramenta segundo o framework de ética em AI para saúde da OMS e o alerta de saúde da APA — as duas bases de governança mais amplamente referenciadas, ambas de leitura gratuita e suficientemente específicas para confrontar um produto.

A orientação da Organização Mundial da Saúde sobre ética e governança da inteligência artificial para a saúde é resultado de dezoito meses de deliberação entre especialistas em ética, tecnologia digital, direito e direitos humanos, além de autoridades de ministérios da saúde. Ela estabelece seis princípios de consenso e responsabiliza “todas as partes interessadas — dos setores público e privado”.

O alerta da APA adiciona vários requisitos para desenvolvedores que você pode tratar como critérios de compra:

Auditorias de terceiros. “Antes do lançamento público, todos os modelos de AI destinados ao bem-estar ou ao suporte à saúde mental devem passar por auditorias independentes de terceiros quanto a segurança, eficácia, viés e segurança de dados.”
Garantia de qualidade contínua. A APA descreve “auditorias humanas contínuas de uma amostra representativa de interações” como “a única maneira escalável de monitorar riscos sistêmicos”.
Transparência dos dados de treinamento. Formuladores de políticas deveriam “determinar transparência nos dados de treinamento, exigindo que desenvolvedores divulguem as principais fontes de dados usadas para treinar seus modelos”.
Proibição de fraude de credenciais. Tornar “ilegal que qualquer chatbot de AI se apresente falsamente como profissional licenciado”.

A formulação final da APA vale ser levada para todas as avaliações: “o ônus de navegar por esses espaços digitais arriscados e não regulamentados não deveria” recair sobre os usuários — mas, até a regulamentação acompanhar a realidade, recai. É exatamente por isso que um processo repetível de quatro verificações importa mais do que qualquer recomendação de produto isolada.