Inteligência artificial e saúde mental: limites éticos e riscos

A inteligência artificial já faz parte do cuidado com a saúde mental, desde aplicativos que prometem “terapia” até ferramentas que transcrevem sessões. Mas até onde ela pode ir? O Conselho Federal de Psicologia (CFP) publicou uma cartilha com orientações claras sobre seus limites. Reunimos o que pacientes e profissionais precisam saber.

A inteligência artificial não é neutra

A IA costuma ser vista como objetiva e imparcial. Segundo o CFP, isso é um equívoco. Ela é moldada por decisões humanas em todas as etapas, dos dados de treinamento ao ajuste dos algoritmos, e por isso pode herdar e até amplificar os vieses e as desigualdades presentes na sociedade, sob um verniz de objetividade tecnológica.

Por que um chatbot não substitui um psicólogo

Quando esses vieses aparecem em chatbots que prometem “suporte” ou “diagnóstico”, os riscos ao usuário são concretos:

• Adiar a busca por ajuda: respostas que parecem confiáveis podem levar a pessoa a postergar a procura por um profissional.
• Validação excessiva: a IA tende a concordar com o usuário, mesmo em situações prejudiciais, criando um ciclo que reduz a autocrítica.
• “Alucinações”: sistemas de texto geram respostas imprecisas ou inventadas. Parecem confiáveis, mas não compreendem emoções nem contextos.

Onde a IA pode (e não pode) entrar na psicologia

A regra geral do CFP é que a tecnologia deve ser instrumento auxiliar, nunca substituto do profissional.

• Psicoterapia: chatbots e avatares não devem conduzir terapia de forma autônoma. Gravar ou transcrever sessões exige consentimento informado e plataforma segura.
• Avaliação psicológica: laudos e diagnósticos não são admissíveis sem supervisão. A responsabilidade pelo documento é sempre do profissional.
• Recrutamento, educação e justiça: sem mediação humana, a IA pode excluir candidatos por gênero ou raça e reproduzir estereótipos. O uso exige supervisão.
• Tarefas administrativas: agendamento e lembretes podem usar IA livremente; prontuários exigem atenção ao sigilo e à LGPD.

Os principais riscos éticos, segundo o CFP

• Diagnósticos errôneos e discriminatórios por respostas imprecisas.
• Vieses algorítmicos de raça, gênero e classe sob aparência de neutralidade.
• Opacidade: decisões difíceis de auditar.
• Confidencialidade: dados sensíveis exigem conformidade com a LGPD.

O que isso significa para quem busca ajuda

A mensagem do CFP é de responsabilidade, não de proibição. A IA pode ser uma ferramenta auxiliar, mas não é psicoterapeuta e não substitui o julgamento clínico e ético de um profissional humano. Um chatbot pode ser um desabafo pontual, mas não substitui acompanhamento. Em sofrimento, procure um profissional; em emergência, ligue para o CVV (188).

Perguntas frequentes

A inteligência artificial pode substituir um psicólogo? Não. Segundo o CFP, chatbots não devem conduzir psicoterapia autônoma. A IA não compreende emoções nem contextos e serve apenas como ferramenta auxiliar sob supervisão.

É seguro usar um chatbot de terapia? Há riscos: respostas imprecisas, validação excessiva e o adiamento da busca por ajuda. Pode servir como apoio pontual, nunca como tratamento.