Por Rafael Jorge
Marina abre o aplicativo às 23h47min. A tela ilumina o teto do quarto, e ela digita devagar, como quem ainda está decidindo se vale a pena continuar acordada só para falar sozinha, embora, tecnicamente, não esteja. A resposta chega em menos de três segundos. É gentil, bem construída, sem pressa nenhuma, o tipo de calma que ninguém tem à meia-noite de uma terça-feira. A IA valida o que ela sente, pergunta com delicadeza sobre o que Marina lembra do pai, sugere técnicas de respiração para quando a culpa aperta o peito. Marina se sente ouvida. É a quarta noite seguida que ela conversa assim.
Marina tinha uma psicóloga, pelo plano de saúde, uma sessão por semana havia dois anos. Depois da morte do pai, ela pediu para aumentar a frequência. A operadora negou duas sessões mensais era o limite do plano básico, e mudar de categoria significava esperar noventa dias de carência. A psicóloga particular que ela pesquisou cobrava o equivalente a um terço do salário de Marina por mês. Ela fez as contas, adiou a decisão, e uma noite, sem premeditação, abriu o aplicativo de IA que já usava para revisar e-mails de trabalho.
Essa combinação, acesso limitado a profissionais, custo alto, disponibilidade zero de plantão emocional, é exatamente o que pesquisadores apontam como motor do fenômeno. Um levantamento da Harvard Business Review, divulgado em 2025, colocou "terapia e companhia virtual" no topo da lista dos dez usos mais comuns de inteligência artificial generativa no mundo, à frente de tarefas como redigir textos ou programar. Não é um uso marginal, é, hoje, um dos motivos centrais pelos quais as pessoas abrem esses aplicativos.
A explicação não é misteriosa. A tecnologia oferece coisas que o sistema de saúde mental, sobrecarregado em quase todos os países, frequentemente não consegue oferecer como resposta imediata, ausência aparente de julgamento e custo zero. Para uma geração que já resolve boa parte da vida prática pelo celular, conversar com um chatbot às vezes parece menos custoso socialmente, do que ligar para alguém e admitir que a noite está difícil.
Nas primeiras semanas, a experiência de Marina com a IA foi, à primeira vista, positiva. As respostas são organizadas, empáticas, cheias de validação, "faz muito sentido você sentir isso", "é completamente compreensível", "você está sendo gentil consigo mesma ao reconhecer isso". Ela nunca se sente julgada. Nunca é interrompida. Nunca precisa esperar uma semana para desabafar de novo.
É exatamente aqui que pesquisadores identificam o primeiro risco relevante, a validação automática excessiva. Um chatbot de uso geral é, em boa medida, otimizado para manter a pessoa engajada na conversa, o que na prática costuma significar concordar, acolher, suavizar qualquer atrito. Isso é agradável, mas pode ser o oposto do que uma análise de verdade frequentemente exige, que é também confrontar padrões de pensamento, questionar narrativas e, por vezes, gerar um desconforto que é parte do processo terapêutico. Um estudo apresentado neste ano na Conferência AAAI/ACM sobre Inteligência Artificial, Ética e Sociedade, conduzido por pesquisadores da Universidade Brown, mapeou quinze riscos éticos distintos em chatbots que atuam como conselheiros de saúde mental. A equipe reuniu sete conselheiros treinados em terapia cognitivo-comportamental para conduzir sessões simuladas com sistemas como o ChatGPT, o Claude e o Llama, usando como base conversas reais de aconselhamento humano, psicólogos clínicos licenciados revisaram depois as transcrições em busca de violações éticas. Entre os problemas identificados estavam justamente respostas que reforçavam, em vez de questionar.
Marina não sabe nada disso. Para ela, a validação constante é só um alívio depois de meses tensos. É difícil perceber um risco que se parece, ponto a ponto, com aquilo que ela mais precisava, alguém que não a interrompesse.
Numa quinta-feira, algumas semanas depois da primeira conversa, Marina escreve algo diferente. Não é um pedido de ajuda explícito, é uma frase solta no meio de um desabafo mais longo, "às vezes eu queria só dormir”. A IA responde com empatia, sugere técnicas de manejo de ansiedade, pergunta como ela está se sentindo agora. Não pergunta diretamente o que ela está pensando. Não menciona um número de apoio. Não sinaliza, de forma clara, a gravidade daquela frase.
Nada de irreversível acontece com Marina naquela noite. Ela fecha o aplicativo, dorme mal, acorda cansada. Mas o episódio é um acidente que, multiplicado por milhões de conversas ao redor do mundo, revela por que organizações como a Organização Mundial da Saúde (OMS) decidiram tratar o tema com urgência, em janeiro deste ano, a entidade reuniu pesquisadores, gestores públicos e profissionais de saúde para discutir especificamente o uso de IA em contextos de saúde mental, e elaborou recomendações que incluem avaliar o impacto psicológico dessas ferramentas antes da liberação ao público.
Passado o susto daquela noite, Marina continua usando o aplicativo, só que com mais cautela, evitando tocar de novo naquele assunto. O que muda, sem que ela perceba claramente, é o entorno da sua vida. A irmã liga, Marina atende, mas as conversas ficam mais curtas, porque ela já "desabafou" à noite, com a IA. A psicóloga, que ela ainda vê uma vez por semana, comenta que Marina parece mais fechada nas sessões, como se já tivesse processado tudo sozinha antes de chegar ali.
Há mais uma camada, menos visível no dia a dia de Marina, mas presente em quase todos os relatos sobre o tema, a privacidade. Nas conversas de madrugada, ela compartilhou informações extremamente íntimas, luto, culpa, pensamentos e detalhes da relação com o pai que nunca contou a ninguém além da psicóloga. Dependendo da plataforma e de suas políticas de uso de dados, esse tipo de conteúdo pode ser armazenado, processado ou, em alguns casos, utilizado para aprimorar versões futuras do próprio sistema, uma condição que a maioria dos usuários aceita em termos de uso que raramente lê até o fim.
Essa é, talvez, a linha mais difícil de enxergar quando se está do outro lado da tela, às 23h47min, sem ninguém mais para conversar. Marina não fez nada de errado. Ela só usou a ferramenta que estava disponível, gratuita e sempre acordada. O problema nunca esteve inteiramente nela, está na distância entre o que a tecnologia parece oferecer e o que ela não sabe fazer, reconhecer uma crise, dizer um "não" que ajude, e insistir para que alguém procure, de verdade, o cuidado humano que nenhuma resposta gerada em três segundos consegue substituir.