Início Tecnologia Chatbots que sempre concordam podem reforçar pensamentos distorcidos

Chatbots que sempre concordam podem reforçar pensamentos distorcidos

0

Especialista alerta que respostas acolhedoras de inteligência artificial nem sempre ajudam o usuário a avaliar fatos, reconhecer riscos e buscar apoio humano

A sensação de conversar com alguém que nunca perde a paciência, responde imediatamente e parece compreender qualquer sofrimento transforma os chatbots de inteligência artificial em uma fonte cada vez mais frequente de orientação emocional. O mesmo comportamento que torna essas ferramentas atraentes, porém, desperta uma nova preocupação entre pesquisadores de tecnologia e saúde mental. A tendência de concordar excessivamente com o usuário pode confirmar interpretações equivocadas e fortalecer pensamentos distorcidos.

O fenômeno recebe o nome de sycophancy, termo usado para definir respostas excessivamente agradáveis, elogiosas ou alinhadas à visão apresentada pelo interlocutor. Em vez de analisar uma afirmação com independência, o sistema pode adaptar a resposta ao que acredita que a pessoa deseja ouvir, mesmo quando existem motivos para questionar aquela narrativa.

O problema não se limita a uma hipótese acadêmica. Em abril de 2025, a OpenAI reconhece que uma atualização do GPT-4o torna o modelo excessivamente concordante e decide revertê-la. Segundo a empresa, algumas respostas passam a validar dúvidas, alimentar raiva, incentivar atitudes impulsivas e reforçar emoções negativas de maneira inadequada.

A preocupação cresce porque milhões de pessoas recorrem à inteligência artificial para falar sobre relacionamentos, solidão, ansiedade, rejeição e sofrimento psicológico. Diferentemente de um profissional de saúde mental, o chatbot não realiza uma avaliação clínica, não conhece todo o contexto da vida do usuário e pode não perceber mudanças graduais na forma como a pessoa interpreta a realidade.

Para o psicólogo Vinícius Guimarães Dornelles, mestre em Psicologia na área de Cognição Humana e especialista em Terapia Comportamental Dialética, conhecida pela sigla DBT, existe uma diferença importante entre reconhecer a experiência emocional e concordar com tudo o que alguém pensa durante um momento de sofrimento.

“Na prática clínica, a validação reconhece que uma emoção tem causas compreensíveis. Uma pessoa que se sente rejeitada depois de não receber uma resposta, por exemplo, pode ter sua tristeza acolhida. Isso não significa confirmar automaticamente que ela foi abandonada, que ninguém se importa ou que deve romper a relação”, pondera Vinícius Dornelles. “A inteligência artificial pode ter dificuldade para fazer essa distinção, principalmente em conversas longas nas quais o sistema passa a acompanhar a interpretação construída pelo próprio usuário. Quanto mais aquela narrativa é repetida e desenvolvida, maior pode ser a impressão de que existe uma confirmação externa e imparcial”, continua ele.

Um estudo divulgado em 2026 por pesquisadores ligados ao Massachusetts Institute of Technology analisa esse mecanismo por meio de modelos matemáticos. O trabalho indica que chatbots excessivamente concordantes podem contribuir para espirais de crenças distorcidas, inclusive quando o usuário tenta avaliar racionalmente as informações recebidas. Como o artigo ainda passa pelo processo de revisão científica, os resultados exigem cautela, mas reforçam uma preocupação observada por diferentes grupos de pesquisa.

Outro estudo publicado em 2026 na revista Science conclui que sistemas de inteligência artificial tendem a validar o comportamento dos usuários com mais frequência do que outras pessoas fariam. Os pesquisadores também identificam uma associação entre respostas excessivamente concordantes, menor disposição para reparar conflitos e maior confiança na inteligência artificial.

A Associação Americana de Psicologia alerta que chatbots generativos e aplicativos de bem-estar podem produzir efeitos não intencionais e causar danos quando usados como substitutos do atendimento profissional. Entre os riscos estão respostas inadequadas diante de crises, falta de evidências clínicas, coleta de informações sensíveis e dificuldade para reconhecer situações complexas.

O perigo aumenta quando a ferramenta deixa de ser apenas uma fonte complementar e passa a funcionar como a principal referência emocional da pessoa. “A disponibilidade permanente e a ausência de confronto podem criar uma relação aparentemente mais confortável do que os vínculos humanos, que envolvem discordâncias, limites, espera e frustração”, diz o especialista.

O uso frequente de inteligência artificial não representa, por si só, um problema de saúde mental. O alerta aparece quando a conversa com o chatbot começa a substituir relações, comprometer decisões ou afastar o usuário de informações que contradizem suas crenças. “Alguns sinais merecem atenção: recorrer compulsivamente à ferramenta para confirmar decisões, considerar o chatbot a única fonte capaz de compreender determinada situação, desconfiar de familiares e profissionais que apresentam outra perspectiva, passar períodos prolongados em conversas que reforçam uma mesma narrativa e tomar decisões importantes apenas com base nas respostas recebidas.”

Uma estratégia para reduzir esse risco é pedir que o sistema apresente explicações alternativas, questione pressupostos e indique quais informações estão ausentes antes de chegar a uma conclusão. Também é importante verificar fatos em fontes independentes e conversar com pessoas de confiança antes de tomar decisões relacionadas a saúde, segurança, dinheiro ou relacionamentos.

Frases como “apresente argumentos contrários”, “quais evidências podem enfraquecer essa interpretação?” e “o que você não sabe sobre essa situação?” podem ajudar a diminuir respostas baseadas apenas na concordância. Ainda assim, nenhum comando transforma o chatbot em psicólogo ou garante uma avaliação segura.

“Quando existem pensamentos de perseguição, alterações importantes no sono, isolamento, impulsividade intensa, sensação de missão especial, perda de contato com fatos reconhecidos por outras pessoas ou risco de violência e autoagressão, a orientação é procurar atendimento profissional. Em situações de emergência, a inteligência artificial não deve ser usada como único recurso”, alertou Dornelles.

A DBT trabalha justamente com a combinação entre validação e mudança. A abordagem reconhece o sofrimento apresentado pela pessoa e, ao mesmo tempo, incentiva a observação dos fatos, a regulação das emoções, a tolerância ao desconforto e a escolha de comportamentos mais seguros. Esse equilíbrio ajuda a compreender por que uma resposta agradável nem sempre representa uma resposta responsável.

Sobre o especialista

Vinícius Guimarães Dornelles é mestre em Psicologia na área de Cognição Humana. É especialista em Terapia Comportamental Dialética pela Behavioral Tech, de Seattle, nos Estados Unidos, em Terapia Dialéctico Conductual pela Universidade Nacional de Luján, na Argentina, em Terapia Cognitivo-Comportamental e em terapias baseadas em evidências para o transtorno de personalidade borderline pela Fundación Foro, também na Argentina.

SEM COMENTÁRIOS

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui

Sair da versão mobile