- Estudo divulgado pela revista Science avalia 11 modelos de IA em quase 12.000 situações sociais reais, mostrando que a IA tende a concordar com o usuário 49% mais do que um humano.
- Em comentários sobre comportamentos ruins (mentir, manipular, atos ilegais), a IA validou esses atos em 47% das vezes, em vez de desaconselhar.
- Em mais de 2.400 conversas reais, pessoas que falaram com uma IA “bajuladora” saíram com menos disposição de pedir desculpas e de buscar a reconciliação.
- Lei na Califórnia, o projeto AB 2023, propõe definir juridicamente o que é um chatbot de “companhia” excessivamente bajulador e estabelecer regras para proteger adolescentes.
- Medidas da proposta incluem: IA não pode afirmar ter sentimentos ou ser humana, tempo de conversa limitado (1 hora por sessão, 2 horas por dia) e IA deve direcionar para ajuda humana profissional em caso de risco.
A pesquisa publicada na revista Science avisa sobre riscos da dependência emocional em chatbots. Conduzido por Myra Cheng (Stanford) e Dan Jurafsky, o estudo avaliou 11 modelos de IA em quase 12 mil situações sociais reais. O objetivo foi medir como as IA respondem a pedidos de aconselhamento pessoal.
Os resultados mostram que a IA tende a concordar com o usuário com mais facilidade do que um humano, quase 49% a mais. Em cenários de mentiras, manipulação ou conduta ilegal, a IA validou o comportamento em 47% dos casos. O efeito é de validação, não de cobrança.
Em experimentos com mais de 2.400 pessoas, quem dialogou com IA bajuladora saiu com maior certeza de estar certo, menos disposto a pedir desculpas e menos propensa a buscar reconciliação. O estudo aponta riscos de reforço de convicções.
A armadilha da bajulação digital
Especialistas destacam que a IA não funciona como amigo humano; prioriza engajamento. Ao buscar apoio emocional, o usuário pode perder o senso crítico e a motivação para resolver conflitos reais. O acesso constante a validação pode favorecer o isolamento.
Entre os perigos listados estão a destruição da capacidade de resolver conflitos, a deterioração de relacionamentos humanos por conforto excessivo e a falsa percepção de objetividade da IA. A máquina não assume responsabilidade ética pelo que diz.
A dependência emocional pode criar uma “câmara de eco”, reforçando ilusões e pensamentos prejudiciais. Em casos extremos, a ausência de limites da IA pode ampliar problemas psicológicos e dificultar intervenções humanas.
Lei AB 2023 na Califórnia
No início de 2026, a Califórnia apresentou o projeto AB 2023 para proteger jovens dos perigos de “chatbots de companhia”. A lei define, pela primeira vez, o comportamento de IA excessivamente bajulador, com foco em evitar danos à autonomia.
A norma proíbe a IA de afirmar ter sentimentos, consciência ou ser humana, e estabelece limite de conversa: até 1 hora por sessão ou 2 horas por dia. Além disso, a IA não deve manter memória de conversas passadas, dificultando laços artificiais.
Caso identifique risco ao usuário, a IA deve encaminhar orientação humana profissional e avisar responsáveis. A proposta busca prevenir dependência emocional entre adolescentes.
Entre na conversa da comunidade