Generative AI e o desafio do 'vale da estranheza' na experiência do usuário

A evolução da inteligência artificial generativa traz à tona tanto oportunidades quanto desafios. À medida que essa tecnologia se torna mais sofisticada, ela pode provocar reações desconfortáveis, um fenômeno conhecido como “vale da estranheza”. Esse conceito, que descreve a sensação de desconforto quando uma máquina se aproxima da aparência humana, sugere que, embora a IA possa surpreender positivamente, também pode gerar desconfiança e confusão. É crucial reconhecer e abordar essas reações, pois elas refletem uma perturbação em nossos modelos mentais sobre como a tecnologia opera.

Os modelos mentais são fundamentais em design de experiência do usuário (UX) e precisam ser mais integrados na comunidade de IA. A complacência em relação ao uso de código gerado por IA e a substituição de práticas como a programação em par são exemplos de padrões inadequados que podem surgir de uma compreensão superficial da tecnologia. À medida que as ferramentas de IA se tornam mais convincentes, a dificuldade em reconhecer suas limitações aumenta, o que pode comprometer sua eficácia e valor.

A legislação, como o EU AI Act, que exige que criadores de deep fakes rotulem seu conteúdo como "gerado por IA", é uma resposta a esses desafios. A experiência do usuário pode ser afetada por diferenças sutis entre plataformas, como observado por Martin Fowler em 2011. Essas variações podem levar os usuários a se sentirem desconfortáveis com a tecnologia, especialmente em contextos onde a precisão é crítica, como na pesquisa médica ou na análise de documentos legais.

Para mitigar o impacto do vale da estranheza, é necessário um reexame das expectativas em relação à IA generativa. Ethan Mollick, professor da Universidade da Pensilvânia, sugere que devemos ver a IA como "pessoas razoavelmente boas", ajustando nossas expectativas sobre suas capacidades. Práticas como a obtenção de saídas estruturadas de modelos de linguagem podem ajudar a alinhar expectativas e resultados. Ferramentas como Langfuse e bibliotecas como Ragas e DeepEval são essenciais para entender melhor o funcionamento interno desses modelos, promovendo um relacionamento mais saudável com a tecnologia e evitando a queda no vale da estranheza.