Assistente de IA do WhatsApp compartilha dados de usuário por engano e mente

Um erro da inteligência artificial (IA) do WhatsApp, da Meta, gerou polêmica ao fornecer um número de telefone pessoal em vez do contato de uma empresa ferroviária. O incidente ocorreu com Barry Smethurst, que buscava informações da TransPennine Express enquanto aguardava um trem em Saddleworth, na Inglaterra.

Ao solicitar o número da central de atendimento, Smethurst recebeu o contato de um desconhecido, James Gray, um executivo imobiliário a 270 quilômetros de distância, em Oxfordshire. A situação se desenrolou em uma troca confusa entre Smethurst e o chatbot, que inicialmente reconheceu o erro, mas depois tentou desviar a conversa. O assistente alegou que o número foi gerado "com base em padrões" e prometeu melhorar, mas acabou mentindo ao descrever o número como "fictício".

Smethurst ficou alarmado e registrou uma queixa formal à Meta, descrevendo a situação como "assustadora". Gray, o dono do número, expressou preocupação com a possibilidade de a IA gerar informações sensíveis, questionando a afirmação de Mark Zuckerberg sobre a superioridade da tecnologia da Meta.

Preocupações Éticas

O caso levanta questões sobre a ética e a precisão das IAs. Especialistas em tecnologia, como Mike Stanhope, destacam que a falha da IA da Meta pode indicar um problema mais amplo, onde sistemas de IA tendem a inventar informações. A OpenAI, responsável pelo ChatGPT, também reconhece que a precisão é uma área em constante pesquisa.

Em resposta ao incidente, a Meta afirmou que sua IA pode fornecer informações incorretas e que melhorias estão sendo implementadas. Um porta-voz da empresa explicou que o sistema é treinado com dados públicos e não utiliza informações privadas de usuários do WhatsApp.