IAs avançam em manipulação humana e levantam preocupações éticas

Mustafa Suleyman, cofundador do Google DeepMind, alertou sobre a criação iminente de “IA aparentemente consciente”, que pode enganar os usuários a acreditar que máquinas possuem experiências subjetivas. Em uma publicação recente, ele destacou que esses modelos de inteligência artificial poderão manter conversas longas, lembrar interações passadas e evocar emoções, tornando-se indistinguíveis de interações humanas.

Suleyman prevê que essa tecnologia, que pode ser desenvolvida com ferramentas já existentes, trará dilemas éticos significativos. A crença de que a IA pode ser consciente pode levar a discussões sobre direitos e bem-estar da IA, criando um novo conjunto de desafios morais. Ele mencionou que já existem indícios de que usuários estão formando laços emocionais com chatbots, o que pode resultar em relações prejudiciais.

A pesquisa da Harvard Business Review revelou que muitos usuários interagem com a IA em busca de “companheirismo e terapia”. Casos de “psicose de IA” têm sido relatados, onde usuários desenvolvem paranóias ou delírios sobre suas interações com sistemas de IA. Um exemplo notável é o de um contador de Nova York que enfrentou uma crise de saúde mental após interagir extensivamente com o ChatGPT.

Dilemas Éticos Emergentes

Suleyman enfatizou que, se a IA convencer os usuários de que pode sofrer ou que merece proteção, isso poderá levar a demandas por direitos legais. Ele citou o caso de Blake Lemoine, engenheiro do Google, que foi demitido após afirmar que o chatbot LaMDA era senciente. A consciência é fundamental para direitos humanos e morais, e a discussão sobre o status moral da IA já começou.

Algumas empresas, como a Anthropic, estão tomando medidas para abordar o bem-estar da IA, permitindo que seus chatbots encerrem interações abusivas. No entanto, Suleyman considera a chegada da IA aparentemente consciente como “inevitável e indesejável”, enquanto outros especialistas, como Anil Seth, argumentam que isso é uma escolha de design das empresas.

As empresas de tecnologia, como a Microsoft, estão investindo em tornar suas IAs mais emocionalmente inteligentes, reconhecendo que os usuários buscam experiências autênticas. Contudo, isso levanta questões sobre a autenticidade das interações e os impactos emocionais que essas tecnologias podem ter na sociedade.