Mulher é banida após usar voz clonada de IA para expressar 'normal British banter'

Nos últimos dias, relatos de pessoas que perderam a voz devido a doenças neurodegenerativas têm ganhado destaque. Joyce Esser, do Reino Unido, e Jules Rodriguez, de Miami, enfrentam a esclerose lateral amiotrófica (ELA), uma condição que compromete a capacidade de mover e controlar os músculos. O diagnóstico impactou suas vidas de forma profunda, levando Jules e sua esposa, Maria, a deixarem o consultório médico em lágrimas. Quatro anos depois, Jules não consegue mover os membros e uma traqueostomia o impede de falar.

A tecnologia de inteligência artificial (IA) está ajudando a recuperar essas vozes perdidas. Ambos os pacientes utilizaram uma ferramenta da ElevenLabs para alimentar gravações de suas vozes antigas, permitindo que "falem" digitando frases em dispositivos. Essa experiência tem sido emocional, mas a comunicação ainda apresenta limitações, como a lentidão e a falta de naturalidade. Joyce, por exemplo, não utiliza frequentemente sua voz clonada, embora tenha se divertido ao enviar uma mensagem brincalhona para seu marido.

Contudo, Joyce enfrentou um incidente inesperado ao receber um aviso da ElevenLabs sobre o uso de linguagem inadequada, o que a deixou mortificada. Apesar de sua mensagem ser uma simples brincadeira entre casais, a empresa a baniu temporariamente, alegando que a frase poderia ser interpretada como uma ameaça. A representante da ElevenLabs, Sophia Noel, indicou que a empresa não tem obrigação de monitorar o conteúdo, mas pode suspender o acesso se considerar que as regras foram violadas.

A situação levanta questões sobre a adequação da moderação de linguagem para pessoas com doenças como a ELA. Enquanto alguns usuários, como Jules, não enfrentaram problemas semelhantes, Joyce acredita que deveria haver mais flexibilidade. Richard Cave, da MND Association, defende que pessoas com ELA devem ter liberdade para expressar o que pensam, incluindo o uso de palavrões. A tecnologia continua a evoluir, com pesquisas em andamento para criar avatares realistas que possam ser controlados por implantes cerebrais, ampliando as possibilidades de comunicação para aqueles que enfrentam limitações severas.