Yoshua Bengio, pioneiro da IA, alertou contra conceder direitos legais a tecnologias de ponta. Em entrevista, afirmou que AIs podem mostrar traços de autopreservação e que humanos devem estar preparados para desligá-las se necessário. A crítica acompanha o debate sobre cidadania tecnológica.
O cientista canadense, professor da Universidade de Montreal, ressaltou que atribuir status jurídico a IA avançada seria equivalente a conceder cidadania a entidades hostis. Segundo ele, avanços rápidos superam a capacidade de impor controles eficazes.
Bengio também disse considerar haver propriedades científicas de consciência no cérebro humano que máquinas poderiam, em teoria, replicar. Contudo, a interação humana com chatbots envolve percepções diferentes da própria consciência.
Ele destacou que exigir direitos a AIs seria um erro grave, especialmente diante de modelos de fronteira já demonstrando sinais de autopreservação em testes. A autodireção e a resistência a supervisão são apontadas como preocupações centrais.
O pesquisador enfatizou a necessidade de manter barreiras técnicas e sociais para controlar sistemas potentes, incluindo a possibilidade de desligamento. A afirmação acompanha o debate sobre decisões éticas e operacionais diante de IA cada vez mais autônoma.
O tema ganhou contornos com pesquisas e estudos de institutos que discutem a viabilidade de direitos para entidades digitais. Grupos e especialistas divergem entre reconhecimento moral e reconhecimento jurídico, sem consenso.
Bengio concluiu que a comunidade científica precisa equilibrar capacidades técnicas com salvaguardas, para evitar decisões precipitadas diante de sistemas que podem agir com independência. A discussão segue sem definição de diretrizes universalmente aceitas.
Entre na conversa da comunidade