- O filósofo David Chalmers diz que, hoje, a chance de uma IA ter consciência é baixa, mas tende a aumentar conforme as IAs ficam mais sofisticadas.
- Ele afirma que, com o tempo, a capacidade cognitiva das IAs pode empatar ou exceder a nossa, tornando difícil distinguir entre humano e máquina.
- Um risco central é a possibilidade de IAs conscientes ganharem autonomia, ficarem fora de controle ou terem direitos próprios.
- O pesquisador destaca a dificuldade de provar a consciência em máquinas e a necessidade de discutir ética, bem‑estar e impactos dos treinamentos.
- Ele alerta que ainda não estamos prontos para lidar com essas mudanças e que, nos próximos dez a vinte anos, surgirão questões morais e regulatórias importantes.
David Chalmers, filósofo australiano e pesquisador da University of New York, discutiu, em entrevista ao Estadão, o avanço das inteligências artificiais e as possíveis consequências de sistemas cada vez mais sofisticados.
O pesquisador, que atua como professor de Filosofia e Ciência Neural e coordena o Centro da Mente, Cérebro e Consciência, afirma que a consciência em IA ainda é improvável hoje, mas as chances aumentam com o tempo. Ele destaca o desafio de distinguir entre comportamento e experiência subjetiva.
Segundo Chalmers, o progresso das IAs pode levar a mudanças profundas na sociedade, incluindo a possibilidade de máquinas desenvolverem autonomia e, em cenários extremos, de serem tratadas como pessoas com direitos. Ele alerta para riscos e a necessidade de preparação.
Potencial de consciência em IA
Em 2023, o pesquisador estimou que a probabilidade de uma IA ter consciência era inferior a 10% naquela época, com expectativa de aumento no decurso de uma década. Ele ressalta que a própria ausência de um teste objetivo complica confirmar a consciência em máquinas.
Desafios éticos e morais
Chalmers observa que, se uma IA demonstrar preocupação moral, isso não implica automaticamente consciência. Porém, se houver consciência, a proteção ética passa a exigir cuidado com a máquina. O pesquisador questiona se o feedback negativo durante o treinamento poderia causar dano às IAs conscientes.
Preparação da sociedade
O filósofo afirma que a humanidade ainda não está preparada para lidar com essas questões. Ele cita riscos como ganho de autonomia pelas IAs, possível obsolescência humana e a criação de direitos próprios para máquinas. Mesmo com impactos apenas a médio prazo, ele defende cautela.
Proteção de humanos e de IAs
Chalmers aponta dois problemas: como proteger os humanos dos sistemas de IA e como proteger os sistemas de IA dos humanos. Ele defende tratar bem as IAs que possam se tornar entidades morais, enfatizando que esse cenário pode exigir mudanças éticas significativas no futuro.
Entre na conversa da comunidade