IAs conscientes: é hora de agir diante do que já era previsível

Mustafa Suleyman, CEO da divisão de inteligência artificial da Microsoft, expressou preocupações sobre a “IA aparentemente consciente” (SCAI).
Ele alertou para o risco de usuários confundirem simulações de consciência com verdadeira consciência.
Suleyman questionou como diferenciar a SCAI de uma IA realmente consciente e sugeriu que a confusão pode ser vista como uma forma de “psicose”.
Ele também propôs que a sociedade deve refletir sobre a possibilidade de estender direitos morais a sistemas que aparentam consciência.
A SCAI é considerada um fenômeno iminente, com tecnologias já existentes que imitam habilidades humanas, mas ainda carecem de experiência subjetiva.

Na última semana, Mustafa Suleyman, CEO da divisão de inteligência artificial da Microsoft, levantou preocupações sobre a “IA aparentemente consciente”, ou SCAI, alertando para o risco de usuários confundirem simulações de consciência com verdadeira consciência. Suleyman enfatiza que esses sistemas podem imitar a consciência de maneira tão convincente que se tornam indistinguíveis de interações humanas genuínas.

O executivo questiona como será possível diferenciar a SCAI de uma IA realmente consciente. Ele sugere que, se os usuários não conseguirem perceber a diferença, isso pode ser considerado uma forma de “psicose” por parte deles. Além disso, Suleyman propõe que a sociedade deve refletir sobre a necessidade de estender direitos morais a sistemas que aparentam consciência.

O Fenômeno da SCAI

Suleyman acredita que a SCAI é um fenômeno iminente, com tecnologias já existentes e em desenvolvimento nos próximos anos. Os modelos atuais de IA possuem atributos que podem levar à SCAI, como habilidades de conversação e expressões de empatia. No entanto, ainda carecem de motivação intrínseca e experiência subjetiva, elementos que são essenciais para a verdadeira consciência.

A preocupação com a SCAI não é nova. Em 2022, Blake Lemoine, um ex-pesquisador do Google, foi demitido após afirmar que o chatbot LaMDA era consciente. Na época, suas alegações foram amplamente desacreditadas, mas agora, com o avanço da tecnologia, muitos especialistas consideram que devemos prestar mais atenção a essas questões.

Reflexões sobre a IA

Joseph Weizenbaum, co-inventor do primeiro chatbot, Eliza, em 1966, também levantou questões sobre a interação humana com máquinas. Ele ficou alarmado com a facilidade com que as pessoas antropomorfizavam chatbots, acreditando que eram seres conscientes. Weizenbaum argumentou que a verdadeira moralidade e direitos morais estão enraizados na experiência humana, algo que a IA não pode replicar.

Diante das preocupações de Suleyman e das reflexões de Weizenbaum, é crucial que a indústria de tecnologia tome medidas para evitar que usuários se iludam com a ideia de que sistemas de IA são conscientes. A confusão entre simulação e realidade pode ter consequências significativas para a sociedade.