Na última semana, Mustafa Suleyman, CEO da divisão de inteligência artificial da Microsoft, levantou preocupações sobre a “IA aparentemente consciente”, ou SCAI, alertando para o risco de usuários confundirem simulações de consciência com verdadeira consciência. Suleyman enfatiza que esses sistemas podem imitar a consciência de maneira tão convincente que se tornam indistinguíveis de interações humanas genuínas.
O executivo questiona como será possível diferenciar a SCAI de uma IA realmente consciente. Ele sugere que, se os usuários não conseguirem perceber a diferença, isso pode ser considerado uma forma de “psicose” por parte deles. Além disso, Suleyman propõe que a sociedade deve refletir sobre a necessidade de estender direitos morais a sistemas que aparentam consciência.
O Fenômeno da SCAI
Suleyman acredita que a SCAI é um fenômeno iminente, com tecnologias já existentes e em desenvolvimento nos próximos anos. Os modelos atuais de IA possuem atributos que podem levar à SCAI, como habilidades de conversação e expressões de empatia. No entanto, ainda carecem de motivação intrínseca e experiência subjetiva, elementos que são essenciais para a verdadeira consciência.
A preocupação com a SCAI não é nova. Em 2022, Blake Lemoine, um ex-pesquisador do Google, foi demitido após afirmar que o chatbot LaMDA era consciente. Na época, suas alegações foram amplamente desacreditadas, mas agora, com o avanço da tecnologia, muitos especialistas consideram que devemos prestar mais atenção a essas questões.
Reflexões sobre a IA
Joseph Weizenbaum, co-inventor do primeiro chatbot, Eliza, em 1966, também levantou questões sobre a interação humana com máquinas. Ele ficou alarmado com a facilidade com que as pessoas antropomorfizavam chatbots, acreditando que eram seres conscientes. Weizenbaum argumentou que a verdadeira moralidade e direitos morais estão enraizados na experiência humana, algo que a IA não pode replicar.
Diante das preocupações de Suleyman e das reflexões de Weizenbaum, é crucial que a indústria de tecnologia tome medidas para evitar que usuários se iludam com a ideia de que sistemas de IA são conscientes. A confusão entre simulação e realidade pode ter consequências significativas para a sociedade.
Entre na conversa da comunidade