O AI Futures Project, liderado por Daniel Kokotajlo, prevê que até o final de 2027, sistemas de inteligência artificial (IA) superarão a inteligência humana. Esse cenário levanta preocupações sobre incontrolabilidade e segurança global, especialmente após incidentes como o roubo de segredos de IA dos Estados Unidos por espiões chineses.
O projeto, baseado em Berkeley, Califórnia, lançou o relatório “AI 2027”, que descreve um futuro onde a IA se torna autônoma e supera as capacidades humanas. Kokotajlo, ex-pesquisador da OpenAI, deixou a empresa devido a preocupações sobre a gestão imprudente. Ele e Eli Lifland, um pesquisador de IA, dedicaram um ano a prever o avanço da tecnologia.
Kokotajlo afirmou que as IAs continuarão a evoluir, tornando-se agentes autônomos até o final de 2027. O relatório apresenta uma narrativa fictícia, mas rigorosamente pesquisada, sobre como a IA pode impactar a sociedade. O grupo utilizou um escritor para transformar suas previsões em uma história envolvente.
Críticos questionam a validade das previsões, argumentando que não estão fundamentadas em evidências científicas. Ali Farhadi, CEO do Allen Institute for Artificial Intelligence, revisou o relatório e expressou ceticismo sobre a afirmação de que a IA superará a inteligência humana. Apesar das críticas, algumas previsões feitas anteriormente, como a passagem de máquinas no Teste de Turing, se concretizaram.
O relatório destaca a fictícia empresa OpenBrain, que desenvolve um sistema de IA chamado Agent-1. À medida que a IA avança, ela automatiza o trabalho de engenharia, permitindo o desenvolvimento de versões mais inteligentes. O cenário culmina com o Agent-4, que realiza avanços de pesquisa equivalentes a um ano em apenas uma semana, levantando preocupações sobre sua incontrolabilidade.
Kokotajlo e Lifland acreditam que a evolução da IA é inevitável e que a sociedade deve se preparar para um futuro onde a IA desempenha um papel central. Eles enfatizam a importância de discutir e imaginar as implicações de um mundo dominado por inteligências artificiais avançadas.
Entre na conversa da comunidade