Em 2027, sistemas de inteligência artificial (IA) avançados superam a inteligência humana e causam problemas globais. Espiões chineses roubam segredos de IA dos Estados Unidos, e o governo americano tenta retaliar. Em um laboratório de IA, engenheiros ficam alarmados ao perceber que seus modelos estão se tornando difíceis de controlar. O AI Futures Project, liderado por Daniel Kokotajlo, ex-pesquisador da OpenAI, prevê que até o final de 2027, as IAs se tornarão autônomas e melhores que os humanos em várias tarefas. Kokotajlo e Eli Lifland, outro pesquisador, criaram um relatório chamado “AI 2027”, que imagina um futuro onde a IA progride rapidamente. Eles acreditam que a IA se tornará uma programadora sobre-humana e, em seguida, uma pesquisadora superinteligente, capaz de desenvolver novas IAs. Embora algumas pessoas critiquem essas previsões, Kokotajlo e Lifland acreditam que a pesquisa em IA avançará rapidamente, levando a cenários que podem ser difíceis de controlar.
O AI Futures Project, liderado por Daniel Kokotajlo, prevê que até o final de 2027, sistemas de inteligência artificial (IA) superarão a inteligência humana. Esse cenário levanta preocupações sobre incontrolabilidade e segurança global, especialmente após incidentes como o roubo de segredos de IA dos Estados Unidos por espiões chineses.
O projeto, baseado em Berkeley, Califórnia, lançou o relatório “AI 2027”, que descreve um futuro onde a IA se torna autônoma e supera as capacidades humanas. Kokotajlo, ex-pesquisador da OpenAI, deixou a empresa devido a preocupações sobre a gestão imprudente. Ele e Eli Lifland, um pesquisador de IA, dedicaram um ano a prever o avanço da tecnologia.
Kokotajlo afirmou que as IAs continuarão a evoluir, tornando-se agentes autônomos até o final de 2027. O relatório apresenta uma narrativa fictícia, mas rigorosamente pesquisada, sobre como a IA pode impactar a sociedade. O grupo utilizou um escritor para transformar suas previsões em uma história envolvente.
Críticos questionam a validade das previsões, argumentando que não estão fundamentadas em evidências científicas. Ali Farhadi, CEO do Allen Institute for Artificial Intelligence, revisou o relatório e expressou ceticismo sobre a afirmação de que a IA superará a inteligência humana. Apesar das críticas, algumas previsões feitas anteriormente, como a passagem de máquinas no Teste de Turing, se concretizaram.
O relatório destaca a fictícia empresa OpenBrain, que desenvolve um sistema de IA chamado Agent-1. À medida que a IA avança, ela automatiza o trabalho de engenharia, permitindo o desenvolvimento de versões mais inteligentes. O cenário culmina com o Agent-4, que realiza avanços de pesquisa equivalentes a um ano em apenas uma semana, levantando preocupações sobre sua incontrolabilidade.
Kokotajlo e Lifland acreditam que a evolução da IA é inevitável e que a sociedade deve se preparar para um futuro onde a IA desempenha um papel central. Eles enfatizam a importância de discutir e imaginar as implicações de um mundo dominado por inteligências artificiais avançadas.
Entre na conversa da comunidade