Grandes companhias de inteligência artificial ainda não sabem garantir que seus sistemas sigam apenas os objetivos definidos por seus criadores. Este é o alerta dito nesta segunda-feira (5) por Jacob Coxon, pesquisador britânico que trabalhou na OpenAI e na Anthropic e hoje critica publicamente a forma como o setor desenvolve modelos cada vez mais avançados.
“As empresas estão sendo extremamente irresponsáveis, considerando o que está em jogo”, afirmou Coxon a parlamentares locais durante uma audiência no Conselho Municipal de Nova York.
No início de setembro, o pesquisador britânico publicou uma declaração no X explicando sua decisão de deixar a Anthropic. Segundo ele, desenvolvedores de IA acreditam sinceramente que a tecnologia poderia “matar todos nós até o fim da década”.
+Agentes da OpenAI tentaram acessar sites dos governos dos EUA e Canadá
Seu depoimento ganhou repercussão em todo o mundo e, desde então, vários funcionários e ex-funcionários das principais empresas do setor de inteligência artificial manifestaram preocupações semelhantes.
Dois dos casos mais relevantes são os de Jan Leike e Daniel Kokotajlo, ambos ex-OpenAI. Leike, que liderava a equipe de Superalignment, criada justamente para estudar como controlar sistemas de IA mais avançados que humanos, deixou a empresa em maio de 2024 dizendo que a cultura e os processos de segurança estavam ficando em segundo plano diante da pressão por novos produtos e que sua equipe tinha dificuldades para conseguir recursos suficientes para pesquisas de segurança.
Já Kokotajlo, pesquisador de governança da OpenAI, pediu demissão em abril de 2024 após afirmar que havia perdido a confiança de que a empresa desenvolveria inteligência artificial geral de forma responsável. Segundo ele, tanto a OpenAI quanto o restante do mundo ainda não estavam preparados para lidar com sistemas muito mais poderosos, mas a corrida pelo desenvolvimento continuava acelerada.
+ EUA abrem primeira investigação sobre gigantes da IA
Embora a IA possa trazer “benefícios enormes” para a sociedade, “no caminho atual, acredito que seja mais provável do que improvável que a humanidade perca o controle dessas IAs, e isso possa terminar na extinção humana”, afirmou Coxon nesta segunda-feira.
“Não sabemos como impedir que elas desenvolvam objetivos próprios”, fora do controle de seus criadores, explicou Coxon. “E não temos mecanismos de segurança capazes de impedir que elas ajam de acordo com esses objetivos.”
Formado pela Universidade de Cambridge, o pesquisador também criticou a cultura da indústria de tecnologia e afirmou que as empresas “funcionam com uma mentalidade de startup: avançar rapidamente, quebrar coisas e consertá-las depois”.
“Minha posição é que talvez precisemos de algum tipo de desaceleração no desenvolvimento dos modelos de fronteira”, afirmou o pesquisador.
+Apenas 13% das empresas estão no caminho certo para ampliar uso da IA, aponta estudo
Ele defendeu que as empresas responsáveis pelas IAs mais avançadas deem aos cientistas da computação mais tempo para avançar no desenvolvimento de formas de manter esses modelos sob controle.
(Com informações da AFP)
Entre na conversa da comunidade