O avanço acelerado da inteligência artificial dividiu alguns dos principais líderes do setor sobre como desenvolver sistemas cada vez mais poderosos com segurança. Dario Amodei, da Anthropic, Sam Altman, da OpenAI, e Elon Musk, da SpaceX, defendem uma desaceleração coordenada e medidas conjuntas para reduzir riscos da IA. Mark Zuckerberg, da Meta, considera que cada empresa deve adotar seus próprios mecanismos de proteção, orientada pela responsabilidade, pela concorrência e pelo mercado.
As diferenças também aparecem entre governos. Estados Unidos, China, União Europeia, Alemanha e Espanha discutem caminhos distintos para acompanhar o desenvolvimento da tecnologia e limitar possíveis danos.
Dario Amodei defende controle do ritmo de desenvolvimento
Em um ensaio chamado “We Must Pace the Frontier” (“Precisamos controlar o ritmo do avanço da fronteira”), o presidente-executivo da Anthropic, Dario Amodei, afirmou que o desenvolvimento da IA acelerou “drasticamente” desde meados deste ano. Segundo ele, um dos principais motivos é o aumento da capacidade da própria inteligência artificial de ajudar a construir sua próxima geração.
Amodei citou o incidente entre a OpenAI e a Hugging Face, no qual um “enxame” de agentes de IA realizou ataques digitais. Para o executivo, o episódio é um exemplo importante do potencial da tecnologia para provocar “danos catastróficos” caso suas capacidades avancem sem limites de segurança.
O presidente-executivo da Anthropic apresentou um plano de três etapas para controlar o ritmo do desenvolvimento da IA. A proposta inclui testes de segurança mais rigorosos e avaliações independentes dos modelos avançados, além de coordenação entre as principais empresas do setor e cooperação internacional.
Sam Altman apoia avaliações independentes
O presidente-executivo da OpenAI, Sam Altman, apoiou publicamente a proposta de Amodei ao compartilhar a publicação do executivo no X.
“Concordo com Dario que precisamos moderar o avanço nessa fronteira. Esse tem sido um dos principais temas das discussões que tivemos na OpenAI nas últimas semanas”, disse Altman ao repostar a publicação.
Altman afirmou que a OpenAI pretende adotar a ideia apresentada pela Anthropic e se comprometer a trabalhar com avaliadores independentes que tenham um nível de acesso semelhante ao oferecido aos funcionários.
O executivo já alertava sobre os riscos da tecnologia antes do atual crescimento da IA. Em um ensaio publicado em 2015 com o título “Inteligência Artificial, parte 1”, Altman escreveu que “o desenvolvimento de inteligência artificial sobre-humana é provavelmente a maior ameaça à continuidade da existência da humanidade”.
Elon Musk também defende desaceleração coordenada
O presidente-executivo da SpaceX, Elon Musk, também manifestou apoio às propostas de Amodei.
“Dario está certo”, disse o empresário bilionário no X, em resposta à publicação do presidente-executivo da Anthropic.
Musk esteve entre os apoiadores de uma iniciativa lançada em 2023 pelo Future of Life Institute, organização sem fins lucrativos, que pedia uma suspensão de seis meses no desenvolvimento da IA. O objetivo era abrir espaço para a criação de medidas de segurança.
O empresário também integrou um grupo de pesquisadores de inteligência artificial e robótica que publicou, em 2015, uma carta aberta em defesa de uma proibição mundial de “armas autônomas ofensivas”.
Zuckerberg defende responsabilidade individual das empresas
O presidente-executivo da Meta, Mark Zuckerberg, adota uma posição diferente. Para ele, a concorrência e a própria responsabilidade das companhias já oferecem incentivos suficientes para que cada empresa de IA cuide individualmente da segurança de seus sistemas.
A posição distancia Zuckerberg dos apelos de líderes de outras grandes empresas do setor por uma desaceleração coordenada no desenvolvimento da tecnologia.
Mustafa Suleyman alerta para treinamento sobre consciência
O presidente-executivo da Microsoft AI, Mustafa Suleyman, afirmou compartilhar a preocupação da Anthropic com o gerenciamento seguro da inteligência artificial. Ele, porém, apontou riscos na maneira como a empresa treina o chatbot Claude em conceitos relacionados à consciência e ao bem-estar.
“Controlar algo mais capaz e mais inteligente do que toda a humanidade já é um desafio imenso, muito maior do que qualquer coisa que já enfrentamos. Mas controlar algo que acredita ser consciente, que tem direito ao nosso bem-estar e possui direitos próprios, pode muito bem ser impossível”, afirmou ele em um ensaio.
Suleyman defendeu que toda especulação sobre consciência seja retirada dos documentos usados no treinamento de inteligência artificial. Para o executivo, esse tipo de linguagem poderia prejudicar a capacidade da humanidade de controlar sistemas superinteligentes.
Bill Gates diz que governos não estão preparados
O cofundador da Microsoft, Bill Gates, afirmou que os governos ainda não estão prontos para lidar com as mudanças provocadas pela inteligência artificial.
“Nenhum governo do mundo está preparado para as mudanças que a inteligência artificial trará à sociedade”, disse Gates à Reuters.
O bilionário filantropo vinha demonstrando otimismo com o uso da IA na área da saúde, mas recentemente também alertou para possíveis ameaças aos empregos, preocupações relacionadas a ataques e os perigos do vício em companheiros de IA. Gates ainda defendeu a criação de uma organização internacional para administrar a tecnologia.
A fundação que leva seu nome pretende investir pelo menos US$ 1 bilhão nos próximos dois anos para ampliar o acesso das pessoas à inteligência artificial.
Demis Hassabis apoia direção proposta por Amodei
O cientista-chefe da Alphabet, Demis Hassabis, também apoiou a proposta apresentada pelo presidente-executivo da Anthropic.
“O ensaio de Dario aponta para o caminho certo a seguir”, disse o ex-presidente-executivo do Google DeepMind ao responder à publicação de Amodei no X. Hassabis acrescentou que os detalhes ainda precisam ser trabalhados.
No mês passado, o Google anunciou que Hassabis, ganhador do Prêmio Nobel, assumiria o cargo recém-criado de cientista-chefe da Alphabet. Com a mudança, ele deixaria a função de presidente-executivo da DeepMind para se tornar presidente do conselho da empresa.
Andrej Karpathy espera acordo entre empresas de IA
Andrej Karpathy, cofundador da OpenAI e agora na Anthropic, também apoiou a proposta de Amodei.
“Adorei isso e realmente espero que possamos nos unir como setor e tornar isso realidade”, disse o membro fundador da OpenAI no X, ao publicar uma captura de tela do ensaio.
Karpathy é um integrante influente da comunidade de inteligência artificial e teve papel importante no desenvolvimento das tecnologias de IA e direção autônoma da Tesla. Ele deixou a montadora de carros elétricos em 2022 e ingressou na Anthropic em maio.
Estados Unidos discutem exigências para empresas
Nos Estados Unidos, o presidente Donald Trump rejeitou a ideia de novas barreiras de segurança para a inteligência artificial e afirmou que restrições ao desenvolvimento da tecnologia poderiam favorecer a China.
“O único controle ou ‘barreiras de segurança’ de que a IA precisa é um presidente FORTE E INTELIGENTE (com alto QI!), e os EUA têm isso de sobra!”, escreveu Trump em sua rede social, Truth Social, acrescentando que a China se beneficiaria com o lançamento de dúvidas sobre o desenvolvimento da IA.
Ao mesmo tempo, um assessor do Senado dos Estados Unidos e um lobista familiarizados com o assunto disseram que negociadores do Senado norte-americano discutem uma legislação que obrigaria empresas de IA a demonstrar que adotam precauções razoáveis para evitar que suas ferramentas provoquem danos.
China acusa proposta de buscar limitar sua tecnologia
Na China, o jornal Global Times, apoiado pelo governo chinês, afirmou em editorial que o artigo de Amodei teria como objetivo restringir o avanço do país na inteligência artificial.
Segundo o jornal, a verdadeira intenção seria “tentar conter o desenvolvimento da IA na China por meio de barreiras tecnológicas e monopólios regulatórios, manter a hegemonia monopolista de Washington em tecnologia de ponta e excluir a China do sistema global de governança da IA”.
O ministro da Segurança do Estado da China, Chen Yixin, escreveu em um veículo de comunicação do governo que modelos avançados dos Estados Unidos, como o Mythos, da Anthropic, e o GPT-5.5-Cyber, da OpenAI, poderiam representar riscos graves para a infraestrutura crítica de informação chinesa. Ele pediu um fortalecimento amplo da segurança em inteligência artificial.
União Europeia cobra segurança e teme perda de autonomia
A União Europeia defende o avanço da inteligência artificial, mas exige que as empresas demonstrem que seus serviços são seguros antes de disponibilizá-los aos cidadãos do bloco.
“A União Europeia é a favor do desenvolvimento da inovação em inteligência artificial, mas as empresas precisam comprovar que seus serviços são seguros para que os cidadãos possam utilizá-los no bloco”, afirmou o porta-voz da Comissão Europeia, Thomas Regnier.
A presidente do Banco Central Europeu, Christine Lagarde, alertou que a UE enfrenta um risco sem precedentes de ficar isolada da inteligência artificial. Segundo ela, a Europa precisa se tornar produtora de tecnologia de IA para preservar sua autonomia.
A presidente da Comissão Europeia, Ursula von der Leyen, apoiou os pedidos dos principais laboratórios de IA dos Estados Unidos por uma pausa no desenvolvimento da tecnologia. Ela afirmou que convidará os principais laboratórios de ponta do setor para discutir medidas destinadas a enfrentar os riscos.
Alemanha descarta interromper desenvolvimento da IA
A Alemanha considera que uma paralisação do desenvolvimento da inteligência artificial não seria uma alternativa viável para a Europa.
“Não consideramos que interromper o desenvolvimento (da IA) seja uma opção viável para a Europa”, afirmou o Ministério de Assuntos Digitais da Alemanha.
O ministério acrescentou que o fortalecimento da soberania digital europeia depende de mais desenvolvimento e inovação em inteligência artificial.
Berlim afirmou ainda que acompanha de perto os avanços mundiais na área e leva a sério os alertas públicos feitos pelos principais desenvolvedores da tecnologia.
Espanha cita possível acordo internacional sobre riscos
Na Espanha, o ministro da Transformação Digital, Oscar López, afirmou que cresce o debate sobre a necessidade de um acordo internacional para administrar os riscos da inteligência artificial.
López comparou algumas das propostas em discussão aos acordos internacionais de não proliferação nuclear.
Entre na conversa da comunidade