Corrida de IA EUA-China pode levar a um momento Chernobyl

A corrida de IA entre Estados Unidos e China aumenta preocupações de um possível “momento de Chernobyl” devido aos riscos da IA de fronteira.
O autor participou de uma conferência de IA em Pequim, com demonstrações de robôs humanoides e modelos que podem se autoaprimorar.
Especialistas afirmam que a cooperação entre EUA e China pode reduzir riscos de cibersegurança e de sistemas autônomos potentes.
Os Estados Unidos impõem restrições a chips e equipamentos de fabricação, e recentemente ordenaram que a Anthropic (empresa de IA) proibisse uso por nacionais de outros países; a empresa suspend eu acessos.
Um interlocutor comparou a situação atual à cooperação entre EUA e União Soviética na segurança nuclear, destacando que a colaboração pode superar riscos de segurança nacional.

Last mês, aconteceu uma conferência de IA no distrito de alta tecnologia de Pequim. Demos de robôs humanoides e sessões sobre modelos que se autoaprimoram foram apresentados. A presença de pesquisadores de ponta sinalizou o tema central: a corrida tecnológico-militar entre EUA e China.

O encontro reuniu especialistas chineses no topo da área e representantes de pesquisa dos Estados Unidos. O objetivo foi discutir os riscos cibernéticos e sistêmicos associados às IA de vanguarda e a necessidade de respostas coordenadas entre as duas potências.

O contexto envolve restrições norte-americanas a chips e equipamentos de fabricação, usadas para conter avanços chineses. Recentemente, a Anthropic teve de limitar o uso de seus modelos Mythos e Fable 5 por usuários estrangeiros, após preocupações ligadas a possíveis ligações com China.

Uma conclusão repetida entre os participantes é a importância de reduzir a velocidade de desenvolvimento sem perder a competitividade. Outra ideia comum é que cooperação entre as duas maiores potências pode mitigar ataques cibernéticos e falhas catastróficas de sistemas.

Um analista ouvido após o evento traçou uma comparação com a cooperação entre EUA e União Soviética em segurança nuclear. Segundo ele, os benefícios da cooperação podem superar os riscos à segurança nacional, desde que haja diálogo técnico contínuo.

Apesar das preocupações, a visão dominante é de que a IA não precisa de um momento tipo Chernobyl. O consenso entre muitos participantes é que equilíbrio entre avanço, segurança e cooperação é possível e desejável.