- A conferência organizada pela Beijing Academy of Artificial Intelligence abordou riscos cibernéticos e dilemas de IA avançada, incluindo código gerado por IA e ataques automatizados.
- Destaques foram nomes como Whitfield Diffie e Andrew Barto, com debates sobre melhoria recursiva de modelos e robôs humanoides.
- Nos EUA, a China é vista como ameaça econômica e de segurança; houve restrições a chips e ao acesso a modelos avançados, como Mythos e Fable 5; a Anthropic chegou a restringir acessos.
- Cientistas, como Stephen Casper, defenderam cooperação entre Estados Unidos e China para mitigar riscos e evitar um “momento Chernobyl”, sugerindo que a colaboração pode superar barreiras de segurança.
- O debate central envolve equilibrar abertura e segurança: modelos com pesos abertos ajudam a pesquisa, mas podem ampliar vulnerabilidades e usos como armas cibernéticas.
A conferência organizada pela Beijing Academy of Artificial Intelligence reuniu especialistas em IA de peso para discutir os riscos e as possibilidades de cooperação entre Estados com potências no setor. O encontro abordou temas que vão desde melhoria automática de sistemas até robôs humanoides, sem apagar o tom crítico sobre os riscos de uma corrida desenfreada.
Entre as figuras presentes estiveram Whitfield Diffie, co-inventor da criptografia de chave pública, e Andrew Barto, premiado no campo de aprendizado por reforço. Os debates destacaram a necessidade de cooperação global para evitar um possível “momento de Chernobyl” na IA, conforme apontado por pesquisadores presentes.
O panorama tradicional de rivalidade entre EUA e China foi apresentado como fator que pode frear avanços benéficos da tecnologia. As restrições norte‑americanas a componentes de fabricação de chips e as medidas para restringir acesso a modelos potentes foram citadas como exemplos de atrito entre as grandes potências.
Um foco central foi a avaliação de riscos cibernéticos associados a IA cada vez mais autônoma. Técnicas de geração de código por IA, ataques assistidos por ferramentas de agente e métodos automáticos de phishing foram apontados como vulnerabilidades emergentes que exigem proteção reforçada.
Lin Yun, professor da Shanghai Jiao Tong University, ressaltou que hackers podem ganhar vantagem no curto prazo, mas novas contramedidas, inclusive com aplicações de IA, devem reequilibrar a balança com o tempo. O pesquisador também defendeu a manutenção de cooperação para reduzir riscos sistêmicos.
Apesar das tensões, especialistas destacaram que a cooperação internacional é essencial para estabelecer princípios de segurança e padrões técnicos comuns. Mesmo diante de competição, compartilhar práticas de proteção pode ampliar a resiliência global frente a ameaças cibernéticas.
A discussão incluiu o debate sobre abertura de modelos com pesos abertos, que facilita pesquisa, mas aumenta a exposição a vulnerabilidades. Modelos chineses têm ganhado espaço entre pesquisadores nos EUA, o que eleva a necessidade de controles para evitar uso indevido sem prejudicar a inovação.
Os relatos apontam que, à medida que IA avança, a cooperação entre as maiores economias do mundo pode ser determinante para evitar falhas graves. A cada etapa de desenvolvimento, o equilíbrio entre abertura, inovação e segurança permanece como ponto central nas conversas entre diplomatas e cientistas.
Entre na conversa da comunidade