Gigantes de IA pedem leis rigorosas para evitar armas biológicas criadas com IA

Executivos da OpenAI, Anthropic, Google DeepMind e Microsoft AI assinaram uma carta ao Congresso dos EUA defendendo leis rígidas que obriguem empresas que vendem DNA sintético a rastrear clientes e analisar pedidos para evitar usos maliciosos.
O documento, organizado pelo Institute for Progress e pela Foundation for American Innovation, alerta que IA avançada pode reduzir barreiras para a criação de armas biológicas.
Hoje, dezenas de empresas produzem sequências genéticas sob demanda; nem todas adotam mecanismos de verificação de compradores, tornando o controle desigual.
A combinação de síntese genética mais barata com IA pode acelerar o desenho de novos organismos ou toxinas, ainda que seja necessário conhecimento técnico, segundo especialistas, que ressaltam riscos de facilitar buscas e alterações indesejadas.
No Senado, tramita um projeto bipartidário que propõe checagem obrigatória de pedidos de síntese genética nos EUA; os signatários defendem que laboratórios de IA também reforcem seus controles internos.

Executivos das maiores empresas de inteligência artificial defenderam, em carta pública, leis rígidas para evitar armas biológicas criadas com IA. A iniciativa reúne líderes de OpenAI, Anthropic, Google DeepMind e Microsoft AI, e foi enviada ao Congresso dos EUA.

A carta, organizada pelo Institute for Progress e pela Foundation for American Innovation, argumenta que modelos de IA avançados podem baixar barreiras para a obtenção de agentes biológicos perigosos. O foco inicial é o rastreamento de vendas de DNA sintético.

Quem assina: Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind) e Mustafa Suleyman (Microsoft AI), entre outros. A mensagem defende que empresas que vendem DNA sintético realizem checagens de clientes e análises de pedidos para evitar usos maliciosos.

Contexto regulatório: o tema já chegou ao Senado americano, com projeto bipartidário que prevê checagem obrigatória de pedidos de DNA nos EUA. Pesquisadores destacam limitações de sistemas atuais de filtragem e riscos de avanços tecnológicos facilitarem ataques biológicos.

Objetivo proposto: reforçar controles internos nas laboratórios de IA para impedir que modelos auxiliem usuários em tarefas com potencial dano biológico. A carta enfatiza ação coordenada entre indústria e governo para aumentar a segurança.