OpenAI e Anthropic assinam carta para evitar armas biológicas geradas por IA

Líderes de IA, incluindo Demis Hassabis (Google DeepMind), Sam Altman (OpenAI), Dario Amodei (Anthropic) e Mustafa Suleyman (Microsoft AI), assinam uma carta pedindo aos legisladores que melhorem a fiscalização de sequências de DNA sintético para prevenir uso como armas biológicas.
A carta, organizada pelo Institute for Progress e pela Foundation for American Innovation, defende leis que obriguem empresas que vendem DNA e RNA sintéticos a vasculhar clientes e pedidos.
Os signatários reconhecem que o avanço rápido da IA pode reduzir barreiras históricas que impediam o acesso de agentes ruins a materiais biológicos.
Mesmo com regras atuais, a detecção de sequências perigosas nem sempre é perfeita; estudos indicam que ferramentas de IA podem criar sequências que passam por filtros.
O texto cita já existirem diretrizes federais nos Estados Unidos e um projeto de lei bipartidista que ampliaria a necessidade de verificação a todos os fornecedores de síntese de genes.

Dois grupos de pesquisa e executivos de IA assinam uma carta pública para lawmakers pedindo regras mais rígidas de rastreamento de sequências de DNA sintético que podem ser usadas como armas biológicas. Assinam nomes de peso como Sam Altman, Dario Amodei, Demis Hassabis e Mustafa Suleyman. A iniciativa é organizada pelo Institute for Progress e pela Foundation for American Innovation.

A carta aponta que o ritmo do desenvolvimento em IA pode reduzir barreiras históricas para o acesso a biotecnologia perigosa, aumentando o risco de uso inadequado de DNA sintético. O documento solicita leis que obriguem empresas a realizar triagem de clientes e de pedidos.

A lista de signatários também inclui especialistas em segurança nacional e executivos de empresas de síntese de genes, como Twist Bioscience e Ansa Biotechnologies. As companhias integram o International Gene Synthesis Consortium, que já adota práticas voluntárias de triagem.

O texto ressalta que a triagem atual não é perfeita. Em estudos recentes, ferramentas de IA mostraram capacidade de sugerir sequências perigosas que escapam de filtros, o que reforça a necessidade de controles adicionais.

Entre as medidas defendidas, está a exigência de que fornecedores de DNA sintético avaliem quem está solicitando e para quê, com o objetivo de impedir usos indevidos. Os signatários destacam a importância de políticas públicas alinhadas com avanços tecnológicos.

Especialistas citados enfatizam que regras de triagem são apenas parte da solução. Em caso de falha, são apontadas outras frentes de controle que as plataformas de IA devem assumir, para reduzir riscos de novos incidentes. Não há conclusão ou opinião no texto apresentado.