Executivos das maiores empresas de inteligência artificial defenderam, em carta pública, leis rígidas para evitar armas biológicas criadas com IA. A iniciativa reúne líderes de OpenAI, Anthropic, Google DeepMind e Microsoft AI, e foi enviada ao Congresso dos EUA.
A carta, organizada pelo Institute for Progress e pela Foundation for American Innovation, argumenta que modelos de IA avançados podem baixar barreiras para a obtenção de agentes biológicos perigosos. O foco inicial é o rastreamento de vendas de DNA sintético.
Quem assina: Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind) e Mustafa Suleyman (Microsoft AI), entre outros. A mensagem defende que empresas que vendem DNA sintético realizem checagens de clientes e análises de pedidos para evitar usos maliciosos.
Contexto regulatório: o tema já chegou ao Senado americano, com projeto bipartidário que prevê checagem obrigatória de pedidos de DNA nos EUA. Pesquisadores destacam limitações de sistemas atuais de filtragem e riscos de avanços tecnológicos facilitarem ataques biológicos.
Objetivo proposto: reforçar controles internos nas laboratórios de IA para impedir que modelos auxiliem usuários em tarefas com potencial dano biológico. A carta enfatiza ação coordenada entre indústria e governo para aumentar a segurança.
Entre na conversa da comunidade