- O governo dos Estados Unidos fechou acordos com Google DeepMind, Microsoft e xAI para revisar versões iniciais de seus modelos de IA antes do lançamento público.
- O Centro de Padrões e Inovação em IA (CAISI), ligado ao Departamento de Comércio, anunciou os acordos na terça-feira, destacando a revisão como chave para entender capacidades e proteger a segurança nacional.
- As parcerias se concentram principalmente em identificar riscos de segurança nacional ligados à cibersegurança, biossegurança e armas químicas.
- A CAISI já realizou mais de quarenta avaliações com modelos não lançados, segundo a agência, que também indica que é comum compartilhar modelos ainda em teste com o governo.
- A notícia ocorre em meio a receios sobre modelos poderosos, como Mythos da Anthropic, e há menções de possíveis medidas regulatórias nos Estados Unidos; a Microsoft também firmou acordo similar no Reino Unido.
O governo dos Estados Unidos fechou acordos com Google DeepMind, Microsoft e xAI para revisar versões iniciais de modelos de IA antes de seu lançamento público. A parceria é mediada pelo Centre for AI Standards and Innovation (CAISI), ligado ao Departamento de Comércio, e tem o objetivo de entender capacidades avançadas e proteger a segurança nacional. A CAISI afirmou que a avaliação ajudará a ampliar o trabalho público em um momento crítico.
Os acordos concentram-se na identificação de riscos de segurança nacional associados a cibersegurança, biossegurança e uso de armas químicas. Segundo a CAISI, as avaliações ocorrem com modelos ainda não disponibilizados ao público, possibilitando medir capacidades e vulnerabilidades sem comprometer informações sensíveis.
Historicamente, OpenAI e Anthropic já firmaram acordos semelhantes com o governo dos EUA, e a CAISI destaca que já realizou mais de 40 avaliações envolvendo modelos não lançados. A prática visa permitir que o governo avalie de forma independente os impactos de tecnologias avançadas.
O anúncio surge em meio a temores de que modelos extremamente sofisticados possam intensificar vulnerabilidades de segurança cibernética. Integrantes do setor e autoridades têm discutido como equilibrar inovação com controles de segurança para evitar riscos amplificados em escala.
Paralelamente, a Microsoft informou ter firmado acordo semelhante no Reino Unido, com o AI Security Institute, voltado a avaliação segura de IA em nível internacional. A empresa afirmou que a cooperação com governos é essencial para testar riscos de segurança pública e de grandes capacidades de IA.
A CAISI ressaltou que o objetivo dessas parcerias é facilitar a colaboração entre indústria e governo na definição de padrões e na avaliação de riscos, contribuindo para a proteção de infraestrutura crítica. As avaliações também ajudam a entender melhor as capacidades de IA em etapas iniciais de desenvolvimento.
Entre na conversa da comunidade