O governo dos Estados Unidos fechou acordos com Google DeepMind, Microsoft e xAI para revisar versões iniciais de modelos de IA antes de seu lançamento público. A parceria é mediada pelo Centre for AI Standards and Innovation (CAISI), ligado ao Departamento de Comércio, e tem o objetivo de entender capacidades avançadas e proteger a segurança nacional. A CAISI afirmou que a avaliação ajudará a ampliar o trabalho público em um momento crítico.
Os acordos concentram-se na identificação de riscos de segurança nacional associados a cibersegurança, biossegurança e uso de armas químicas. Segundo a CAISI, as avaliações ocorrem com modelos ainda não disponibilizados ao público, possibilitando medir capacidades e vulnerabilidades sem comprometer informações sensíveis.
Historicamente, OpenAI e Anthropic já firmaram acordos semelhantes com o governo dos EUA, e a CAISI destaca que já realizou mais de 40 avaliações envolvendo modelos não lançados. A prática visa permitir que o governo avalie de forma independente os impactos de tecnologias avançadas.
O anúncio surge em meio a temores de que modelos extremamente sofisticados possam intensificar vulnerabilidades de segurança cibernética. Integrantes do setor e autoridades têm discutido como equilibrar inovação com controles de segurança para evitar riscos amplificados em escala.
Paralelamente, a Microsoft informou ter firmado acordo semelhante no Reino Unido, com o AI Security Institute, voltado a avaliação segura de IA em nível internacional. A empresa afirmou que a cooperação com governos é essencial para testar riscos de segurança pública e de grandes capacidades de IA.
A CAISI ressaltou que o objetivo dessas parcerias é facilitar a colaboração entre indústria e governo na definição de padrões e na avaliação de riscos, contribuindo para a proteção de infraestrutura crítica. As avaliações também ajudam a entender melhor as capacidades de IA em etapas iniciais de desenvolvimento.
Entre na conversa da comunidade