O NIST, órgão do governo dos Estados Unidos, anunciou nesta semana que o Google, a Microsoft e a xAI compartilharão versões ainda não lançadas de seus modelos de IA com autoridades federais. O objetivo é avaliar riscos de segurança cibernética antes do lançamento oficial.
O acordo cria uma parceria com o CAISI, Centro de Padrões e Inovação em IA vinculado ao Departamento de Comércio. A iniciativa permite avaliar o potencial impacto na segurança nacional e na segurança pública, além de promover pesquisas e testes pós-implementação.
Até o momento, o CAISI já realizou mais de 40 avaliações de modelos de IA e afirma que a ciência de medição independente é essencial para entender tecnologias de ponta. Figures ressaltam a necessidade de recursos para testes rigorosos.
Potencial impacto e contexto
A colaboração ocorre em meio a preocupações geradas pelo Mythos, novo modelo da Anthropic, considerado avançado em cibersegurança. A empresa mantém restrição de acesso ao público e abriu discussions com autoridades americanas.
A OpenAI informou recentemente que disponibilizará seus modelos mais avançados a agências governamentais devidamente aprovadas, buscando antever ameaças impulsionadas pela IA. A Microsoft destaca o aporte técnico e de segurança fornecido pelo CAISI.
O Google não comentou detalhes adicionais sobre o acordo, e a xAI não respondeu aos pedidos de comentário. Analistas ouvidos pelo setor destacam que as parcerias ampliam recursos técnicos e de segurança para avaliações estratégicas.
Perspectivas e próximos passos
Especialistas destacam que as parcerias ajudam a compensar limitações de recursos de órgãos públicos frente ao ritmo de desenvolvimento da IA. A comunidade acadêmica reforça a importância de avaliação independente para políticas públicas.
A Casa Branca confirmou a intenção de consultar um grupo de especialistas para assessoramento sobre um possível processo regulatório de IA. A Casa Branca esclarece que anúncios oficiais virão do presidente, quando houver decisão.
Essa dinâmica representa uma mudança na abordagem regulatória frente à IA, com maior participação de órgãos federais e colaboração com grandes empresas de tecnologia para mapeamento de riscos.
Entre na conversa da comunidade