- O Centro de Padrões e Inovação em IA, ligado ao Departamento de Comércio dos EUA, assinou acordos com Google, Microsoft e xAI para que versões ainda não lançadas de seus modelos de IA sejam avaliadas pelo governo antes do lançamento, com foco em segurança nacional e segurança pública.
- O National Institute of Standards and Technology (NIST) informou que o CAISI poderá analisar modelos de IA e seus impactos, incluindo testes pós-implementação, já tendo concluído mais de quarenta avaliações.
- A medida surge após o Mythos, novo modelo da Anthropic, ter aumentado as preocupações sobre cibersegurança e levar a administração a considerar um processo formal de revisão da IA.
- A OpenAI disse que disponibilizará seus modelos avançados para agências governamentais devidamente aprovadas; a Anthropic restringe o acesso ao Mythos a um grupo seleto de organizações aprovadas.
- A Casa Branca busca formar um grupo de especialistas para orientar uma possível revisão governamental de novos modelos de IA, sinalizando possível avanço regulatório frente a abordagens anteriores.
O NIST, órgão do governo dos Estados Unidos, anunciou nesta semana que o Google, a Microsoft e a xAI compartilharão versões ainda não lançadas de seus modelos de IA com autoridades federais. O objetivo é avaliar riscos de segurança cibernética antes do lançamento oficial.
O acordo cria uma parceria com o CAISI, Centro de Padrões e Inovação em IA vinculado ao Departamento de Comércio. A iniciativa permite avaliar o potencial impacto na segurança nacional e na segurança pública, além de promover pesquisas e testes pós-implementação.
Até o momento, o CAISI já realizou mais de 40 avaliações de modelos de IA e afirma que a ciência de medição independente é essencial para entender tecnologias de ponta. Figures ressaltam a necessidade de recursos para testes rigorosos.
Potencial impacto e contexto
A colaboração ocorre em meio a preocupações geradas pelo Mythos, novo modelo da Anthropic, considerado avançado em cibersegurança. A empresa mantém restrição de acesso ao público e abriu discussions com autoridades americanas.
A OpenAI informou recentemente que disponibilizará seus modelos mais avançados a agências governamentais devidamente aprovadas, buscando antever ameaças impulsionadas pela IA. A Microsoft destaca o aporte técnico e de segurança fornecido pelo CAISI.
O Google não comentou detalhes adicionais sobre o acordo, e a xAI não respondeu aos pedidos de comentário. Analistas ouvidos pelo setor destacam que as parcerias ampliam recursos técnicos e de segurança para avaliações estratégicas.
Perspectivas e próximos passos
Especialistas destacam que as parcerias ajudam a compensar limitações de recursos de órgãos públicos frente ao ritmo de desenvolvimento da IA. A comunidade acadêmica reforça a importância de avaliação independente para políticas públicas.
A Casa Branca confirmou a intenção de consultar um grupo de especialistas para assessoramento sobre um possível processo regulatório de IA. A Casa Branca esclarece que anúncios oficiais virão do presidente, quando houver decisão.
Essa dinâmica representa uma mudança na abordagem regulatória frente à IA, com maior participação de órgãos federais e colaboração com grandes empresas de tecnologia para mapeamento de riscos.
Entre na conversa da comunidade