A Anthropic, uma das empresas de IA mais valiosas, está no centro de uma disputa com o governo dos EUA. O embargo de exportação imposto após o lançamento de um modelo sofisticado mostra a tensão entre inovação e segurança. A empresa discorda da avaliação governamental de risco.
O impasse aponta para a ausência de um marco regulatório claro sobre IA nos Estados Unidos. Antes disso, a Anthropic já teve atritos com o Pentágono quanto a mudanças nos sistemas de IA para uso militar, levando a classificações de risco à cadeia de suprimentos.
O Mythos, modelo de IA da companhia, gerou preocupação por detectar falhas de sistemas com alta eficiência. A empresa lançou o Mythos apenas para parceiros, disponibilizando o Fable 5 com restrições em 9 de junho. O governo alegou falhas que poderiam facilitar ataques.
Em resposta, a Anthropic suspendeu o acesso a Mythos e ao Fable para cumprir a determinação. Em nota, a empresa afirmou não ter recebido detalhes específicos sobre a preocupação de segurança nacional que motivou o embargo, segundo fontes próximas.
Diversos especialistas e pesquisadores assinaram uma carta aberta criticando as ações do governo. O documento defende um processo aberto e científico para avaliações de risco de IA e destaca que sistemas avançados podem ajudar defensores e adversários.
Alguns analistas questionaram a gravidade da vulnerabilidade apontada, enquanto a Amazon teria reportado parte da issue ao governo. O ex-diretor de segurança do Facebook, Alex Stamos, discordou da conclusão de risco elevado, ressaltando dúvidas sobre a justificativa.
Do lado do governo, o conselheiro de Trump, David Sacks, rebateu a ideia de que a vulnerabilidade não é grave, citando risco de arma cibernética. As negociações entre Anthropic e a administração continuam, com Trump afirmando que as conversas vão bem e que a empresa não é mais ameaça, ao menos em recente declaração.
No panorama regulatório, o governo tem adotado abordagem mais permissiva. Planos de supervisão de IA foram anunciados, mas priorizam inovação. Estados como Califórnia e Flórida vêm seguindo caminhos próprios, com leis de risco e investigações envolvendo grandes empresas de IA.
Contexto regulatório e impactos
Especialistas alertam para o efeito de decisões ad hoc em IA. Alguns apontam que a abordagem atual pode levar a regulações mais pesadas no futuro, afetando empresas e inovação. O debate público ainda se equilibra entre promover avanços técnicos e garantir segurança.
Entre na conversa da comunidade