Suposto acesso chinês à IA Mythos pode ter levado EUA a restringir modelos

O governo dos EUA restringiu temporariamente o acesso aos modelos Mythos 5 e Fable 5 da Anthropic, após alegação de uso não autorizado por grupo ligado à China.
A medida seguiu a comunicação de um alerta do CEO da Amazon à Casa Branca sobre uma vulnerabilidade no Fable 5, que a Anthropic negou ter causado.
A suspeita é de que a exploração poderia facilitar a detecção de vulnerabilidades em softwares críticos e, pela técnica de destilação, engenharia reversa do modelo, segundo a administração norte-americana.
O Departamento de Comércio dos EUA expediu uma ordem de controle de exportação que restringe o uso de IAs avançadas por cidadãos estrangeiros, levando a desativação temporária dos modelos.
A Anthropic afirmou não existir a falha crítica alegada pelo governo e que as medidas de segurança impedem usos ilícitos; os modelos permanecem indisponíveis até acordo entre empresa e governo.

A decisão dos Estados Unidos de restringir o acesso aos modelos Mythos 5 e Fable 5 da Anthropic teria sido motivada por temores de que um grupo ligado à China utilizou as IAs avançadas sem autorização. As plataformas foram desativadas temporariamente no fim de semana passado, após a identificação de uma possível vulnerabilidade.

Segundo o Semafor, o alerta partiu de autoridades da Casa Branca após um sinal de que a ferramenta poderia ter sido explorada. A Anthropic nega a existência da falha crítica e afirma não ter recebido evidências para sustentar a medida extrema.

Contexto e consequências

O governo americano ainda não detalha como chegou à suspeita de acesso indevido. A administração considera a exploração um risco ao país, com potencial de acelerar a detecção de vulnerabilidades em sistemas críticos e de favorecer engenharia reversa do modelo.

Em resposta, o Departamento de Comércio proibiu a exportação de tecnologias sensíveis para estrangeiros, elevando a pressão sobre a empresa. A Anthropic, por sua vez, informou que as medidas de segurança existentes são eficazes e que não houve violação confirmada.

As IAs Mythos 5 e Fable 5 permanecem indisponíveis enquanto governo e empresa discutem um possível acordo. A Anthropic reitera que não houve falha que justifique a interrupção permanente do acesso.

Nos meses recentes, a Anthropic já enfrentou tensões com o governo norte-americano ao negar flexibilizações em regras para usos militares. A empresa afirma manter o compromisso com a segurança e a conformidade regulatória.