- A Anthropic pediu ao Congresso dos EUA que fortaleça proteções contra a destilação de IA, alegando que afiliados ao Alibaba realizaram o maior esforço conhecido para extrair capacidades do chatbot Claude.
- Entre 22 de abril e 5 de junho, mais de 28,8 milhões de interações com Claude teriam sido geradas, usando quase 25.000 contas fraudulentas.
- A empresa classifica a destilação de modelos em larga escala como uma questão de segurança nacional, pois facilita a reprodução de capacidades avançadas por concorrentes sem treinar um sistema do zero.
- A carta pede medidas como fortalecimento de cooperação entre governo e indústria, regras antitruste para compartilhamento de informações sobre ataques de destilação, e controles mais rígidos a chips avançados e(exportação) de IA.
- A Anthropic também cita alegações anteriores de que desenvolvedores chineses teriam utilizado interações não autorizadas com o Claude, reforçando o apelo por ações regulatórias e de fiscalização.
A Anthropic pediu ao Congresso dos EUA que fortaleça proteções contra a destilação de modelos de IA, após alegar que operadores afiliados ao Alibaba realizaram o maior esforço conhecido para extrair capacidades de seu chatbot Claude. A empresa encaminhou a carta no dia 10 de junho ao chair da Comissão Bancária, Habitacional e de Assuntos Urbanos do Senado e à principal oposicionista.
Segundo a Anthropic, operadores ligados ao Alibaba e ao laboratório de IA Qwen somaram mais de 28,8 milhões de interações com Claude entre 22 de abril e 5 de junho, usando quase 25 mil contas fraudulentas, ou seja, sem usuários reais. A prática descrita é alvo de destilação de modelos.
A empresa afirmou que o ataque sob o rótulo de destilação visou capacidades de raciocínio, engenharia de software e planejamento de longo prazo do Claude, permitindo a concorrência reproduzir comportamento sofisticado sem treinar sistemas de IA do zero.
Contexto e pedidos aos legisladores
A Anthropic classificou a campanha como uma preocupação de segurança nacional, além de risco para a liderança tecnológica dos EUA. Alega que destilação em larga escala pode acelerar capacidades militares e cibernéticas da China e reduzir o incentivo econômico dos EUA para investir em IA.
A carta também aponta que a ação ocorre num momento de maior vigilância regulatória nos EUA, com medidas de cibersegurança impulsionadas por IA sendo ampliadas. A ideia é aumentar o compartilhamento de informações entre desenvolvedores de ponta e o governo e endurecer controles sobre chips avançados.
A Anthropic pediu ainda clareza sobre regras antitruste para facilitar o compartilhamento de informações sobre ataques de destilação, além de penalidades a empresas envolvidas na extração de capacidades de modelos. A empresa não comentou a carta em tom específico a pedido deste veículo.
Contexto adicional e respostas
As alegações citam ainda ocorrências anteriores envolvendo outras empresas chinesas do setor, com mais de 16 milhões de interações simuladas com Claude por meio de contas fraudulentas, segundo a Anthropic. Observadores diversificados questionam a validade de usar técnicas de destilação para treinar IA, embora a empresa sustente que a destilação convencional é legítima.
A discussão sobre destilação ganhou importância após evidências públicas de que laboratórios de IA discutem o uso de modelos já treinados para reduzir custos. A Anthropic ressalta que extrair capacidades sem autorização viola termos de serviço e elevam riscos de uso indevido.
A peça reforça o debate sobre salvaguardas, proteção de propriedade intelectual e competição no setor de IA, com o governo federal avaliando medidas para manter a liderança norte-americana no campo tecnológico. Não foram divulgadas informações adicionais sobre respostas oficiais ao pedido.
Entre na conversa da comunidade