Anthropic acusa Alibaba de extrair indevidamente capacidades de IA

A Anthropic acusa a Alibaba de extrair de forma ilícita capacidades do modelo Claude, em uma campanha considerada pela empresa como a maior desse tipo.
Segundo a carta, as operações ligadas à Alibaba realizaram quase 29 milhões de interações com Claude por meio de milhares de contas fraudulentas.
A empresa afirma que as táticas, chamadas de ataques de destilação, visavam capacidades valiosas do modelo, como lidar com tarefas mais longas e complexas e o processo de tomada de decisão.
A Anthropic diz que esse tipo de ataque ocorre em escala industrial para que companhias chinesas usem as capacidades de IA dos Estados Unidos como subsídio para concorrência geopolítica, incluindo impactos à defesa.
A carta, datada de 10 de junho, foi enviada aos senadores Tim Scott e Elizabeth Warren; a BBC buscou comentário da Alibaba e mais detalhes da Anthropic.

Anthropic afirmou que Alibaba, empresa listada na NYSE, realizou uma operação de extração de capacidades do modelo Claude de forma ilícita. A denúncia descreve uma campanha de distillation attacks, realizada por operadores associados à Alibaba, que usaram milhares de contas fraudulentas para se aproximar do Claude. A informação foi apresentada em uma carta datada de 10 de junho.

Segundo a carta, o objetivo foi extrair capacidades valiosas do Claude, como a capacidade de lidar com tarefas mais longas e complexas e estratégias de tomada de decisão. A ação é descrita como parte de um esforço em escala industrial para repassar capacidades de IA dos EUA para empresas chinesas.

Anthropic afirmou à imprensa que a campanha envolveu quase 29 milhões de interações com Claude, realizadas por meio de contas falsas. A empresa aponta que esse tipo de ataque pode transformar investimentos e pesquisa norte-americanos em subsídios para concorrentes geopolíticos.

Acusações e método

A carta detalha que as operações utilizariam ataques de distilação, que buscam treinar modelos mais fracos a partir de respostas de modelos mais fortes. O que está em jogo, segundo Anthropic, são capacidades centrais do Claude, incluindo desempenho em tarefas complexas e processos de decisão.

A entidade sustenta que tais ataques ocorrem em grande escala para facilitar o uso indevido de capacidades de IA estadunidenses. O documento também menciona alegações de risco à defesa dos EUA, associando Alibaba a entidades ligadas à indústria militar chinesa.

Alibaba nega as acusações. A empresa contestou o enquadramento e, recentemente, moveu ação contra o governo dos EUA para remover seu nome de uma lista de sanções. A BBC solicitou comentários à Alibaba e pediu mais detalhes à Anthropic, sem obtenção de resposta adicional até o momento.

Relevância e contexto

Deputados e autoridades norte-americanas foram chamados a considerar medidas para coibir fraudes e proteger a propriedade intelectual de IA. A discussão envolve o equilíbrio entre inovação, segurança nacional e competição tecnológica internacional.

Histórico do setor indica que críticas a práticas de distillation attacks já haviam sido levantadas por outras empresas de IA, entre elas OpenAI. O tema continua em pauta diante de avanços rápidos no campo da inteligência artificial e de disputas comerciais entre EUA e China.