- A Anthropic removeu um código no Claude Code que monitorava usuários para identificar vínculos com laboratórios de IA da China, classificando o recurso como um experimento, conforme divulgado na quarta-feira, 1º, pelo Intercept.
- O mecanismo coletava informações com base no fuso horário do usuário e em indícios de conexão com empresas chinesas, para identificar uso das respostas do Claude para treinar modelos de IA de forma irregular.
- A empresa revogou a funcionalidade após a repercussão, mas não detalhou há quanto tempo o código ficou ativo nem quais dados eram enviados.
- O episódio ocorre em meio a tensões entre os EUA e a China sobre IA, com a Casa Branca tendo suspendido restrições que limitavam o acesso de usuários estrangeiros aos modelos mais avançados da Anthropic.
- Em meio ao debate sobre governança global de IA, o CEO da OpenAI, Sam Altman, defendeu a criação de um fórum internacional liderado pelos EUA para estabelecer padrões de segurança para modelos avançados de IA.
A Anthropic removeu um código inserido no Claude Code que monitorava usuários para identificar ligações com laboratórios de IA da China. A atualização foi divulgada na quarta-feira, 1º, pelo boletim de cibersegurança Intercept e confirmada por um funcionário da empresa como um experimento.
Segundo a publicação, o mecanismo coletava informações com base no fuso horário do usuário e indícios de conexão com empresas chinesas de tecnologia. O objetivo era identificar organizações que usavam respostas do Claude para treinar modelos de IA de forma irregular.
A empresa decidiu revogar o recurso após a repercussão do caso. Ainda não ficou claro há quanto tempo o código ficou ativo ou quais dados eram enviados durante o monitoramento, conforme o Intercept.
A notícia surge em meio a tensões entre os EUA e a China no campo da IA. A disputa geopolítica tem influenciado decisões sobre o acesso a modelos avançados desenvolvidos por empresas americanas.
Recentemente, a Casa Branca suspendeu restrições que limitavam o acesso de usuários estrangeiros aos modelos mais avançados da Anthropic. Empresas que utilizam essas tecnologias temem novas limitações por motivos de segurança nacional.
O episódio alimenta o debate sobre governança internacional de IA. O tema ganha força em meio a discussões sobre padrões de segurança e controle do uso de modelos avançados.
Além disso, a discussão envolve o papel de organizações internacionais na padronização de regras para IA. Autoridades e empresas defendem regras transparentes e verificáveis para evitar abusos.
No âmbito corporativo, a Anthropic reiterou o foco em segurança e conformidade. A empresa afirma considerar cuidadosamente impactos de ferramentas de IA e ajustar recursos conforme necessário.
Entre na conversa da comunidade