A Anthropic removeu um código inserido no Claude Code que monitorava usuários para identificar ligações com laboratórios de IA da China. A atualização foi divulgada na quarta-feira, 1º, pelo boletim de cibersegurança Intercept e confirmada por um funcionário da empresa como um experimento.
Segundo a publicação, o mecanismo coletava informações com base no fuso horário do usuário e indícios de conexão com empresas chinesas de tecnologia. O objetivo era identificar organizações que usavam respostas do Claude para treinar modelos de IA de forma irregular.
A empresa decidiu revogar o recurso após a repercussão do caso. Ainda não ficou claro há quanto tempo o código ficou ativo ou quais dados eram enviados durante o monitoramento, conforme o Intercept.
A notícia surge em meio a tensões entre os EUA e a China no campo da IA. A disputa geopolítica tem influenciado decisões sobre o acesso a modelos avançados desenvolvidos por empresas americanas.
Recentemente, a Casa Branca suspendeu restrições que limitavam o acesso de usuários estrangeiros aos modelos mais avançados da Anthropic. Empresas que utilizam essas tecnologias temem novas limitações por motivos de segurança nacional.
O episódio alimenta o debate sobre governança internacional de IA. O tema ganha força em meio a discussões sobre padrões de segurança e controle do uso de modelos avançados.
Além disso, a discussão envolve o papel de organizações internacionais na padronização de regras para IA. Autoridades e empresas defendem regras transparentes e verificáveis para evitar abusos.
No âmbito corporativo, a Anthropic reiterou o foco em segurança e conformidade. A empresa afirma considerar cuidadosamente impactos de ferramentas de IA e ajustar recursos conforme necessário.
Entre na conversa da comunidade