Anthropic estabelece novas regras para enfrentar riscos da inteligência artificial

A Anthropic atualizou a política de uso do chatbot Claude para aumentar a segurança e prevenir abusos.
A nova diretriz proíbe o desenvolvimento de armas químicas, biológicas, radiológicas e nucleares (CBRN) e reforça regras de cibersegurança.
A empresa já tinha restrições contra a criação de armas que possam causar danos à vida humana, mas agora detalha proibições específicas, como a produção de explosivos de alto rendimento.
A política também inclui proibições sobre o uso do Claude para descobrir vulnerabilidades, criar malware ou realizar ataques de negação de serviço.
Além disso, a Anthropic relaxou as restrições sobre conteúdo político, permitindo a criação de material relacionado a campanhas, desde que não seja enganoso ou disruptivo.

Anthropic atualiza política de uso do chatbot Claude para reforçar segurança

A Anthropic anunciou uma atualização em sua política de uso do chatbot Claude, visando aumentar a segurança e prevenir abusos. A nova diretriz proíbe explicitamente o desenvolvimento de armas químicas, biológicas, radiológicas e nucleares (CBRN), além de reforçar regras de cibersegurança.

A empresa já havia estabelecido restrições contra a criação de armas e sistemas que possam causar danos à vida humana. Contudo, a nova versão da política detalha proibições específicas, como a produção de explosivos de alto rendimento. Essas mudanças surgem em um contexto de crescente preocupação com os riscos associados à inteligência artificial.

Além das restrições sobre armamentos, a Anthropic introduziu uma seção dedicada a proteger sistemas de computador e redes. Essa seção proíbe o uso do Claude para descobrir vulnerabilidades, criar malware ou realizar ataques de negação de serviço. A empresa reconhece que ferramentas de IA, como o Claude Code, podem ser utilizadas de forma inadequada, aumentando o potencial de abusos.

Mudanças nas diretrizes sobre conteúdo político

Outra alteração significativa na política da Anthropic diz respeito ao conteúdo político. A empresa relaxou as restrições, permitindo a criação de conteúdo relacionado a campanhas políticas, desde que não seja enganoso ou disruptivo para processos democráticos. As novas regras visam equilibrar a liberdade de expressão com a necessidade de proteger a integridade das eleições.

Essas atualizações refletem a preocupação da Anthropic em mitigar riscos associados ao uso de sua tecnologia, ao mesmo tempo em que busca se adaptar a um ambiente em constante evolução. A implementação de um nível de segurança mais rigoroso, denominado “AI Safety Level 3”, também faz parte dessa estratégia, visando dificultar tentativas de manipulação do sistema.