A Anthropic, empresa apoiada pela Amazon, anunciou que ativou controles de segurança mais rigorosos para seu novo modelo de IA, o Claude Opus 4. Esses controles, chamados de AI Safety Level 3, têm como objetivo evitar que a IA seja usada para desenvolver ou adquirir armas químicas, biológicas, radiológicas e nucleares. A empresa tomou essa medida como precaução, pois ainda não sabe se o modelo ultrapassou limites que exigiriam essa proteção. Além do Claude Opus 4, a Anthropic também lançou o Claude Sonnet 4, que não precisou de controles tão rigorosos.
A Anthropic anunciou, na quinta-feira, a ativação de controles de segurança mais rigorosos para o Claude Opus 4, seu mais recente modelo de inteligência artificial. O novo nível de segurança, denominado AI Safety Level 3 (ASL-3), foi implementado para reduzir o risco de uso indevido do Claude na criação de armas químicas, biológicas, radiológicas e nucleares (CBRN).
A empresa, que conta com o apoio da Amazon, esclareceu que as medidas são uma precaução e que ainda não foi determinado se o Opus 4 ultrapassou os limites que exigiriam essa proteção. Além do Claude Opus 4, a Anthropic também apresentou o Claude Sonnet 4, que não requer os controles mais rigorosos.
Os novos modelos são destacados por suas capacidades avançadas de análise de dados, execução de tarefas prolongadas e produção de conteúdo de qualidade humana. A Anthropic enfatizou a importância de garantir que suas inovações em inteligência artificial não sejam utilizadas para fins prejudiciais.
Entre na conversa da comunidade