Anthropic lança modelo semelhante ao Mythos sem capacidades cibernéticas

Anthropic lança uma versão de Mythos com bloqueios para tarefas de cibersegurança, chamada Fable 5, com respostas relacionadas a cybersecurity e biologia roteadas para o modelo Opus 4.8.
A mesma base recebe Mythos 5, sem alguns salvaguardas, disponível para grupos por meio da iniciativa Project Glasswing.
A decisão de restringir acesso ao Mythos ocorreu após a empresa alertar que o modelo pode identificar e explorar vulnerabilidades em software crítico.
O total de organizações com acesso ao Mythos chega a cerca de 200, após a inclusão de mais 150 firmas na lista.
O Mythos continua no centro da estratégia da Anthropic, que busca ampliar capacidades em áreas como codificação, finanças e cibersegurança, em meio a planos de IPO.

Anthropic PBC decidiu ampliar o acesso a um modelo de IA inspirado no Mythos, mas com barreiras para evitar tarefas de cibersegurança. O lançamento ocorre meses depois de a empresa alertar que o modelo poderia identificar e explorar vulnerabilidades em softwares críticos.

O novo modelo, chamado Fable 5, chega na terça-feira com salvaguardas que impedem respostas a perguntas específicas sobre cibersegurança e biologia. Nesses casos, o chatbot Claude encaminha as respostas para um modelo diferente, o Opus 4.8.

Além disso, a empresa lançará a mesma configuração, sem algumas proteções, como Mythos 5. Este estará disponível para grupos que tiverem acesso ao modelo com capacidades cibernéticas por meio de uma iniciativa chamada Project Glasswing. No total, a Anthropic informou ter ampliado o alcance do Mythos para cerca de 200 organizações, após adicionar 150 novas instituições na semana passada.

Mythos se tornou um ponto central da estratégia da empresa, que busca avançar rumo a um eventual IPO. A companhia justificou as restrições ao modelo por temer que ele possa identificar vulnerabilidades em diversos sistemas operacionais e navegadores quando direcionado por usuários. Paralelamente, a Anthropic continua desenvolvendo modelos com maior capacidade para tarefas lucrativas, incluindo codificação, finanças e cibersegurança.

Lançamento de versões com salvaguardas

Em paralelo ao Fable 5, a Mythos 5 mantém acesso para organizações com acordos que permitem explorar capacidades ciberativas em ambientes controlados. A companhia descreve o objetivo de equilibrar disponibilidade com segurança ao liberar versões distintas para diferentes perfis de usuários.