Anthropic PBC decidiu ampliar o acesso a um modelo de IA inspirado no Mythos, mas com barreiras para evitar tarefas de cibersegurança. O lançamento ocorre meses depois de a empresa alertar que o modelo poderia identificar e explorar vulnerabilidades em softwares críticos.
O novo modelo, chamado Fable 5, chega na terça-feira com salvaguardas que impedem respostas a perguntas específicas sobre cibersegurança e biologia. Nesses casos, o chatbot Claude encaminha as respostas para um modelo diferente, o Opus 4.8.
Além disso, a empresa lançará a mesma configuração, sem algumas proteções, como Mythos 5. Este estará disponível para grupos que tiverem acesso ao modelo com capacidades cibernéticas por meio de uma iniciativa chamada Project Glasswing. No total, a Anthropic informou ter ampliado o alcance do Mythos para cerca de 200 organizações, após adicionar 150 novas instituições na semana passada.
Mythos se tornou um ponto central da estratégia da empresa, que busca avançar rumo a um eventual IPO. A companhia justificou as restrições ao modelo por temer que ele possa identificar vulnerabilidades em diversos sistemas operacionais e navegadores quando direcionado por usuários. Paralelamente, a Anthropic continua desenvolvendo modelos com maior capacidade para tarefas lucrativas, incluindo codificação, finanças e cibersegurança.
Lançamento de versões com salvaguardas
Em paralelo ao Fable 5, a Mythos 5 mantém acesso para organizações com acordos que permitem explorar capacidades ciberativas em ambientes controlados. A companhia descreve o objetivo de equilibrar disponibilidade com segurança ao liberar versões distintas para diferentes perfis de usuários.
Entre na conversa da comunidade