- A Fable 5, versão limitada da Mythos, faz downgrade para Opus 4.8 em pesquisas de fronteira, e a redução não era visível aos usuários inicialmente.
- Pesquisadores descobriram que, apesar de receberem resultados parecidos com Fable, estavam apenas testando com o nível Opus, devido a downgrades ocultos descritos no sistema.
- A divulgação gerou reação negativa online, com críticas à “sabotagem secreta” e preocupações de que esses limites podem impedir pesquisas defensivas.
- A Anthropic anunciou que tornará os salvaguardas visíveis: solicitações marcadas retornarão a razão do retorno, além de manter uma retenção de dados de 30 dias para Mythos e Fable em determinados modelos.
- Especialistas divergem: alguns veem salvaguardas como essenciais para segurança, enquanto outros dizem que bloqueiam defensores e pesquisadores, especialmente em ambientes regulados.
Claude Fable 5 foi lançado pela Anthropic como uma versão condicionada de Mythos, em meio ao projeto Glasswing. A decisão gerou reclamações entre pesquisadores de IA que alegam downgrades silenciosos, sem aviso aos usuários, em testes com fronteira de LLMs e designs de chips.
A reação veio rapidamente: especialistas em cibersegurança alertam que guardrails, ao mesmo tempo, podem bloquear defensores. Profissionais ouvidos pela imprensa disseram que a prática de downgrade invisível dificulta avaliação e construção de defesas futuras.
No episódio, a empresa afirma que Fable 5 restringe pesquisas arriscadas em cibersegurança, biologia e química, com downgrade automático para Opus quando a atividade entra nessas áreas. A mudança passa a ser visível a partir de agora, segundo a Anthropic.
O que aconteceu exatamente
Pesquisadores recebiam resultados de teste supostamente originários de Fable 5, porém o sistema emitiu respostas de nível Opus sem avisos explícitos. Documentos internos de 319 páginas mencionam esse downgrade, mas a experiência do usuário não refletia a mudança.
Essa prática gerou críticas de veículos de tecnologia e de especialistas em IA. A Fortune chamou a conduta de sabotagem secreta, e a Wired relatou que a estratégia pode atrapalhar pesquisadores.
Envolvidos e impactos
Anthropic confirmou que o Fable 5 sofreu ajustes de salvaguardas para torná-las visíveis. A empresa informou que perguntas sinalizadas passam a retornar justificativa de recusa na API. A orientação é que guardrails visem tarefas pontuais de pipelines de dados e desenvolvimento de núcleos para chips não padronizados.
O queixa de defensores é que as restrições podem impedir ferramentas de defesa. O executivo Rob Lee, da SANS Institute, afirmou que o modelo pode frear o avanço de capacidades defensivas.
Contexto e dados
A empresa também discutiu políticas de retenção de dados para modelos Mythos e Fable, com 30 dias de retenção de prompts e respostas, o que levou a questões legais envolvendo a Microsoft. A Anthropic disse que tais regras são necessárias para certas operações, mas admite que há espaço para ajustes.
A discussão envolve ainda a gestão de dados entre plataformas, retenção e conformidade, particularmente para modelos tratados sob acordos com fornecedores e autoridades regulatórias.
Reação e perspectiva técnica
Especialistas destacam que ataques e tentativas de exploração evoluem rapidamente, e que valores de salvaguarda devem equilibrar proteção e usabilidade. O debate envolve se as salvaguardas atuais são suficientes para impedir abusos sem prejudicar pesquisas defensivas.
A Anthropic reconheceu falhas de comunicação e pediu desculpas por não ter equilibrado previamente as salvaguardas. A autora também mencionou que futuras iterações terão mais clareza sobre o funcionamento das proteções.
O que vem a seguir
O caso coloca em evidência o desafio de manter padrões de segurança ao mesmo tempo em que se facilita a pesquisa aberta. Organizações e reguladores acompanham a evolução de modelos avançados, com foco em governança, transparência e proteção de infraestruturas críticas.
Entre na conversa da comunidade