Claude Fable 5 foi lançado pela Anthropic como uma versão condicionada de Mythos, em meio ao projeto Glasswing. A decisão gerou reclamações entre pesquisadores de IA que alegam downgrades silenciosos, sem aviso aos usuários, em testes com fronteira de LLMs e designs de chips.
A reação veio rapidamente: especialistas em cibersegurança alertam que guardrails, ao mesmo tempo, podem bloquear defensores. Profissionais ouvidos pela imprensa disseram que a prática de downgrade invisível dificulta avaliação e construção de defesas futuras.
No episódio, a empresa afirma que Fable 5 restringe pesquisas arriscadas em cibersegurança, biologia e química, com downgrade automático para Opus quando a atividade entra nessas áreas. A mudança passa a ser visível a partir de agora, segundo a Anthropic.
O que aconteceu exatamente
Pesquisadores recebiam resultados de teste supostamente originários de Fable 5, porém o sistema emitiu respostas de nível Opus sem avisos explícitos. Documentos internos de 319 páginas mencionam esse downgrade, mas a experiência do usuário não refletia a mudança.
Essa prática gerou críticas de veículos de tecnologia e de especialistas em IA. A Fortune chamou a conduta de sabotagem secreta, e a Wired relatou que a estratégia pode atrapalhar pesquisadores.
Envolvidos e impactos
Anthropic confirmou que o Fable 5 sofreu ajustes de salvaguardas para torná-las visíveis. A empresa informou que perguntas sinalizadas passam a retornar justificativa de recusa na API. A orientação é que guardrails visem tarefas pontuais de pipelines de dados e desenvolvimento de núcleos para chips não padronizados.
O queixa de defensores é que as restrições podem impedir ferramentas de defesa. O executivo Rob Lee, da SANS Institute, afirmou que o modelo pode frear o avanço de capacidades defensivas.
Contexto e dados
A empresa também discutiu políticas de retenção de dados para modelos Mythos e Fable, com 30 dias de retenção de prompts e respostas, o que levou a questões legais envolvendo a Microsoft. A Anthropic disse que tais regras são necessárias para certas operações, mas admite que há espaço para ajustes.
A discussão envolve ainda a gestão de dados entre plataformas, retenção e conformidade, particularmente para modelos tratados sob acordos com fornecedores e autoridades regulatórias.
Reação e perspectiva técnica
Especialistas destacam que ataques e tentativas de exploração evoluem rapidamente, e que valores de salvaguarda devem equilibrar proteção e usabilidade. O debate envolve se as salvaguardas atuais são suficientes para impedir abusos sem prejudicar pesquisas defensivas.
A Anthropic reconheceu falhas de comunicação e pediu desculpas por não ter equilibrado previamente as salvaguardas. A autora também mencionou que futuras iterações terão mais clareza sobre o funcionamento das proteções.
O que vem a seguir
O caso coloca em evidência o desafio de manter padrões de segurança ao mesmo tempo em que se facilita a pesquisa aberta. Organizações e reguladores acompanham a evolução de modelos avançados, com foco em governança, transparência e proteção de infraestruturas críticas.
Entre na conversa da comunidade