Saga Fable da Anthropic indica que abrimos a caixa de Pandora da IA

Em 9 de junho, a Anthropic lançou o modelo de IA generativa Fable; três dias depois, o governo dos EUA classificou o modelo como munição perigosa e proibiu o acesso por estrangeiros.
A empresa interrompeu o acesso a todos, pois não conseguiram diferenciar entre cidadãos americanos e estrangeiros.
Fable é a versão limitada do Mythos, criada pela Anthropic, destinada a organizações selecionadas por temer por vulnerabilidades que o sistema poderia explorar.
A crítica aponta que o problema não é apenas o modelo, mas a tendência de aumento das capacidades de IA e a necessidade de ações coletivas ainda não viáveis.
O texto defende maior foco em harness abertos e modelos de IA com provedência e vieses públicos, sugerindo que, agora que a “caixa de Pandora” foi aberta, é essencial buscar equilíbrio entre capacidade, segurança e transparência.

O lançamento do modelo de IA Fable pela Anthropic, em 9 de junho, provocou debates sobre os limites da tecnologia. Três dias depois, o governo dos EUA classificou o Fable como uma munição perigosa e utilizou controles de exportação para impedir o acesso de estrangeiros, suspendendo o acesso a todos os usuários. A medida provocou questionamentos sobre a resposta técnica e regulatória ao avanço da IA.

Fable é uma versão limitada do Mythos, anunciado pela Anthropic em abril. A empresa restringiu o acesso a poucas organizações, alegando que o modelo é capaz de identificar e explorar vulnerabilidades de código com desempenho excepcional, o que poderia representar risco se amplamente utilizado. A divulgação restrita gerou ceticismo entre especialistas.

O que se segue envolve o contexto técnico e regulatório: Mythos já mostrava capacidades de encontrar falhas em software e de propor correções, o que alimentou o debate sobre a proteção de sistemas. Grupos de pesquisa e a indústria observaram que a forma como a ferramenta é conectada a interfaces de usuário – o chamado “harness” – é tão importante quanto o modelo em si.

A comunidade de IA reagiu rapidamente ao conceito de harnesses, que organizam como modelos interagem com usuários e com recursos externos, como buscas na web. Empresas e equipes independentes passaram a explorar combinações de modelos menores com harnesses mais sofisticados para alcançar resultados parecidos com Fable.

Entre os impactos tecnológicos, pesquisadores destacaram que Fable reduz a necessidade de prompts complexos, permitindo que usuários com menos experiência alcancem objetivos difíceis. Em contrapartida, o uso impróprio pode ampliar a capacidade de contornar restrições impostas pelo sistema.

Enfrentando esses riscos, especialistas ressaltaram a dificuldade de impedir que IA gere danos, mesmo com controles. A ausência de uma governança global eficaz é citada como entrave para soluções amplas e coordenadas, o que torna a regulação internacional mais complexa.

Enquanto isso, a discussão sobre governança de IA ganha urgência: há propostas para investir em ferramentas open source que combinem desempenho com segurança, bem como em modelos abertamente rastreáveis quanto à procedência e viés. A decisão sobre usos, limites e transparência permanece central para o debate.