Anthropic PBC afirma que seu novo modelo de IA, Mythos, é tão capaz de identificar vulnerabilidades em software e sistemas que não pode ser disponibilizado ao público geral. A empresa liberou o Mythos apenas para um grupo seleto de partes, para evitar que a tecnologia caia em mãos erradas e facilite roubo de dados ou interrupção de infraestruturas críticas.
Segundo a empresa, o risco de uso indevido tornou-se evidente quando um pequeno grupo de usuários não autorizados teve acesso ao Mythos em abril, em um fórum privado na internet. A informação foi confirmada por pessoas próximas ao assunto e por documentos obtidos pela Bloomberg News.
O Mythos foi descrito pela Anthropic como uma ferramenta poderosa, cuja disseminação ampla poderia ampliar vulnerabilidades. A empresa destaca a necessidade de controle de distribuição até que mecanismos de mitigação de abusos estejam bem estabelecidos.
Acesso não autorizado e desdobramentos
- A reportagem indica que o incidente ocorreu em meio a debates sobre segurança de IA avançada.
- A Anthropic não informou publicamente detalhes sobre medidas adicionais de proteção ou sobre impactos para usuários autorizados.
- O caso ressalta a tensão entre inovação tecnológica e salvaguardas para evitar danos potenciais.
Entre na conversa da comunidade