- Anthropic avisa que Mythos e modelos semelhantes podem explorar vulnerabilidades em ritmo sem precedentes, elevando o risco cibernético.
- OpenAI também sinaliza alto risco de cibersegurança com seus próximos modelos, reforçando que IA pode ampliar ataques.
- Especialistas dizem que agentes de IA — assistentes que atuam de forma autônoma — podem escanear e explorar falhas mais rápido que hackers humanos.
- Em casos recentes, um atacante russo teria usado IA para hackear mais de seiscentos dispositivos em cinquenta e cinco países, incluindo ataques com Claude e DeepSeek; ataques a agências mexicanas também envolveram Claude.
- A defesa precisa acompanhar o ritmo das inovações; humanos devem manter controle sobre decisões e resultados em ataques com IA.
O crescimento de modelos de IA que simulam ações autônomas alarma especialistas em cibersegurança. Anthropic e OpenAI destacam riscos elevados com novas linhas de IA capazes de explorar vulnerabilidades em ritmo acelerado. O alerta chegou após vazamento de detalhes de um modelo chamado Mythos.
Segundo a Anthropic, Mythos representa avanço significativo em capacidades cibernéticas, abrindo a possibilidade de detectar falhas e explorá-las de forma mais rápida que ataques humanos. A empresa confirmou que o vazamento decorreu de erro humano no sistema de gestão de conteúdo.
A OpenAI já havia sinalizado, no fim do ano passado, que seus próximos modelos teriam nível de risco alto para cibersegurança. Especialistas destacam que IA pode amplificar ameaças existentes e acelerar hacks de software, especialmente com agentes de IA que atuam de forma autônoma.
Ameaça com agentes de IA
Agentes de IA podem escanear sistemas e explorar falhas sem depender de intervenção humana contínua, elevando a velocidade de ataque. Especialistas ouvidos pela imprensa destacam que, em mãos erradas, esse conjunto de ferramentas pode ampliar vulnerabilidades já conhecidas.
Shlomo Kramer, CEO da Cato Networks, afirmou que a presença de agentes de IA representa um ponto de virada na história da segurança cibernética. Analistas ponderam que cada novo modelo poderá trazer ameaças ainda mais graves que seus predecessores.
Embora haja avanços, pesquisadores ressaltam limites. Modelos avançados ajudam a identificar vulnerabilidades e a desenvolver códigos para explorá-las, mas carecem do contexto estratégico de uma organização e da avaliação humana sobre o que é mais valioso para roubo.
Cenário de ataques com IA
Em janeiro, um atacante russo supostamente utilizou IA para hackear mais de 600 dispositivos com firewall em mais de 55 países, conforme equipe de segurança da AWS. O feito envolveu IA generativa para escalar técnicas de ataque.
Relatos indicam uso do Claude, da Anthropic, e de outras soluções, com solicitações em russo para criar painéis de controle. Pesquisadores destacam que a IA pode transformar atacantes com menor conhecimento técnico em ameaças mais complexas.
Em fevereiro, ocorreram ações contra agências governamentais mexicanas que resultaram no roubo de informações fiscais e de eleitorado, segundo veículos de imprensa. Autoridades e especialistas ressaltam que adversários podem buscar vantagens para aprimorar IA nacional.
Perspectivas para defesa
Defensores apontam que o uso de IA na cibersegurança também oferece benefícios, como monitoramento contínuo e correção automatizada em escala. Ainda assim, a pressão para manter humanos no controle das decisões permanece, para evitar consequências não previstas.
Analistas destacam a necessidade de robustecer supervisionamento, governança de modelos e defesa em camadas. O cenário atual exige balanço entre inovação e proteção de sistemas críticos.
Entre na conversa da comunidade