Um em cada quatro líderes de cibersegurança já sofreu ataques com IA

Quase 25% dos chefes de segurança cibernética (CISOs) relataram que suas empresas sofreram ataques impulsionados por inteligência artificial (IA) no último ano, conforme uma pesquisa do fundo de capital de risco Team8. O estudo, que entrevistou cerca de 110 CISOs, destaca a dificuldade em identificar esses ataques, que muitas vezes se confundem com ações humanas.

Os ataques com IA incluem campanhas sofisticadas de phishing e deepfakes, que são difíceis de detectar. Mandy Andress, CISO da Elastic, enfatiza que estamos apenas no início de uma "corrida armamentista em IA", onde os invasores estão à frente. Exemplos de ataques incluem clonagem de voz e táticas de personificação em tempo real, que exploram a confiança humana.

Desafios na Segurança Cibernética

A pesquisa também revelou que quase 40% dos CISOs consideram a proteção dos agentes de IA um desafio crítico. Esses agentes podem ser manipulados por invasores, levando a ações equivocadas. A insegurança no uso de IA entre funcionários é uma preocupação crescente, com muitos líderes reconhecendo que as organizações ainda não adotam práticas adequadas.

Os CISOs enfrentam um dilema: restringir o acesso à IA pode sufocar a inovação, enquanto permitir seu uso sem controles pode resultar em riscos não gerenciados. Em relação ao uso de IA para reforçar defesas, 77% dos entrevistados acreditam que agentes autônomos substituirão analistas menos experientes em centros de operações de segurança.

Vulnerabilidades Persistentes

Além disso, mais de 40% dos CISOs indicaram que vulnerabilidades "críticas" permanecem sem solução após o prazo estipulado. A falta de pessoal e tempo é frequentemente citada como a principal razão para essas falhas. Alguns líderes mencionaram que as correções não estão disponíveis ou que desativar sistemas para implementá-las poderia atrasar as operações.

A pesquisa do Team8 destaca a necessidade urgente de abordagens mais eficazes na segurança cibernética, especialmente em um cenário onde a IA pode ser tanto uma ferramenta de ataque quanto uma solução para defesa.