- Quase 25% dos chefes de segurança cibernética (CISOs) relataram ataques impulsionados por inteligência artificial (IA) no último ano, segundo pesquisa do fundo de capital de risco Team8.
- Os ataques incluem campanhas de phishing sofisticadas e deepfakes, que são difíceis de detectar.
- Mandy Andress, CISO da Elastic, afirmou que os invasores estão à frente em uma “corrida armamentista em IA”.
- Cerca de 40% dos CISOs consideram a proteção dos agentes de IA um desafio crítico, com preocupações sobre a manipulação por invasores.
- Mais de 40% dos CISOs indicaram que vulnerabilidades críticas permanecem sem solução, devido à falta de pessoal e tempo.
Quase 25% dos chefes de segurança cibernética (CISOs) relataram que suas empresas sofreram ataques impulsionados por inteligência artificial (IA) no último ano, conforme uma pesquisa do fundo de capital de risco Team8. O estudo, que entrevistou cerca de 110 CISOs, destaca a dificuldade em identificar esses ataques, que muitas vezes se confundem com ações humanas.
Os ataques com IA incluem campanhas sofisticadas de phishing e deepfakes, que são difíceis de detectar. Mandy Andress, CISO da Elastic, enfatiza que estamos apenas no início de uma “corrida armamentista em IA”, onde os invasores estão à frente. Exemplos de ataques incluem clonagem de voz e táticas de personificação em tempo real, que exploram a confiança humana.
Desafios na Segurança Cibernética
A pesquisa também revelou que quase 40% dos CISOs consideram a proteção dos agentes de IA um desafio crítico. Esses agentes podem ser manipulados por invasores, levando a ações equivocadas. A insegurança no uso de IA entre funcionários é uma preocupação crescente, com muitos líderes reconhecendo que as organizações ainda não adotam práticas adequadas.
Os CISOs enfrentam um dilema: restringir o acesso à IA pode sufocar a inovação, enquanto permitir seu uso sem controles pode resultar em riscos não gerenciados. Em relação ao uso de IA para reforçar defesas, 77% dos entrevistados acreditam que agentes autônomos substituirão analistas menos experientes em centros de operações de segurança.
Vulnerabilidades Persistentes
Além disso, mais de 40% dos CISOs indicaram que vulnerabilidades “críticas” permanecem sem solução após o prazo estipulado. A falta de pessoal e tempo é frequentemente citada como a principal razão para essas falhas. Alguns líderes mencionaram que as correções não estão disponíveis ou que desativar sistemas para implementá-las poderia atrasar as operações.
A pesquisa do Team8 destaca a necessidade urgente de abordagens mais eficazes na segurança cibernética, especialmente em um cenário onde a IA pode ser tanto uma ferramenta de ataque quanto uma solução para defesa.
Entre na conversa da comunidade