- Pesquisadores identificaram um novo malware chamado “injeção de prompt”, que manipula sistemas de inteligência artificial (IA).
- O ataque insere comandos maliciosos no código da IA, fazendo com que arquivos infectados sejam considerados inofensivos.
- A técnica foi descoberta pela empresa Check Point Research, especializada em segurança cibernética, em junho, quando uma amostra foi enviada ao sistema VirusTotal.
- Embora a tentativa de ataque não tenha sido bem-sucedida, especialistas alertam para os riscos crescentes à medida que as IAs se tornam mais integradas aos sistemas de segurança.
- A descoberta destaca a necessidade urgente de aprimorar as medidas de segurança em um cenário com crescente uso de IAs em diversas aplicações.
Pesquisadores descobriram um novo tipo de malware, denominado “injeção de prompt”, que visa manipular sistemas de inteligência artificial (IA). O ataque consiste em inserir comandos maliciosos no código da IA, fazendo com que o sistema considere arquivos infectados como inofensivos. A técnica foi identificada pela empresa Check Point Research, especializada em segurança cibernética.
O malware foi detectado em junho, quando uma amostra foi enviada ao sistema VirusTotal, originando-se da Holanda. Embora partes do código estivessem incompletas, uma linha específica parecia destinada a enganar a IA, desviando seu fluxo de consciência e levando-a a emitir respostas falsas. Os testes realizados pela equipe mostraram que a IA conseguiu identificar o arquivo como malicioso, sinalizando a tentativa de ataque.
Desafios para a Segurança das IAs
Esse incidente marca o primeiro caso conhecido de malware projetado para enganar ferramentas de segurança baseadas em IA. Apesar de a tentativa não ter sido bem-sucedida, os pesquisadores alertam para os riscos crescentes à medida que os modelos de linguagem em larga escala (LLMs) se tornam mais integrados aos sistemas de segurança. A evolução dessas técnicas pode representar um desafio significativo para a proteção das IAs.
Os especialistas ressaltam que, mesmo tentativas mal-sucedidas de ataque são valiosas para entender o comportamento dos invasores. Essa compreensão é essencial para o desenvolvimento de defesas mais robustas contra futuras ameaças. A descoberta do malware “injeção de prompt” destaca a necessidade urgente de aprimorar as medidas de segurança em um cenário onde as IAs estão cada vez mais presentes em diversas aplicações.
