ChatGPT é enganado e rouba dados sensíveis do Gmail

Pesquisadores de segurança revelaram um ataque cibernético denominado Shadow Leak, que explora vulnerabilidades em assistentes de inteligência artificial, como o Deep Research da OpenAI. O ataque foi divulgado pela Radware e utiliza uma técnica chamada prompt injection para acessar dados sensíveis de contas do Gmail.

O ataque ocorre quando um agente de IA, autorizado a acessar e-mails e documentos pessoais, é manipulado para executar comandos ocultos. Os pesquisadores conseguiram inserir instruções em um e-mail enviado a uma conta do Gmail, que, ao ser acessada pelo usuário, ativava o agente para buscar informações pessoais e enviá-las aos hackers. Essa abordagem permite que os atacantes operem sem que as vítimas percebam, uma vez que as instruções podem estar disfarçadas em texto invisível.

A Radware destacou que, embora a vulnerabilidade tenha sido corrigida pela OpenAI, o incidente serve como um alerta sobre os riscos associados a assistentes de IA. Outras plataformas conectadas, como Outlook, Google Drive e Dropbox, também podem estar suscetíveis a ataques semelhantes, permitindo a extração de dados empresariais críticos, como contratos e registros de clientes.

Os pesquisadores enfatizaram que a execução do Shadow Leak no ambiente de nuvem da OpenAI torna o ataque invisível para as defesas cibernéticas tradicionais. A complexidade do ataque exigiu várias tentativas antes de alcançar o sucesso, evidenciando a sofisticação das ameaças que envolvem inteligência artificial.