Criminosos usam ChatGPT para aplicar golpes em páginas comuns da internet

Uma pesquisa da Permiso Security revelou que qualquer página na internet pode ser usada para injetar instruções maliciosas no ChatGPT e exibir alertas falsos com links de phishing dentro da interface do assistente. O ataque, batizado de ChatGPhish, utiliza a forma como o ChatGPT processa conteúdos de páginas durante o recurso de resumo.

A técnica não depende apenas de injeção de prompt. Ao pedir para resumir uma página, o usuário aciona o processamento do conteúdo pela ferramenta, que pode seguir instruções ocultas presentes no HTML da página. Em teste, um payload ordenou ao assistente incluir um alerta falso e um link malicioso no resumo.

Uma página comum pode se tornar armadilha, sem exigir aparência suspeita. Artigos de blog, documentação técnica, repositórios no GitHub ou sites de marketing já podem servir de veículo para o ataque quando o usuário solicita o resumo pelo ChatGPT.

Como funciona o ataque, na prática, é mostrado com exemplos no Firefox, que oferece a opção Summarize Page no menu de contexto. O conteúdo da página pode ser enviado ao ChatGPT com instruções escondidas para formatar a resposta de modo enganoso.

O resultado observado é que o ChatGPT produz o resumo e, em seguida, insere uma mensagem de alerta com um link direcionando a um site controlado pelo atacante. Tudo aparece dentro da interface do ChatGPT, sem sinais visuais claros de que houve manipulação do conteúdo externo.

Riscos e mecanismos de exploração

O problema está na forma como o ChatGPT trata conteúdo externo apresentado pela página. O assistente renderiza links em Markdown e carrega imagens a partir de URLs, o que facilita a exibição de elementos maliciosos como parte do resumo. Em testes, o payload foi inserido na seção Quick Start de um README no GitHub, aparecendo imediatamente após o resumo legítimo.

Caso o usuário escaneie um código QR exibido na resposta, o ataque pode migrar para o celular, levando a um site malicioso sem a necessidade de bloquear o link no computador. Em dispositivos móveis, a proteção costuma ser menor e o escaneamento promove o redirecionamento direto.

O que isso significa para a segurança

Diferente de phishing por e-mail, o ChatGPhish não exige que o usuário receba algo suspeito previamente. O ataque ocorre durante o uso diário do navegador, com o ChatGPT atuando como intermediário de confiança. Este vetor amplia a exposição de usuários a ataques sem etapas de filtragem tradicionais.

A Permiso Security ressalta que a mitigação passa pela diferenciação clara entre conteúdo gerado pelo assistente e conteúdo extraído da web, bem como pela restrição de renderização de links e imagens de origem desconhecida. Medidas adicionais devem considerar a separação visual entre as duas fontes.

Recomendações para usuários e empresas

Especialistas recomendam atenção a mensagens apresentadas pelo ChatGPT que contenham alertas com links clicáveis. Evitar clicar sem confirmar a origem do conteúdo é fundamental. Em organizações, reforçar treinamentos de segurança e revisar políticas de uso de assistentes virtuais pode reduzir riscos.

Autores da pesquisa enfatizam a necessidade de atualizações em sistemas de IA para evitar que conteúdo externo seja tratado com o mesmo nível de confiança que o conteúdo gerado pelo modelo. A adoção de controles mais rígidos pode mitigar a exposição a esse tipo de vulnerabilidade.