Uma pesquisa da Permiso Security revelou que qualquer p\u00e1gina na internet pode ser usada para injetar instru\u00e7\u00f5es maliciosas no ChatGPT e exibir alertas falsos com links de phishing dentro da interface do assistente. O ataque, batizado de ChatGPhish, utiliza a forma como o ChatGPT processa conte\u00fados de p\u00e1ginas durante o recurso de resumo.<\/p>\n
A t\u00e9cnica n\u00e3o depende apenas de inje\u00e7\u00e3o de prompt. Ao pedir para resumir uma p\u00e1gina, o usu\u00e1rio aciona o processamento do conte\u00fado pela ferramenta, que pode seguir instru\u00e7\u00f5es ocultas presentes no HTML da p\u00e1gina. Em teste, um payload ordenou ao assistente incluir um alerta falso e um link malicioso no resumo.<\/p>\n
Uma p\u00e1gina comum pode se tornar armadilha, sem exigir apar\u00eancia suspeita. Artigos de blog, documenta\u00e7\u00e3o t\u00e9cnica, reposit\u00f3rios no GitHub ou sites de marketing j\u00e1 podem servir de ve\u00edculo para o ataque quando o usu\u00e1rio solicita o resumo pelo ChatGPT.<\/p>\n
Como funciona o ataque, na pr\u00e1tica, \u00e9 mostrado com exemplos no Firefox, que oferece a op\u00e7\u00e3o Summarize Page no menu de contexto. O conte\u00fado da p\u00e1gina pode ser enviado ao ChatGPT com instru\u00e7\u00f5es escondidas para formatar a resposta de modo enganoso.<\/p>\n
O resultado observado \u00e9 que o ChatGPT produz o resumo e, em seguida, insere uma mensagem de alerta com um link direcionando a um site controlado pelo atacante. Tudo aparece dentro da interface do ChatGPT, sem sinais visuais claros de que houve manipula\u00e7\u00e3o do conte\u00fado externo.<\/p>\n
O problema est\u00e1 na forma como o ChatGPT trata conte\u00fado externo apresentado pela p\u00e1gina. O assistente renderiza links em Markdown e carrega imagens a partir de URLs, o que facilita a exibi\u00e7\u00e3o de elementos maliciosos como parte do resumo. Em testes, o payload foi inserido na se\u00e7\u00e3o Quick Start de um README no GitHub, aparecendo imediatamente ap\u00f3s o resumo leg\u00edtimo.<\/p>\n
Caso o usu\u00e1rio escaneie um c\u00f3digo QR exibido na resposta, o ataque pode migrar para o celular, levando a um site malicioso sem a necessidade de bloquear o link no computador. Em dispositivos m\u00f3veis, a prote\u00e7\u00e3o costuma ser menor e o escaneamento promove o redirecionamento direto.<\/p>\n
Diferente de phishing por e-mail, o ChatGPhish n\u00e3o exige que o usu\u00e1rio receba algo suspeito previamente. O ataque ocorre durante o uso di\u00e1rio do navegador, com o ChatGPT atuando como intermedi\u00e1rio de confian\u00e7a. Este vetor amplia a exposi\u00e7\u00e3o de usu\u00e1rios a ataques sem etapas de filtragem tradicionais.<\/p>\n
A Permiso Security ressalta que a mitiga\u00e7\u00e3o passa pela diferencia\u00e7\u00e3o clara entre conte\u00fado gerado pelo assistente e conte\u00fado extra\u00eddo da web, bem como pela restri\u00e7\u00e3o de renderiza\u00e7\u00e3o de links e imagens de origem desconhecida. Medidas adicionais devem considerar a separa\u00e7\u00e3o visual entre as duas fontes.<\/p>\n
Especialistas recomendam aten\u00e7\u00e3o a mensagens apresentadas pelo ChatGPT que contenham alertas com links clic\u00e1veis. Evitar clicar sem confirmar a origem do conte\u00fado \u00e9 fundamental. Em organiza\u00e7\u00f5es, refor\u00e7ar treinamentos de seguran\u00e7a e revisar pol\u00edticas de uso de assistentes virtuais pode reduzir riscos.<\/p>\n
Autores da pesquisa enfatizam a necessidade de atualiza\u00e7\u00f5es em sistemas de IA para evitar que conte\u00fado externo seja tratado com o mesmo n\u00edvel de confian\u00e7a que o conte\u00fado gerado pelo modelo. A ado\u00e7\u00e3o de controles mais r\u00edgidos pode mitigar a exposi\u00e7\u00e3o a esse tipo de vulnerabilidade.<\/p>\n","protected":false},"excerpt":{"rendered":"