OpenAI revela como atores maliciosos usam inteligência artificial em novos ataques

Recentemente, a OpenAI divulgou um relatório de ameaças que revela como modelos de inteligência artificial (IA) estão sendo utilizados por espiões e golpistas. O documento destaca cinco casos notáveis de uso malicioso da tecnologia, evidenciando um aumento na eficiência, mas também na imprudência desses atores.

O relatório mostra que atores ligados à Coreia do Norte criaram currículos falsos para se candidatar a empregos remotos na área de tecnologia. Utilizando o ChatGPT, eles pesquisaram maneiras de contornar a segurança durante entrevistas ao vivo. Já um grupo da China foi responsável por campanhas de desinformação, gerando comentários falsos em redes sociais para simular debates orgânicos e até redigindo avaliações de desempenho internas.

Outro caso intrigante envolve um hacker de língua russa que desenvolveu malware com a ajuda de um chatbot, enquanto um grupo chinês gerou conteúdo polarizador para aumentar a divisão política nos Estados Unidos. Além disso, uma empresa de relações públicas nas Filipinas utilizou IA para criar milhares de comentários favoráveis a políticos nas redes sociais.

Esses exemplos destacam como a IA está facilitando a criação de malware e propaganda, permitindo que indivíduos menos experientes operem com a eficácia de equipes inteiras. Contudo, o relatório também revela que os próprios métodos utilizados por esses criminosos podem ser sua maior vulnerabilidade. Cada interação com os modelos de IA deixa um rastro de evidências que pode ser monitorado, oferecendo uma visão valiosa das táticas empregadas.

A OpenAI enfatiza que, apesar do uso malicioso, a vigilância sobre como esses modelos são utilizados pode ser uma ferramenta poderosa na luta contra crimes cibernéticos e desinformação.