Ferramenta remove proteções anti-AI de obras de arte digital

A nova técnica LightShed foi desenvolvida para contornar ferramentas de proteção criadas por artistas, como Glaze e Nightshade, que visam impedir o uso de suas obras no treinamento de modelos de inteligência artificial (IA). Essa inovação destaca a vulnerabilidade das defesas atuais, intensificando a batalha entre artistas e defensores da IA.

Nos últimos anos, artistas têm expressado preocupações sobre o uso não autorizado de suas obras para treinar modelos de IA, que podem replicar estilos e prejudicar suas carreiras. Em resposta, ferramentas como Glaze e Nightshade foram criadas para “envenenar” as imagens, dificultando a compreensão dos modelos de IA. No entanto, LightShed promete reverter essas proteções, permitindo que as obras sejam novamente utilizadas para treinamento.

Hanna Foerster, estudante de doutorado na Universidade de Cambridge e autora principal do estudo sobre LightShed, afirma que a intenção não é roubar o trabalho dos artistas, mas alertá-los sobre a fragilidade das suas defesas. A técnica foi apresentada na Usenix Security Symposium, um importante evento de cibersegurança, e se mostrou eficaz em “limpar” as perturbações introduzidas por ferramentas como Glaze e Nightshade.

A equipe de pesquisadores treinou LightShed com obras que tinham e não tinham as proteções aplicadas. O resultado foi um sistema que consegue identificar e remover as alterações feitas por essas ferramentas, tornando as obras novamente utilizáveis para o treinamento de IA. Essa capacidade de adaptação é um avanço significativo, pois permite que LightShed funcione contra diferentes métodos de proteção, mesmo sem conhecê-los previamente.

Artistas que utilizam Glaze, que já conta com cerca de 7,5 milhões de downloads, veem essas ferramentas como uma linha de defesa crucial, especialmente em um cenário onde a regulamentação sobre o uso de IA e direitos autorais ainda é incerta. Contudo, os criadores de Glaze e Nightshade reconhecem que essas soluções não são permanentes e que novas estratégias de proteção são necessárias. Foerster sugere que, no futuro, novas defesas, como marcas d’água inteligentes, possam ajudar a proteger as obras de forma mais eficaz.