Google utiliza hashes para remover imagens íntimas não consensuais da busca

O Google anunciou uma parceria com a StopNCII.org para combater a disseminação de imagens íntimas não consensuais.
A iniciativa visa identificar e remover essas imagens nos resultados de busca usando hashes, que são identificadores únicos.
A partir dos próximos meses, o Google aplicará os hashes da StopNCII para detectar conteúdos abusivos sem armazenar ou compartilhar as fontes originais.
A medida foi tomada após críticas à lentidão do Google em ações semelhantes adotadas por outras plataformas, como Facebook e TikTok.
A empresa reconheceu a necessidade de agir rapidamente, destacando a pressão de sobreviventes e defensores dos direitos das vítimas.

Google anunciou, nesta quarta-feira, uma parceria com a StopNCII.org para intensificar o combate à disseminação de imagens íntimas não consensuais (NCII). A iniciativa visa identificar e remover proativamente essas imagens nos resultados de busca, utilizando hashes, que são identificadores únicos gerados por algoritmos.

Nos próximos meses, a gigante da tecnologia começará a aplicar os hashes da StopNCII para detectar conteúdos abusivos sem precisar armazenar ou compartilhar as fontes originais. A StopNCII utiliza tecnologias como PDQ para imagens e MD5 para vídeos. A medida surge após críticas à lentidão do Google em adotar ações semelhantes às de outras plataformas, como Facebook e TikTok, que já se uniram à StopNCII em 2022.

A necessidade de agir rapidamente foi destacada em um comunicado do Google, que reconheceu a pressão de sobreviventes e defensores dos direitos das vítimas. O texto enfatiza que, devido à vastidão da web, é crucial reduzir o ônus sobre aqueles afetados por esse tipo de conteúdo. Embora o Google tenha implementado ferramentas para que as vítimas solicitem a remoção de imagens, a responsabilidade ainda recai sobre elas para identificar e sinalizar os conteúdos.

A integração da StopNCII com o Bing pela Microsoft em setembro do ano passado também foi mencionada como um passo importante na luta contra a pornografia de vingança. Apesar dos desafios em lidar com conteúdos gerados por inteligência artificial, defensores esperam que o Google enfrente essa questão de forma mais proativa.