Rede social indeniza mulher por fotos falsas de nudez criadas com IA

O Tribunal de Justiça do Mato Grosso do Sul condenou a plataforma a indenizar a mulher em R$ 5 mil por danos morais.
A condenação ocorreu porque uma foto real da vítima foi usada para criar imagens falsas de nudez com inteligência artificial, publicadas com legenda degradante e alcance expressivo.
A vítima informou a violação à rede social em 21 de janeiro de 2025, pelos canais da própria plataforma.
O recurso destacou o art. 21 do Marco Civil da Internet, que prevê responsabilização subsidiária do provedor após notificação quando não remove conteúdo de terceiros que viole nudez ou conteúdo sexual, sem necessidade de ordem judicial; o uso de IA não afasta a proteção.
A 2ª câmara Cível manteve a condenação, reconhecendo o dano moral evidente.

A 2ª Câmara Cível do Tribunal de Justiça do Mato Grosso do Sul manteve a condenação de uma rede social por danos morais após a veiculação de imagens falsas de nudez criadas com inteligência artificial. A decisão determina que a plataforma pague R$ 5 mil à vítima.

A ação foi movida após a mulher ter uma foto utilizada por terceiros para gerar conteúdos manipulados, com a pessoa retratada sem roupas e associada a material de cunho sexual. As publicações tiveram grande alcance e repercussão.

A vítima informou à empresa sobre o uso indevido em 21 de janeiro de 2025, por meio dos canais oficiais da plataforma. O conteúdo foi removido apenas após notificação formal, segundo o tribunal.

Marco Civil da Internet e dano moral

O relator, desembargador Nélio Stábile, sustentou que o caso enquadra-se no art. 21 do Marco Civil da Internet, que responsabiliza o provedor quando não remove conteúdo violador após notificação. A exceção envolve gravidade e urgência da exposição não autorizada.

A decisão lembrou que a imagem verdadeira foi usada para fabricar nudez falsa, apresentando-a como conteúdo íntimo autêntico. O tribunal reconheceu, de forma evidente, o dano moral, sem exigir provas de prejuízo concreto.

A Câmara manteve a condenação da plataforma ao pagamento de indenização de R$ 5 mil, sem divulgar o número do processo. A matéria é de interesse público, com impacto sobre o uso de IA e a proteção de direitos de personalidade.