Gretchen consegue na Justiça que X exclua vídeo falso feito com IA; rede terá que revelar quem divulgou

Decisão do tribunal de São Paulo ocorreu no início de junho e ainda permite recurso. Defesa do X cita artigo do Marco Civil da Internet, atualmente em debate no STF; entenda. Justiça de SP decide à favor de Gretchen e contra X.
Reprodução
A Justiça de São Paulo decidiu a favor da cantora Gretchen e contra o X em um processo sobre a divulgação de um vídeo falso da artista feito com inteligência artificial.
A rede social terá que manter o conteúdo fora do ar e informar os dados do usuário que divulgou a publicação. O X ainda pode recorrer.
Segundo o processo, o vídeo falso usa a imagem de Gretchen para mostrar a cantora convidando o público para um suposto show no “Cabaré da Cinderela”, onde haveria atividades sexuais.
A gravação, que circulou em 2024, também faz referência a um momento da vida pública de Gretchen: a campanha que ela fez para a Prefeitura de Itamaracá (PE), por volta dos anos 2010.
Trata-se de um deepfake, ou seja, um vídeo criado com inteligência artificial que usa a imagem e a voz de uma pessoa real, mas altera o que ela diz. A assessoria de Gretchen informou que entrou na Justiça por conta do vídeo em abril. A decisão judicial foi publicada no dia 3 de junho de 2025.
Durante o processo, o X citou o artigo 19 do Marco Civil da Internet. Ele afirma que uma rede social só pode ser responsabilizada por conteúdo publicado por terceiros caso descumpra uma ordem judicial para removê-lo.
Esse é o mesmo artigo que está em debate atualmente no Supremo Tribunal Federal (STF). Esta semana, inclusive, a corte formou maioria para alterar esse entendimento e permitir que plataformas sejam responsabilizadas por conteúdos ilegais mesmo antes de uma ordem judicial.
Responsabilização das redes sociais é avanço, mas faltam detalhes, dizem especialistas
No caso de Gretchen, a juíza Camila Rodrigues Borges de Azevedo, da 19ª Vara Cível, já havia determinado que o X retirasse o vídeo do ar — o que foi feito. Por isso, a rede não foi punida com base no artigo 19.
Agora, além de manter o conteúdo fora do ar, o X terá que entregar o endereço de IP do responsável pela conta que publicou o vídeo. O IP (sigla para “Internet Protocol”) é um número que identifica dispositivos conectados à internet e pode ajudar na localização do autor da postagem.
O g1 procurou o X para comentar a decisão e aguarda resposta.
Veja mais:
G1 Explica: Deepfake
Vídeos feitos com IA do Google bombam nas redes sociais