Idec pede ao governo suspensão do Grok, IA de Musk, por violar direitos de crianças, adolescentes e mulheres

Ferramenta gratuita da rede social X tem sido usada para criar imagens íntimas falsas
O Instituto de Defesa de Consumidores (Idec) pediu ao governo brasileiro nesta segunda-feira (12) a suspensão do Grok, IA do bilionário Elon Musk que vem sendo utilizada por usuários do X para gerar imagens falsas sexualizadas de mulheres e crianças, sem consentimento.
“A medida é motivada por evidências robustas de graves e reiteradas violações de direitos fundamentais, especialmente de crianças, adolescentes e mulheres, associadas ao funcionamento da ferramenta”, disse o Idec.
Na última semana, o g1 relatou o caso de uma brasileira que teve uma foto sua de biquíni manipulada. “Sentimento horrível”, disse a vítima após ser informada pela reportagem sobre a existência da imagem.
Esse tipo de manipulação, conhecido como deepfake (quando imagens reais são alteradas por inteligência artificial), não é novidade, mas se espalhou no X no mês passado e virou uma espécie de “trend” tanto no Brasil quanto em outros países.
LEIA MAIS
Países pressionam Grok após polêmicas com fotos falsas sexualizadas
‘Me sinto suja’, diz brasileira vítima de foto editada de biquíni pelo Grok
Rede Social X limita uso da inteligência artificial Grok para edição de imagens
Instituto cita violações ao ECA e outras leis
O Idec encaminhou um ofício ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital.
Essa instância reúne o Ministério da Justiça e da Segurança Pública, o Ministério dos Direitos Humanos e da Cidadania, a Secretaria de Comunicação Social da Presidência da República e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda).
Segundo o instituto, o Grok tem sido utilizado para difundir ‘imagens sexualizadas não consentidas”, “inclusive de menores de idade”, “sem a adoção de salvaguardas mínimas de segurança, consentimento ou prevenção de abusos.”
Para o instituto, “trata-se de um defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor (CDC), uma vez que a plataforma não oferece o nível de segurança legitimamente esperado pelos usuários e pelas pessoas atingidas pelos danos.”
O Idec também aponta violações à Lei Geral de Proteção de Dados (LGPD), ao Marco Civil da Internet, ao Estatuto da Criança e do Adolescente (ECA) e ao recém-aprovado ECA Digital.
O ofício também ressalta que o caso da Grok já gerou reações internacionais relevantes, com investigações e exigências de retirada de conteúdo por autoridades da União Europeia, Reino Unido, França e Índia.
“O episódio evidencia que inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, conclui o Idec.
Grok, inteligência artificial criada por Elon Musk
REUTERS/Dado Ruvic/Illustration