A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) recomendaram que a empresa responsável pela plataforma X adote medidas imediatas para impedir o uso indevido da ferramenta de inteligência artificial Grok na geração de conteúdos sexualizados e deepfakes.

As recomendações foram divulgadas após denúncias de usuários e a realização de testes técnicos que indicaram a produção de imagens sintéticas de caráter sexual a partir de fotos de pessoas reais. Segundo os órgãos, há registros de conteúdos envolvendo mulheres, crianças e adolescentes, muitas vezes sem qualquer tipo de consentimento.

Entre as principais medidas sugeridas está a criação, em até 30 dias, de procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos sexualizados gerados pelo Grok que ainda estejam disponíveis na plataforma. O documento também orienta a suspensão imediata de contas envolvidas na criação ou disseminação desse tipo de material, tanto quando envolver menores de idade quanto adultos sem autorização.

Outra recomendação é a implementação de um canal transparente e acessível para que titulares de dados possam denunciar o uso irregular de imagens pessoais. O mecanismo deve garantir resposta adequada em prazo razoável, especialmente em casos de conteúdos sintéticos com conotação sexual ou erótica.

As instituições destacam que, embora o Marco Civil da Internet preveja limitações à responsabilidade das plataformas sobre conteúdos gerados por terceiros, o caso do Grok envolve uma interação direta entre usuários e uma ferramenta desenvolvida e oferecida pelo próprio X. Por esse motivo, o entendimento é de que a empresa não atua apenas como intermediária, mas como coautora do conteúdo.

O documento também menciona decisão recente do Supremo Tribunal Federal que declarou parcialmente inconstitucional o artigo 19 do Marco Civil, reforçando o dever das plataformas de prevenir a circulação de crimes graves, incluindo violência digital contra mulheres.

Caso as recomendações não sejam cumpridas ou sejam consideradas insuficientes, os órgãos informaram que poderão adotar medidas administrativas e judiciais para garantir a proteção dos direitos fundamentais dos cidadãos.