‘X’ é pressionado a conter uso do Grok na criação de deepfakes sexualizados

Entre as recomendações está a criação, em até 30 dias, de mecanismos técnicos para identificar e remover esse tipo de material, além da suspensão imediata de contas envolvidas na produção de imagens sexuais ou erotizadas de crianças, adolescentes e adultos sem autorização.

O documento também pede a implementação de um canal transparente e acessível para denúncias e exercício de direitos dos titulares de dados, com respostas em prazo razoável.

As medidas foram motivadas por denúncias de usuários, reportagens e testes realizados pelas instituições, que identificaram o uso do Grok para a produção de deepfakes sexualizados envolvendo pessoas reais, incluindo mulheres, crianças e adolescentes.

Segundo as instituições, esse tipo de conteúdo viola direitos fundamentais, como a proteção de dados pessoais e a dignidade humana. O texto argumenta ainda que, por ser parte ativa na geração das imagens, a plataforma não pode ser considerada apenas intermediária.

O documento cita decisões recentes do STF que reforçam o dever das plataformas de agir para impedir a circulação de crimes graves, além de lembrar que as próprias regras do X proíbem nudez não consensual e conteúdos sexualizados gerados sem autorização.

Caso as recomendações não sejam cumpridas, medidas administrativas e judiciais poderão ser adotadas.