A deputada federal Erika Hilton (PSOL-SP) denunciou a rede social X e a ferramenta de inteligência artificial disponibilizada pela plataforma, o Grok, para o Ministério Público Federal e à Agência Nacional de Proteção de Dados por violação do direito de imagem e informações pessoais.
Segundo a deputada, a ferramenta fere o direito de imagem ao alterar fotos publicadas na rede a pedido de usuários, sem o consentimento das pessoas fotografadas.
No X, usuários tem pedido ao Grok para remover roupas de fotos publicadas por outros usuários. O comando é executado pela IA sem julgo de idade ou propriedade intelectual, resultando em fotos adulteradas exibindo até mesmo crianças apenas em roupas intimas. A prática é conhecida popularmente como deepfake.
“Estou denunciando a inteligência artificial “Grok” e a rede social X ao MPF e à Agência Nacional de Proteção de Dados. O motivo? Ambas estão gerando, e publicando abertamente, imagens eróticas de mulheres e CRIANÇAS reais, sem consentimento algum. Basta um usuário pedir ao “grok”, que a inteligência artificial integrada ao X alterará digitalmente qualquer foto publicada. Inclusive, trocando as roupas de mulheres e meninas por biquínis ou tornando-as sugestivas e eróticas”, destaca na publicação. “Isso tudo é CRIME. O direito à imagem é individual, não é transferível por meio dos “termos de uso” de uma rede social”.
No documento obtido pelo InfoMoney, a parlamentar destaca que a IA mantida pela rede X passou a editar imagens de terceiros sem mecanismos capazes de verificar consentimento, idade ou legalidade da solicitação conforme a Lei Geral de Proteção de Dados e outros aparatos legais que resguardam o direito a imagem. Para ela, essa brecha no Grok possibilita que qualquer usuário crie deepfakes sexuais, prática que constantemente tem sido usada para difamar mulheres e expor menores de idade.
A petição também destaca que houve o reconhecimento público da empresa sobre falhas da ferramenta. Em 31 de dezembro, a página do Grok na rede publicou um pedido de desculpas após ter gerado imagens sexualizadas envolvendo duas meninas menores de idade.
Erika destaca que a justificativa de que a produção é de um conteúdo artificial não afasta a ilegalidade da ação. “A configuração da pornografia infantil independente da forma de produção do conteúdo”, destaca.
A deputada pede a instauração de uma investigação contra a rede e a plataforma. Além disso, ela solicita a suspensão imediata ou imposição de restrições à funcionalidade do Grok, assim como a desativação da ferramenta em território nacional até que ocorra a implementação novos mecanismos de proteção adequados. Na petição, é previsto uma multa diária de R$ 500 mil em caso de descumprimento.
