O Grok, chatbot de Inteligência Artificial desenvolvido pela xAI, empresa de Elon Musk, tornou-se alvo de denúncias por permitir a criação e alteração de imagens de usuários de forma sexualizada, sem consentimento. Diante do caso, o Instituto de Defesa do Consumidor (Idec) protocolou, nesta quinta-feira (15), um pedido junto à Autoridade Nacional de Proteção de Dados (ANPD) para a suspensão do funcionamento da ferramenta no Brasil.
Segundo o Idec, há indícios de graves violações à Lei Geral de Proteção de Dados (LGPD). Especialmente no que se refere ao uso de dados pessoais para gerar imagens sexualizadas de indivíduos que não autorizaram esse tipo de tratamento. O material inclui imagens de crianças e adolescentes. A entidade defende que a ANPD conduza uma apuração aprofundada sobre o funcionamento do Grok e adote providências urgentes para conter os danos já causados.
O que diz o Idec
Entre os pedidos apresentados à Agência, estão:
- A suspensão imediata das funcionalidades do Grok que utilizam dados de pessoas reais;
- Interrupção do uso de dados pessoais para treinar e operar o sistema;
- Exigência de que a empresa responsável apresente, em prazo a ser definido, informações detalhadas sobre denúncias e solicitações recebidas e tratadas pela plataforma X, onde o chatbot está integrado.
“O funcionamento contínuo de sistemas de Inteligência Artificial que causam danos graves e previsíveis mostra a urgência de uma atuação firme do poder público. A proteção de dados pessoais, especialmente de crianças e adolescentes, não pode ser tratada como um detalhe em nome da inovação”, afirma o Idec, em nota.
De acordo com o Instituto, a ferramenta permite a criação de imagens sexualizadas que preservam características reais das pessoas retratadas. Isso amplia o risco de exposição indevida, sobretudo para mulheres, crianças e adolescentes, que podem ter suas imagens manipuladas e disseminadas sem qualquer tipo de consentimento.
Transparência de dados de usuários
No caso de menores de idade, o Idec ressalta que a situação é ainda mais sensível. A legislação brasileira estabelece regras mais rigorosas para o tratamento de dados de crianças e adolescentes. “Estamos falando de um sistema que pode produzir conteúdos sexualizados envolvendo menores de idade, a partir de dados reais, sem qualquer controle efetivo”, alerta a entidade.
Outro ponto levantado diz respeito à falta de transparência da empresa responsável pelo Grok. Segundo o Idec, a política de privacidade da ferramenta não está disponível em português, o que dificulta que usuários brasileiros compreendam como seus dados são utilizados e quais direitos podem exercer.
Para o Instituto, o caso guarda semelhanças com situações já analisadas pela própria ANPD. Nelas, a Agência reconheceu a necessidade de medidas imediatas quando há uso de dados em larga escala e risco de danos graves ou irreversíveis. A circulação massiva das imagens e a dificuldade de removê-las da plataforma tendem a ampliar o impacto sobre as vítimas.
Reações no exterior
As denúncias contra o Grok também provocaram reações fora do Brasil. O serviço passou a ser alvo de investigações, restrições ou suspensões em países como Indonésia, Malásia, membros da União Europeia, Reino Unido, França e Índia.
Em resposta às reclamações globais, a xAI desativou, na semana passada, a função de criação de imagens para usuários não pagantes. Após sofrer pressão de governos ao redor do mundo, incluindo proibições e ameaças de ações judiciais, a empresa anunciou que havia implementado medidas tecnológicas para limitar a geração de conteúdos inadequados.
“Implementamos medidas tecnológicas para impedir que a conta Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis”, informou a empresa em uma publicação na plataforma X.
O pedido do Idec agora será analisado pela ANPD, que pode determinar medidas cautelares enquanto avalia eventuais infrações à legislação brasileira de proteção de dados.
