O Governo do Brasil, por meio da Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacon), e o MPF (Ministério Público Federal) expediram recomendações à empresa controladora da plataforma digital X (antigo Twitter) diante de denúncias sobre o uso do Grok, assistente de inteligência artificial integrado à rede.
Usuários apontaram a geração de conteúdos de caráter sexualizado a partir de imagens de pessoas reais.
Segundo as acusações, baseadas em reportagens veiculadas na imprensa nacional e internacional, além de testes realizados pelas instituições, a ferramenta tem sido utilizada ilegalmente por usuários para a produção de deepfakes, técnica de inteligência artificial que cria imagens falsas a partir de pessoas reais.
Esses conteúdos têm caráter sexualizado, erótico e com conotação pornográfica, envolvendo mulheres e crianças e adolescentes reais.
Também foram reportados casos de imagens de mulheres e crianças nuas ou com roupas íntimas, acessíveis a qualquer usuário, ampliando a exposição indevida e os riscos de danos às pessoas retratadas.
Atuação coordenada
A gravidade dos fatos noticiados nas denúncias motivou a atuação coordenada da ANPD, do MPF e da Senacon do Ministério da Justiça e Segurança Pública. Dada a seriedade das ocorrências, elas podem impactar, de forma concomitante, a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis, em especial de mulheres, crianças e adolescentes.
Recomendações
Entre as recomendações conjuntas, está a de que sejam implementadas, de forma imediata, medidas destinadas a impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados.
As recomendações também buscam impedir a geração de conteúdos que representem pessoas naturais maiores de idade identificadas ou identificáveis, em contextos sexualizados ou erotizados, sem autorização.
Além disso, as instituições também recomendaram à empresa:
► Criar, no prazo máximo de 30 dias, procedimentos técnicos e operacionais claros e eficazes para identificar, revisar e remover conteúdo desse tipo que já tenham sido produzidos e ainda estejam disponíveis na plataforma X, quando gerados pelo Grok a partir de comandos feitos por usuários.
► A suspensão imediata das contas envolvidas na produção, via Grok, de imagens sexuais ou erotizadas tanto de crianças e adolescentes, quanto de maiores de idade sem autorização.
► Implementar mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais, especialmente nos casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento, assegurando resposta adequada e em prazo razoável.
► Elaborar relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdo sintético a partir da manipulação de fotos, imagens, vídeos ou áudios enviados por usuários ao Grok, sempre que esses dados permitam identificar direta ou indiretamente uma pessoa natural.
Caso as recomendações não sejam acatadas ou sejam implementadas de modo insuficiente para amenizar os riscos identificados, outras medidas poderão ser consideradas e adotadas pelas três instituições. Essas medidas poderão ser adotadas em sede administrativa e em sede judicial, para garantir a proteção adequada dos cidadãos e cidadãs do país, especialmente de mulheres, de crianças e de adolescentes.
As recomendações foram expedidas no âmbito das competências de cada uma das instituições, que seguirão com seus procedimentos próprios, analisando as respostas e as providências eventualmente adotadas pela empresa que controla a plataforma X.
Oeste Mais
