A Agência Nacional de Proteção de Dados, a Secretaria Nacional do Consumidor e o MPF (Ministério Público Federal) expediram recomendações à empresa controladora da plataforma digital X diante de denúncias sobre o uso do Grok, assistente de inteligência artificial integrado à rede.
Usuários apontaram a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais. Segundo as acusações, a ferramenta tem sido utilizada ilegalmente por usuários para a produção de deepfakes, técnica de inteligência artificial que cria imagens falsas a partir de pessoas reais. Esses conteúdos têm caráter sexualizado, erótico e com conotação pornográfica, envolvendo mulheres e crianças e adolescentes reais.
Dada a seriedade das notícias, elas podem impactar a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa e outros direitos pessoais e coletivos, em especial de mulheres, crianças e adolescentes.
Recomendações
Entre as recomendações, está a de que sejam implementadas, de forma imediata, medidas destinadas a impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados.
As recomendações também buscam impedir a geração de conteúdos que representem pessoas naturais maiores de idade identificadas ou identificáveis, em contextos sexualizados ou erotizados, sem sua autorização.
Além disso, as instituições também recomendaram à empresa:
- Criar, no prazo máximo de 30 dias, procedimentos técnicos e operacionais claros e eficazes para identificar, revisar e remover conteúdo desse tipo que já tenham sido produzidos e ainda estejam disponíveis na plataforma X, quando gerados pelo Grok a partir de comandos feitos por usuários.
- A suspensão imediata das contas envolvidas na produção, via Grok, de imagens sexuais ou erotizadas tanto de crianças e adolescentes, quanto de maiores de idade sem sua autorização, aplicando com efetividade os termos de uso que a própria empresa anuncia como vigentes para a plataforma. Essa medida, a ser implementada desde logo e em caráter contínuo, deverá ser comprovada às instituições autoras da Recomendação por meio de relatórios mensais apresentados pela empresa, como evidência de cumprimento de seu dever de evitar a prática de condutas especialmente graves no ambiente digital que controla.
- Implementar mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais, especialmente nos casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento, assegurando resposta adequada e em prazo razoável.
- Elaborar relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdo sintético a partir da manipulação de fotos, imagens, vídeos ou áudios enviados por usuários ao Grok, sempre que esses dados permitam identificar direta ou indiretamente uma pessoa natural.
Fonte: Agência Gov
