Governo e MP recomendam que o X impeça conteúdos sexualizados pelo Grok e adotem ações como filtros técnicos, suspensão de contas e medidas de proteção de direitos, especialmente de crianças e adolescentes
O governo e o Ministério Público Federal recomendaram que o Grok impeça a geração de conteúdos sexualizados indevidos na plataforma X. A Autoridade Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) também participam da ação. Visando evitar que a inteligência artificial seja utilizada para a criação e circulação de materiais impróprios.
Prazo de 30 dias para adoção de medidas técnicas
Segundo o documento divulgado (20), entre as recomendações está a criação, no prazo máximo de 30 dias, de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos desse tipo que ainda estejam disponíveis no X. Quando gerados pelo Grok a partir de comandos feitos por usuários.
Suspensão imediata de contas envolvidas
As instituições pedem também a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas. Tanto de crianças e adolescentes quanto de maiores de idade, sem sua autorização, feitas com o Grok.
Canal de denúncias e garantia de direitos
As instituições também recomendaram a implementação de um mecanismo “transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos”, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais. Especialmente nos casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento, assegurando resposta adequada e em prazo razoável.
Denúncias e testes motivaram a recomendação
As instituições elaboraram as recomendações diante de denúncias de usuários que apontaram a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais. Elas também se basearam em reportagens veiculadas na imprensa nacional e internacional e em testes realizados pelas próprias instituições.
Uso do Grok para criação de deepfakes
Os levantamentos apontam o uso da ferramenta de forma ilegal por usuários para a produção de deepfakes, técnica de inteligência artificial que cria imagens falsas a partir de pessoas reais. Esses conteúdos têm caráter sexualizado, erótico e com conotação pornográfica, envolvendo mulheres, crianças e adolescentes reais.
Impactos à dignidade e aos direitos fundamentais
As instituições alertam que esse tipo de conteúdo pode impactar a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis. Em especial de mulheres, crianças e adolescentes.
Bloqueio de novos conteúdos envolvendo menores
“As instituições recomendam, de forma conjunta, a implementação imediata de medidas para impedir que o Grok gere novas imagens, vídeos ou arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados.”
Conteúdos sem consentimento também devem ser barrados
As recomendações também buscam impedir a geração de conteúdos que representem pessoas naturais maiores de idade identificadas ou identificáveis. Em contextos sexualizados ou erotizados, sem sua autorização.
Responsabilização do X pelo conteúdo gerado
De acordo com o documento, o artigo 19 do Marco Civil da Internet estabelece que os provedores de aplicação da internet não respondem pelo conteúdo danoso publicado por terceiros. Salvo após decisão judicial, mas devem executar a retirada.
Decisão do STF reforça dever de cuidado
O documento destaca ainda que, recentemente, o Supremo Tribunal Federal declarou a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet. Por entender que ele não oferece proteção suficiente a direitos constitucionais relevantes.
No julgamento, a Corte fixou que provedores de aplicação da internet têm dever especial de cuidado para evitar a circulação massiva de crimes graves. Como os praticados contra mulheres em razão do sexo feminino, incluindo conteúdos de ódio.
Políticas do próprio X proíbem nudez não consensual
As instituições lembram ainda que a política de autorregulação do X relacionada à nudez não consensual proíbe a publicação e o compartilhamento de imagens ou vídeos explícitos produzidos ou divulgados sem consentimento.
A plataforma também veda a produção, manipulação e disseminação de imagens de terceiros com conteúdo sexual ou erotizado envolvendo o Grok. O que torna, contudo, insustentável a disponibilização da ferramenta sem filtros rigorosos.
Possibilidade de medidas administrativas e judiciais
Por fim, se as autoridades não acatarem as recomendações ou as implementarem de forma insuficiente para reduzir os riscos identificados, os órgãos competentes poderão adotar outras medidas administrativas e judiciais para garantir a proteção adequada da população. Especialmente de mulheres, crianças e adolescentes.
Fonte: agência brasil
