Recomendações das instituições sobre o Grok
A Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) se uniram para fazer uma série de recomendações à empresa responsável pela plataforma digital X. O objetivo é garantir que a ferramenta de inteligência artificial Grok não seja utilizada de maneira inadequada para a geração e divulgação de conteúdos sexualizados indevidos. Em um comunicado divulgado na terça-feira (20), as instituições solicitaram a implementação de medidas para proteger usuários, especialmente crianças e adolescentes, de conteúdos prejudiciais.
Medidas sugeridas para a plataforma X
Entre as principais recomendações apresentadas, destaca-se a criação, em um prazo máximo de 30 dias, de procedimentos técnicos e operacionais que permitam identificar, revisar e remover conteúdos sexualizados que ainda estejam disponíveis na plataforma. Esses conteúdos são gerados pelo Grok a partir de comandos feitos por usuários. Além disso, as instituições pedem a suspensão imediata de contas que estejam envolvidas na produção de imagens sexuais ou erotizadas, tanto de menores quanto de adultos, sem o devido consentimento.
Outra recomendação importante é a implementação de um mecanismo que seja “transparente, acessível e eficaz” para que os titulares de dados possam exercitar seus direitos. Isso inclui a possibilidade de enviar denúncias sobre o uso irregular ou abusivo de dados pessoais, especialmente em casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento. As instituições ressaltam a necessidade de uma resposta adequada e em um prazo razoável para essas denúncias.
Contexto das recomendações
Essas recomendações surgiram após uma série de denúncias feitas por usuários que relataram a geração de conteúdos sintéticos com caráter sexualizado a partir de imagens de pessoas reais. As recomendações foram fundamentadas em reportagens da imprensa nacional e internacional e em testes realizados por essas instituições, que indicam que a ferramenta Grok está sendo utilizada de forma ilegal por alguns usuários para a produção de deepfakes. Essa técnica, que utiliza inteligência artificial, cria imagens falsas a partir de rostos de pessoas reais, levando à criação de conteúdos com conotação sexual, erótica e pornográfica, que envolvem mulheres, crianças e adolescentes.
As instituições alertam que esse tipo de conteúdo não só compromete a proteção de dados pessoais, mas também afeta diretamente a dignidade da pessoa humana e outros direitos coletivos e individuais. Isso é especialmente crítico no que diz respeito à proteção de mulheres, crianças e adolescentes, que estão mais suscetíveis a esse tipo de violação.
“Entre as recomendações conjuntas, está a de que sejam implementadas, de forma imediata, medidas destinadas a impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados”, afirmaram as instituições.
Além disso, as recomendações também visam barrar a geração de conteúdos que representem adultos identificáveis em situações sexualizadas ou erotizadas, sem o seu consentimento. Apesar de o artigo 19 do Marco Civil da Internet prever que provedores de aplicações não são responsáveis pelo conteúdo publicado por terceiros, as instituições argumentam que a retirada desse conteúdo deve ser realizada, pois as deepfakes sexualizadas são fruto de uma interação entre usuários e a ferramenta de inteligência artificial oferecida pela plataforma X.
O documento também menciona que o Supremo Tribunal Federal (STF) reconheceu a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet, por entender que ele não oferece proteção suficiente a direitos constitucionais relevantes. O STF determinou que provedores de aplicações na internet devem adotar todas as medidas necessárias para evitar a disseminação de crimes, especialmente aqueles que afetam mulheres.
Por fim, as instituições lembram que a política de autorregulação da plataforma X proíbe a publicação de imagens ou vídeos explícitos que tenham sido produzidos sem o consentimento das pessoas envolvidas. Portanto, a disponibilização de uma ferramenta de inteligência artificial sem filtros adequados que favoreçam práticas nocivas é insustentável.
Caso as recomendações não sejam atendidas ou sejam implementadas de maneira inadequada, as instituições poderão considerar outras medidas, tanto na esfera administrativa quanto judicial, para garantir a proteção dos cidadãos, especialmente mulheres, crianças e adolescentes.
