Preocupações com o Grok
Recentemente, o Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) avaliaram as respostas da plataforma X e chegaram a uma conclusão preocupante: as providências informadas sobre sua ferramenta de inteligência artificial (IA), o Grok, foram consideradas insuficientes. O Grok tem sido utilizado inadequadamente para gerar e circular imagens de indivíduos em contextos de sexualização, sem a devida autorização.
Recomendações das autoridades
No mês passado, as três entidades emitiram recomendações à plataforma X. Essas orientações incluíam a adoção de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos inadequados, especialmente aqueles gerados pelo Grok a partir de comandos de usuários. As medidas visavam garantir a proteção de dados e a segurança dos usuários em relação a conteúdos sensíveis.
A plataforma X afirmou ter removido milhares de publicações e suspendido centenas de contas por violação de políticas. Contudo, as instituições avaliaram que as informações apresentadas careciam de evidências concretas, como relatórios técnicos que comprovassem a efetividade das ações. Testes preliminares indicaram a continuidade das falhas, com a geração de conteúdos não conformes.
Ação imediata exigida
Recentemente, os três órgãos determinaram que a plataforma X implemente, de forma imediata, medidas efetivas para impedir a produção de conteúdo sexualizado ou erotizado, tanto de crianças e adolescentes quanto de adultos sem consentimento. Essa decisão reflete a urgência em resolver os problemas identificados, já que o uso indevido do Grok representa um risco significativo para a proteção de dados e a segurança dos usuários.
As instituições solicitaram informações detalhadas sobre as providências já adotadas pela empresa. O MPF ordenou que a plataforma forneça relatórios mensais sobre sua atuação, ressaltando a falta de transparência na resposta anterior.
Coordenação das instituições
Atualmente, o MPF, a ANPD e a Senacon atuam de forma coordenada na apuração dos fatos relacionados ao uso inadequado do Grok. Cada instituição possui procedimentos administrativos abertos contra a plataforma, de acordo com suas competências. A ANPD exige que as medidas preventivas adotadas abranjam todas as versões do Grok, assegurando que qualquer uso indevido seja contido.
O MPF destacou a necessidade de relatórios mensais, a partir deste mês, que detalhem como a plataforma está atuando para impedir e reprimir a produção de deepfakes envolvendo crianças e adolescentes, bem como adultos sem autorização. Esses relatórios devem indicar o número de postagens nocivas removidas e contas suspensas.
Se as determinações não forem cumpridas, a plataforma poderá enfrentar multas diárias e seus responsáveis poderão ser responsabilizados por desobediência. A empresa também poderá ser alvo de investigações mais rigorosas e ações judiciais.
A Senacon exigiu a comprovação das providências já adotadas para mitigar os riscos identificados. Foi solicitado um relatório detalhado com dados sobre a identificação, moderação, remoção e indisponibilização de conteúdos sexualizados, incluindo números de conteúdos removidos e prazos médios de resposta.
Por fim, a reportagem busca contato com a assessoria da plataforma X no Brasil para obter um posicionamento sobre essa nova manifestação conjunta do MPF, da ANPD e da Senacon.
