MPF e governo recomendam que X impeça conteúdos sexualizados no Grok

A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) emitiram uma série de recomendações à empresa responsável pela plataforma digital X para coibir o uso indevido do Grok, ferramenta de inteligência artificial da rede, na geração e disseminação de conteúdos sexualizados.

De acordo com documento divulgado na última terça-feira (20), uma das principais recomendações é que a plataforma implemente, no prazo mínimo de 30 dias, procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos sexualizados indevidos ainda disponíveis no X quando gerados pelo Grok a partir de comandos de usuários.

As instituições também recomendaram a suspensão imediata das contas envolvidas na produção de imagens de cunho sexual ou erotizado, tanto de crianças e adolescentes quanto de adultos, quando criadas sem o consentimento das pessoas retratadas por meio da ferramenta de IA.

Outro ponto destacado é a necessidade de criação de um mecanismo “transparente, acessível e eficaz” para que os titulares de dados possam exercer seus direitos. A medida inclui canais para o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais, especialmente em casos de geração de conteúdos sintéticos sexualizados ou erotizados sem autorização, com garantia de resposta adequada e dentro de prazo razoável.

As recomendações foram formuladas após o recebimento de denúncias de usuários que relataram a criação de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais, sem consentimento.