grok

A Secretaria Nacional do Consumidor (Senacon), a Autoridade Nacional de Proteção de Dados (ANPD) e o Ministério Público Federal (MPF) consideraram insuficientes as respostas apresentadas pela empresa X após uma Recomendação conjunta sobre falhas envolvendo a ferramenta de inteligência artificial Grok.

A plataforma afirmou ter removido milhares de publicações e suspendido centenas de contas, além de adotar medidas de segurança. No entanto, os órgãos apontaram ausência de evidências, relatórios técnicos ou mecanismos que comprovem a eficácia das ações. Testes preliminares indicaram que ainda há circulação de conteúdos incompatíveis com as recomendações.

Diante disso, Senacon e ANPD determinaram que o X adote imediatamente medidas para impedir que o Grok produza conteúdos sexualizados envolvendo crianças, adolescentes ou adultos sem consentimento, além de exigir informações detalhadas sobre as providências adotadas. A ANPD também deu prazo de cinco dias úteis para a empresa comprovar a eficácia das medidas.

O MPF ainda determinou o envio de relatórios mensais com dados sobre remoção de conteúdos e suspensão de contas relacionadas à produção de deepfakes, destacando falta de transparência nas respostas da empresa. 

A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) emitiram uma série de recomendações à empresa responsável pela plataforma digital X para coibir o uso indevido do Grok, ferramenta de inteligência artificial da rede, na geração e disseminação de conteúdos sexualizados.

De acordo com documento divulgado na última terça-feira (20), uma das principais recomendações é que a plataforma implemente, no prazo mínimo de 30 dias, procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos sexualizados indevidos ainda disponíveis no X quando gerados pelo Grok a partir de comandos de usuários.

As instituições também recomendaram a suspensão imediata das contas envolvidas na produção de imagens de cunho sexual ou erotizado, tanto de crianças e adolescentes quanto de adultos, quando criadas sem o consentimento das pessoas retratadas por meio da ferramenta de IA.

Outro ponto destacado é a necessidade de criação de um mecanismo “transparente, acessível e eficaz” para que os titulares de dados possam exercer seus direitos. A medida inclui canais para o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais, especialmente em casos de geração de conteúdos sintéticos sexualizados ou erotizados sem autorização, com garantia de resposta adequada e dentro de prazo razoável.

As recomendações foram formuladas após o recebimento de denúncias de usuários que relataram a criação de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais, sem consentimento.

A Comissão de Comunicações e Multimídia da Malásia informou que iniciará em breve processos judiciais contra o X e a empresa de inteligência artificial de Elon Musk, a xAI.

De acordo com O Globo, a Malásia afirmou que tomará medidas legais contra o X, de Musk, por não proteger os usuários no país do Sudeste Asiático, poucos dias após suspender o acesso à ferramenta de inteligência artificial Grok por gerar conteúdo pornográfico.

O órgão regulador está conduzindo o caso em conjunto com o Ministério das Comunicações da Malásia. “Essa ação diz respeito à falha em garantir a segurança dos usuários na Malásia em relação ao uso do Grok”, afirmou o órgão regulador em comunicado divulgado nesta terça-feira.

Segundo eles, o X foi solicitado a remover o conteúdo ofensivo nos dias 3 e 8 deste mês, mas “nenhuma ação corretiva foi tomada”.

Uma contraposição protocolada no Ministério Público Federal (MPF) contesta a representação apresentada pela deputada federal Erika Hilton (PSOL) que solicita o banimento imediato da ferramenta de inteligência artificial Grok, integrada à plataforma X, por suposta facilitação na criação de deepfakes pornográficas envolvendo crianças e adolescentes.

O documento é assinado pelo advogado Ricardo Ribeiro Feltrin, que se apresenta como “cidadão potencialmente prejudicado”. Na contraposição, ele sustenta que o pedido formulado pela parlamentar “excede o necessário” e viola o princípio da proporcionalidade. Segundo o texto, a alegação de falhas de moderação é “séria e merece atenção séria”, mas não justificaria a suspensão integral da ferramenta.

De acordo com a manifestação, há distinção entre reconhecer problemas técnicos e impor uma medida considerada extrema. “Entre a constatação de um problema técnico e a imposição de uma solução que desabilita a ferramenta para milhões de usuários legítimos existe uma lacuna de proporcionalidade que a jurisprudência democrática contemporânea não tolera”, escreveu Feltrin.

O advogado argumenta ainda que democracias consolidadas não adotam banimentos imediatos em situações relacionadas a falhas de moderação, defendendo a adoção de medidas proporcionais ao problema apontado.

As informações são do Metrópoles.

A deputada federal Erika Hilton (Psol) protocolou uma representação contra a plataforma X (antigo Twitter) no Ministério Público Federal (MPF). A medida se deu por conta da ferramenta de inteligência artificial Grok ser acusada de possibilitar a geração e edição automatizada de imagens sexualizadas de pessoas reais, a exemplo de crianças e adolescentes. 

Segundo petição da parlamentar, via Metrópoles, o Grok estaria editando imagens de terceiros sem mecanismos eficazes de verificação de consentimento, idade ou finalidade legítima. As ações teriam ocasionado a produção de deepfakes sexuais. 

O documento produzido por Erika apontou ainda que a plataforma teria produzido fotos de menores de idade e mulheres adultas, sem autorização das pessoas retratadas. Os registros teriam acontecido em resposta a comandos de usuários, “o chatbot Grok produziu deepfakes sexualizadas, eróticas e com conotação pornográfica de mulheres e de crianças e adolescentes reais, sem consentimento algum dessas usuárias”. 

De acordo com Erika, a plataforma continuou ativa mesmo após denúncias públicas.

 “A configuração da pornografia infantil independe da forma de produção do conteúdo”, diz a petição após citar dispositivos do Estatuto da Criança e do Adolescente. 

Conforme a reportagem, além da recomendação, Erika Hilton pediu ainda a instauração de procedimento investigatório, a suspensão imediata ou imposição de restrições à funcionalidade do Grok. 

A petição solicitou ainda multa diária de R$ 500 mil e desativação da ferramenta em território nacional até a implementação de salvaguardas consideradas eficazes.