grok

Uma contraposição protocolada no Ministério Público Federal (MPF) contesta a representação apresentada pela deputada federal Erika Hilton (PSOL) que solicita o banimento imediato da ferramenta de inteligência artificial Grok, integrada à plataforma X, por suposta facilitação na criação de deepfakes pornográficas envolvendo crianças e adolescentes.

O documento é assinado pelo advogado Ricardo Ribeiro Feltrin, que se apresenta como “cidadão potencialmente prejudicado”. Na contraposição, ele sustenta que o pedido formulado pela parlamentar “excede o necessário” e viola o princípio da proporcionalidade. Segundo o texto, a alegação de falhas de moderação é “séria e merece atenção séria”, mas não justificaria a suspensão integral da ferramenta.

De acordo com a manifestação, há distinção entre reconhecer problemas técnicos e impor uma medida considerada extrema. “Entre a constatação de um problema técnico e a imposição de uma solução que desabilita a ferramenta para milhões de usuários legítimos existe uma lacuna de proporcionalidade que a jurisprudência democrática contemporânea não tolera”, escreveu Feltrin.

O advogado argumenta ainda que democracias consolidadas não adotam banimentos imediatos em situações relacionadas a falhas de moderação, defendendo a adoção de medidas proporcionais ao problema apontado.

As informações são do Metrópoles.

A deputada federal Erika Hilton (Psol) protocolou uma representação contra a plataforma X (antigo Twitter) no Ministério Público Federal (MPF). A medida se deu por conta da ferramenta de inteligência artificial Grok ser acusada de possibilitar a geração e edição automatizada de imagens sexualizadas de pessoas reais, a exemplo de crianças e adolescentes. 

Segundo petição da parlamentar, via Metrópoles, o Grok estaria editando imagens de terceiros sem mecanismos eficazes de verificação de consentimento, idade ou finalidade legítima. As ações teriam ocasionado a produção de deepfakes sexuais. 

O documento produzido por Erika apontou ainda que a plataforma teria produzido fotos de menores de idade e mulheres adultas, sem autorização das pessoas retratadas. Os registros teriam acontecido em resposta a comandos de usuários, “o chatbot Grok produziu deepfakes sexualizadas, eróticas e com conotação pornográfica de mulheres e de crianças e adolescentes reais, sem consentimento algum dessas usuárias”. 

De acordo com Erika, a plataforma continuou ativa mesmo após denúncias públicas.

 “A configuração da pornografia infantil independe da forma de produção do conteúdo”, diz a petição após citar dispositivos do Estatuto da Criança e do Adolescente. 

Conforme a reportagem, além da recomendação, Erika Hilton pediu ainda a instauração de procedimento investigatório, a suspensão imediata ou imposição de restrições à funcionalidade do Grok. 

A petição solicitou ainda multa diária de R$ 500 mil e desativação da ferramenta em território nacional até a implementação de salvaguardas consideradas eficazes.