AGU notifica Google para remover das buscas sites que criam nudes falsos com IA
A AGU (Advocacia-Geral da União) pediu ao Google que remova de seus resultados de busca sites que usam inteligência artificial para produzir imagens sexualizadas falsas de pessoas reais. Segundo o órgão, a notificação extrajudicial foi enviada à empresa nesta quarta-feira (1º) e o cumprimento das medidas deverá se dar no prazo cinco dias.
Procurado, o Google afirma que não vai se manifestar sobre a medida.
A solicitação é baseada em um estudo da faculdade de direito da Fundação Getulio Vargas do Rio de Janeiro lançado no final de fevereiro. O levantamento trata do aumento do interesse por programas de "nudificação" e afirma que são voltados principalmente à produção de nudes falsos e de imagens de abuso sexual infantil.
Mulheres, crianças e adolescentes são afetadas de forma desproporcional, segundo o documento, que recomenda a desindexação pelo Google de endereços eletrônicos que "hospedam, promovem ou facilitam acesso a ferramentas de nudificação por IA".
"A indexação desses sites pelo Google amplifica exponencialmente o alcance de tecnologias de abuso", afirma o trabalho. "A desindexação é medida necessária, tecnicamente viável e juridicamente fundamentada tanto no ordenamento brasileiro quanto em normativas internacionais de direitos humanos".
Assinado por Yasmin Curzi, José Nunes, Yasmin dos Santos e Walter Gaspar, o estudo defende que a medida seja tomada imediatamente. "Plataformas têm responsabilidade de não amplificar ferramentas de violência. De outro modo, a inação perpetua ciclos de vitimização desproporcional de mulheres e de crianças", concluem.
A análise demonstrou o crescimento, desde meados de 2023, de buscas por expressões como "nudify" na plataforma por usuários no Brasil.
Por meio da PNDD (Procuradoria Nacional da União de Defesa da Democracia), a AGU requer a adoção de duas medidas pelo Google.
"A primeira é a desindexação dos sites de 'nudificação', a partir de listagem exemplificativa com mais de 40 links que estavam disponíveis no momento da notificação. A outra é a implementação de filtros algorítmicos para impedir indexação futura de sites similares", diz o órgão em comunicado.
Ainda segundo a nota, a AGU não nega a responsabilidade do autor direto na criação e distribuição do conteúdo ilícito, ou do próprio desenvolvedor da ferramenta. Porém, além de massificar o acesso a esses programas, a indexação no Google os coloca na "mesma categoria de qualquer outro item lícito de busca/interesse", conforme o órgão.
O QUE FAZER EM CASOS DE NUDES FALSOS?
1. Não compartilhe, mesmo com intuito de denúncia - O compartilhamento pode espalhar ainda mais o arquivo, alcançar mais pessoas e prejudicar a vítima, explica o professor de direito da FGV Alexandre Pacheco
2. Entre em contato com os responsáveis das vítimas - Os responsáveis da vítima menor de 18 anos devem ser informados do que aconteceu com seus filhos para que possam tomar atitudes e buscar autoridades
3. Procure autoridades - Segundo Pacheco, a delegacia de crimes cibernéticos é o mais indicado nesses casos. É importante que a vítima faça um boletim de ocorrência para o início das investigações
4. Safernet - A ONG tem um canal de denúncias para conteúdos relacionados a imagens de menos de 18 anos. Para registrar um caso, é preciso acessar denuncie.org.br e colar o link do endereço da internet que a pessoa acredita que deva ser investigado e seguir os passos indicados na plataforma
5. StopNCII.org - O site stopncii.org dá apoio às vítimas de ameaças de divulgação de imagens íntimas não consensuais (fakes ou não). A plataforma é destinada para casos que envolvem maiores de 18 anos