deepfake

União Europeia (UE) vai proibir os serviços de inteligência artificial (IA) que gerem imagens de pessoas sem roupa sem autorização. O acordo foi estabelecido na noite desta quarta-feira (6) pelos Estados-Membros e Parlamento Europeu.

A determinação acontece em meio ao crescente uso de inteligências artificais generativas, como o Grok, plataforma de IA da empresa xAI, que permitia aos utilizadores solicitar a criação de deepfakes de adultos e crianças nuas a partir de fotografias reais, sem o seu consentimento, o que levou a UE a abrir uma investigação. A primeira-ministra italiana, Giorgia Meloni, condenou  a prática, classificando os deepfakes como uma "ferramenta perigosa".

De acordo com o Parlamento Europeu, a nova proibição proíbe sistemas que possam criar imagens, vídeos e sons de natureza pornográfica com crianças, ou representações das partes íntimas de uma pessoa identificável, ou imagens dessa pessoa envolvida em atividade sexual. Também será exigida uma marca dagua para identificar conteúdos gerados por inteligência.

As novas regras entrarão em vigor em 2 de dezembro. A partir deste dia, os sistemas de IA deverão estar equipados com medidas de segurança que os impeçam de gerar este tipo de conteúdo. A medida foi adotada no âmbito de uma revisão da legislação europeia sobre a IA, ou Lei da IA, aprovada há dois anos. As novas datas são 2 de dezembro de 2027 para os sistemas "autónomos" de alto risco e 2 de agosto de 2028 para os sistemas integrados em outros programas ou produtos.

O cantor Zezé Di Camargo obteve vitória judicial em processo movido contra o Facebook após ter sua imagem e voz manipuladas por inteligência artificial em vídeos falsos compartilhados no Instagram. A decisão favorável ao artista foi proferida no início de outubro de 2025, determinando a remoção definitiva do conteúdo fraudulento das plataformas.

O sertanejo iniciou a ação judicial em setembro deste ano quando identificou diversos perfis no Instagram compartilhando um vídeo manipulado por IA. No material, sua imagem e voz foram utilizadas sem autorização para simular um posicionamento político a favor do impeachment do ministro Alexandre de Moraes, do Supremo Tribunal Federal.

A informação sobre a vitória judicial foi revelada pela coluna Fábia Oliveira. O julgamento ocorreu de forma antecipada, sem seguir o rito processual completo normalmente aplicado pelo Judiciário brasileiro.

Na decisão, o magistrado considerou que o uso não autorizado da imagem do cantor para disseminar discurso político inverídico poderia comprometer sua credibilidade junto ao público. O juiz também determinou que o Facebook, como mantenedor do Instagram, forneça dados para identificação dos responsáveis pela criação e disseminação do conteúdo fraudulento.

Matheus Pupo e João Mazzieiro, advogados de Zezé Di Camargo, declararam à coluna Fábia Oliveira que "o uso de inteligência artificial para manipulação de imagens e vídeos (deepfake) é conduta ilícita e será sempre combatida pelo artista". A equipe jurídica também informou que "o Instagram foi compelido, por ordem judicial, a fornecer dados para identificação dos responsáveis pelas publicações, que responderão nas esferas cível e criminal".

Com a identificação dos responsáveis pelo uso indevido de sua imagem e voz, o cantor poderá iniciar processos individuais nas esferas cível e criminal contra os envolvidos. O caso de Zezé Di Camargo destaca os desafios jurídicos relacionados ao uso de tecnologias de IA para criar deepfakes com conteúdo político falso.

A deputada Rogéria Santos, do Republicanos, a campeã de propostas legislativas apresentadas neste ano entre todos da bancada da Bahia na Câmara (foram mais de 500 proposições e ainda 63 relatórios a matérias de outros parlamentares) emplacou a aprovação de mais um dos seus projetos. Nesta quarta-feira (30), os membros da Comissão de Previdência, Assistência Social, Infância, Adolescência e Família aprovaram o PL 2709/2024, da deputada Rogéria, que busca proteger crianças e adolescentes dos riscos que podem ser causados por conteúdos digitais, inclusive exploração sexual.

O projeto de Rogéria Santos, que tem como objetivo promover alterações na Lei n.º 8.069, de 12 de julho de 1990, que criou o Estatuto da Criança e do Adolescente, foi aprovado por unanimidade na Comissão, a partir do relatório favorável da deputada Missionária Michele Collins (PP-PE). A proposta agora seguirá para ser apreciada pelo Comissão de Constituição e Justiça (CCJ), antes de seguir para o plenário.

A deputada baiana busca com o projeto defender as crianças e adolescentes, por meio de campanhas permanentes, dos riscos presentes em conteúdos digitais que envolvam a violência e exploração sexual. Além das campanhas, a proposta atualiza o Estatuto da Criança e do Adolescente para incentivar o uso de tecnologias capazes de identificar e remover deepfakes e outros materiais prejudiciais às pessoas desta faixa etária.

Como argumenta a deputada Rogéria Santos, é de conhecimento geral que os crimes virtuais progridem, cada vez mais, pois a tecnologia tem sido utilizada por criminosos com o objetivo de alcançar novos alvos. Em relação a esses crimes, a pedofilia virtual é considerado um dos mais graves, justamente por envolver menores de idade a partir do uso de imagens e vídeos compartilhados na internet. 

"A deepfake é um desses exemplos de tecnologia ao alcance do crime. Vídeos são manipulados para apresentar uma face mais convidativa como a de uma criança ou adolescente, inclusive, com a voz compatível a idade. De tal forma, esses criminosos utilizam dessas imagens para atrair crianças e adolescentes e, assim, assediar suas vítimas. Muitas dessas imagens estão disponibilizadas na deepweb e darkweb", afirma a deputada. 

Outro ponto importante que o PL 2709/24 busca é a defesa de crianças e adolescentes que são vítimas da violência do ciberbullying e da cyberagressão. Na justificativa da proposição, Rogéria Santos coloca que a repercussão desse tipo de violência é por demais negativa na vida emocional e psicológica dos atingidos, podendo, em muitos casos, causar depressão, distúrbios psicológicos como ansiedade e até o suicídio.

"Essas evidências mostram que é crucial desenvolver estratégias educativas e preventivas que promovam a segurança online e o bem-estar das crianças. Nos termos da Constituição Federal em seu Art. 227 é dever da família, da sociedade e do Estado assegurar à criança, ao adolescente e ao jovem, com absoluta prioridade, o direito à vida, à saúde, à alimentação, à educação, ao lazer, à profissionalização, à cultura, à dignidade, ao respeito, à liberdade e à convivência familiar e comunitária, além de colocá-los a salvo de toda forma de negligência, discriminação, exploração, violência, crueldade e opressão", defende a deputada do Republicanos da Bahia.