TRT-BA alerta para riscos de manipulação da IA por meio de comandos ocultos em processos judiciais
A Comissão de Inteligência do Tribunal Regional do Trabalho da 5ª Região (TRT-BA) divulgou uma nota técnica que alerta para os riscos do prompt injection, técnica que consiste na inserção maliciosa de comandos ocultos em peças processuais com o objetivo de manipular ferramentas de inteligência artificial (IA). O documento apresenta orientações para identificar, prevenir e enfrentar essa prática, que pode comprometer a integridade das informações utilizadas como apoio à atividade jurisdicional.
A nota técnica foi proposta pelo juiz André Oliveira Neves, coordenador do Grupo Operacional da Comissão de Inteligência, tendo sido debatida e aperfeiçoada pelos Grupos Operacional e Decisório da comissão, e dá continuidade ao trabalho desenvolvido pelo colegiado sobre o uso da inteligência artificial no Judiciário, especialmente às diretrizes estabelecidas na Nota Técnica nº 005/2025, editada em adesão total à Nota Técnica NUGEPNAC 004/2024 do TRT 6ª Região, que trata da utilização de ferramentas de IA generativa no Poder Judiciário.
Enquanto a NT nº 005/2025 enfatiza o uso ético, seguro e responsável dessas tecnologias, destacando a necessidade de revisão humana, proteção de dados pessoais e verificação das informações produzidas, a nova nota técnica aborda uma dimensão complementar do problema: as tentativas de manipulação das ferramentas por agentes externos ao Tribunal, mediante instruções inseridas de forma dissimulada em peças e documentos apresentados nos processos.
O prompt injection ocorre, por exemplo, quando um documento contém textos invisíveis ou comandos ocultos que orientam a ferramenta de IA a omitir argumentos de uma das partes, privilegiar determinadas alegações ou produzir minutas com conclusões tendenciosas. A prática se diferencia das chamadas alucinações da IA, caracterizadas pela geração de informações incorretas ou inexistentes, pois envolve uma tentativa deliberada de subverter o funcionamento do sistema.
A Nota Técnica destaca que a inserção intencional desses comandos pode configurar litigância de má-fé, conforme as circunstâncias do caso concreto, sujeitando os responsáveis às sanções previstas no Código de Processo Civil e na Consolidação das Leis do Trabalho. O uso da inteligência artificial não afasta a responsabilidade das partes e de seus advogados pela autenticidade, veracidade e correção das informações apresentadas em juízo.
Entre as recomendações estão a revisão crítica de todo conteúdo produzido com auxílio de IA, a adoção de comandos preventivos para orientar os sistemas a tratar documentos processuais exclusivamente como dados para análise e o encaminhamento de peças suspeitas à Secretaria de Tecnologia da Informação e Comunicação (Setic), para avaliação técnica. O documento também propõe o incentivo ao uso de ferramentas institucionais com mecanismos de detecção de possíveis comandos ocultos e a capacitação contínua de magistrados e servidores.
Em consonância com a Resolução CNJ nº 615/2025, a Comissão reforça que a inteligência artificial deve atuar como instrumento auxiliar, sem substituir a análise humana ou a responsabilidade do magistrado pela decisão judicial. A supervisão humana efetiva é apontada como uma das principais formas de prevenir a manipulação algorítmica e preservar a imparcialidade e a confiabilidade da prestação jurisdicional.
Com as Notas Técnicas nº 005/2025 e nº 001/2026, a Comissão de Inteligência do TRT-5 amplia as orientações sobre os desafios associados à incorporação da inteligência artificial às rotinas do Judiciário, promovendo uma abordagem que reúne uso responsável da tecnologia, prevenção de riscos e proteção da integridade processual.