Manipulação da Justiça com IA gera preocupações em tribunais brasileiros - Informações e Detalhes

Nos últimos meses, diversos tribunais brasileiros, incluindo os de São Paulo, Pará, Minas Gerais e Paraíba, têm se deparado com tentativas de manipulação de sistemas de inteligência artificial (IA) utilizados no Judiciário. Esse tipo de prática, conhecida como prompt injection, envolve a inserção de instruções ocultas em documentos legais que podem influenciar decisões judiciais sem que juízes ou assessores percebam.

Um dos casos mais notáveis ocorreu no Tribunal de Justiça de São Paulo (TJSP), onde um advogado apresentou uma petição em 2025 contendo um texto escrito em fonte branca sobre uma página igualmente branca. Esse texto continha comandos dirigidos a sistemas de IA, instruindo-os a conceder benefícios judiciais ao autor da ação, como a justiça gratuita e a tutela de urgência.

O juiz Diego Marcussi, ao identificar essa inserção, solicitou esclarecimentos ao advogado responsável. Para ele, a inclusão de trechos ocultos representa uma tentativa de manipular as ferramentas de IA que auxiliam na triagem e análise processual, colocando em risco a integridade das decisões judiciais.

O Conselho Nacional de Justiça (CNJ) já havia estabelecido normas rigorosas para o uso de IA no Judiciário, exigindo revisão humana nos casos em que essas tecnologias são aplicadas. O TJSP, em sua resposta, ressaltou que a detecção do texto invisível se deu graças à utilização adequada de suas ferramentas de IA.

Além do incidente em São Paulo, outros casos de prompt injection também foram revelados. No Pará, por exemplo, duas advogadas foram multadas em R$ 84,2 mil por tentativas de fraudar processos utilizando comandos ocultos em suas petições. Elas alegaram que a intenção era proteger seus clientes da própria IA.

Em Minas Gerais, um advogado foi multado em R$ 8,1 mil por inserir um comando oculto em um recurso contra o Banco BMG. O texto invisível orientava a IA a sempre favorecer o autor da ação em suas respostas. O advogado defendeu-se, afirmando que se tratava de um erro técnico.

Esses casos levantaram um debate significativo no meio jurídico sobre os limites do uso de tecnologia no Judiciário, especialmente em um país com uma enorme quantidade de processos, que já ultrapassa 80 milhões. Especialistas, como o advogado Dierle Nunes, alertam que essas situações podem ser apenas a “ponta do iceberg” em um problema que ainda não foi totalmente compreendido.

O juiz federal Rafael Leite, que participou da implementação de ações de IA no CNJ, também reconhece que o aumento do uso de inteligência artificial nos tribunais e por advogados pode elevar as tentativas de manipulação. Ele aponta que, mesmo que a ocorrência de ataques seja baixa, a tendência é que o número de casos aumente à medida que a tecnologia se torna mais comum.

Desta forma, a situação atual exige uma reflexão profunda sobre a ética no uso de tecnologias no sistema judicial. A manipulação de sistemas de IA representa um desafio significativo para a integridade do Judiciário. É fundamental que as instituições se mantenham vigilantes e desenvolvam mecanismos que impeçam abusos desse tipo.

Além disso, o aumento do uso de IA no Judiciário deve ser acompanhado de uma discussão ampla sobre suas implicações. A tecnologia, se utilizada de forma responsável, pode trazer benefícios, mas também apresenta riscos que não podem ser ignorados.

É imprescindível que advogados, juízes e tribunais trabalhem juntos para estabelecer diretrizes claras e eficazes. A colaboração entre os diversos setores do sistema de Justiça é essencial para garantir que a inovação tecnológica não comprometa a justiça.

Por fim, a educação e a conscientização sobre os limites e responsabilidades no uso de IA devem ser prioridade. O preparo dos profissionais do Direito para lidar com essas novas ferramentas pode ser um caminho para mitigar os riscos associados.

Assim, o futuro do Judiciário depende de um equilíbrio entre inovação e ética, assegurando que a justiça permaneça uma prioridade, independentemente dos avanços tecnológicos.

Gostou dessa notícia? Você pode compartilhá-la com seus amigos!