Ferramenta detectou comandos ocultos para influenciar análise judicial
Uma decisão no processo 0001062-55.2025.5.08.0130 da 3ª Vara do Trabalho de Parauapebas/PA, destacou a atuação do sistema Galileu, ferramenta de inteligência artificial usada pela Justiça do Trabalho, na identificação de uma tentativa de manipulação em uma petição inicial.
O caso foi analisado pelo juiz do trabalho substituto Luis Carlos de Araujo Santos Júnior. Durante a análise do documento, o sistema encontrou comandos ocultos inseridos no texto da petição inicial, com o objetivo de influenciar o funcionamento da inteligência artificial.
Tentativa de manipulação
Esses comandos tentavam fazer com que a ferramenta realizasse uma leitura superficial da petição, sem questionar os documentos apresentados. Esse tipo de prática é conhecido como prompt injection, técnica usada para tentar manipular sistemas de IA.
Ao identificar a tentativa de interferência, o Galileu emitiu um alerta e bloqueou o processamento do conteúdo suspeito. A decisão destacou que a inteligência artificial apenas apontou o problema, enquanto a análise do caso e a decisão final foram feitas pelo magistrado.
Na sentença, o magistrado ressaltou que a “decisão não foi tomada exclusivamente com base no alerta emitido pelo sistema, mas após verificação humana do conteúdo identificado, em conformidade com os princípios de supervisão humana no uso de inteligência artificial pelo Poder Judiciário”, enfatizou.
Sobre o Galileu
O Galileu é uma ferramenta de inteligência artificial (IA) generativa desenvolvida pelo Tribunal Regional do Trabalho da 4ª Região (TRT-RS) em parceria com o Supremo Tribunal Federal (STF) para auxiliar magistrados e servidores da Justiça do Trabalho na elaboração de minutas de sentenças. Em maio de 2025, o Conselho Superior da Justiça do Trabalho (CSJT) adotou a ferramenta nacionalmente.
A ferramenta possui mecanismos de segurança para identificar tentativas de manipulação e garantir mais segurança no uso da inteligência artificial no Judiciário.
Posicionamento institucional
A presidente do Tribunal Regional do Trabalho da 8ª Região, Sulamir Palmeira Monassa de Almeida, destacou a importância do uso responsável das ferramentas oficiais de IA pelos magistrados da Justiça do Trabalho.
“É importante destacar nesse caso a proatividade dos magistrados da 8ª Região no uso das ferramentas oficiais de inteligência artificial implantadas pelo Conselho Superior da Justiça do Trabalho”, afirmou.
15 de maio
15 de maio
15 de maio
