Uma tentativa de manipulação envolvendo inteligência artificial dentro do Judiciário brasileiro acendeu alerta sobre segurança digital e uso responsável de tecnologias nos tribunais. O caso aconteceu na 3ª Vara do Trabalho de Parauapebas, no Pará, onde a ferramenta "Galileu" identificou comandos ocultos inseridos em uma petição judicial com o objetivo de influenciar a atuação da própria IA.
A ocorrência foi registrada em decisão assinada nesta quarta-feira (12) pelo juiz Luiz Carlos de Araújo Santos Junior.
Desenvolvido pelo Tribunal Regional do Trabalho da 4ª Região e posteriormente expandido nacionalmente pelo Conselho Superior da Justiça do Trabalho, o sistema Galileu detectou conteúdos escondidos no documento processual contendo instruções direcionadas à inteligência artificial utilizada no ambiente judicial.
Segundo as informações divulgadas, os comandos tentavam induzir o sistema a realizar uma contestação superficial e ignorar documentos anexados ao processo, independentemente das determinações recebidas. A técnica é conhecida como "injeção de prompt" (prompt injection), método utilizado para tentar alterar o comportamento de ferramentas de IA por meio de comandos ocultos.
Sistema identificou irregularidade e bloqueou conteúdo suspeito
Ao processar o documento, o Galileu reconheceu a tentativa de interferência e emitiu um alerta técnico automático ao usuário responsável pela análise. O sistema também impediu que o conteúdo considerado suspeito fosse executado pela plataforma.
O episódio reforçou um dos princípios centrais defendidos pelo Judiciário no uso de inteligência artificial: a supervisão humana obrigatória.
Conforme informações do TRT-RS, a ferramenta apenas relatou tecnicamente a existência da anomalia, sem sugerir punições ou emitir julgamento sobre a conduta. A avaliação das consequências processuais ficou sob responsabilidade do magistrado, que analisou pessoalmente o conteúdo antes de proferir a decisão.
Especialistas alertam para novos desafios da era digital
A secretária-geral de Tecnologia e Inovação do TRT-RS, Natacha Moraes de Oliveira, destacou que o caso evidencia a importância da utilização de plataformas institucionais e protegidas no sistema de Justiça.
Segundo ela, ataques desse tipo exigem mecanismos avançados de segurança digital para evitar manipulações em ferramentas baseadas em inteligência artificial.
"O controle desse tipo de ataque exige técnicas especializadas para detectar tentativas de manipulação de comandos e dados", explicou.
Uso de IA segue normas do CNJ
O funcionamento do Galileu segue protocolos internacionais de segurança voltados para inteligência artificial, incluindo mecanismos de identificação de anomalias, emissão de alertas automáticos e preservação da decisão humana nos processos.
A ferramenta também opera em conformidade com a Resolução nº 615/2025 do Conselho Nacional de Justiça, que regulamenta o uso de inteligência artificial no Poder Judiciário brasileiro.
A norma estabelece critérios como transparência, segurança da informação, supervisão humana efetiva e respeito aos direitos fundamentais durante a utilização dessas tecnologias nos tribunais do país.
Portal SGC