O Tribunal de Justiça da Paraíba (TJPB) adotou novas medidas de segurança para impedir a manipulação de suas ferramentas de inteligência artificial por meio de instruções escondidas em documentos judiciais.
A prática é chamada de “Prompt Injection”, expressão em inglês que significa “injeção de comandos”. Ela ocorre quando alguém coloca orientações escondidas em petições para tentar influenciar o resultado produzido pela tecnologia.
Essas instruções podem aparecer em textos invisíveis, letras brancas ou trechos codificados. O objetivo é fazer a ferramenta gerar pareceres, despachos ou minutas favoráveis ao conteúdo apresentado.
Para impedir esse tipo de ataque, o sistema utilizado pelo Tribunal consegue identificar padrões suspeitos em petições, contestações e outros documentos processuais.
Ao encontrar uma possível tentativa de manipulação, a ferramenta ignora as instruções, separa o conteúdo suspeito e envia um alerta ao magistrado ou assessor responsável.
Decisão continua com o magistrado
Apesar do uso da tecnologia, a análise humana permanece obrigatória. A inteligência artificial serve apenas como apoio na preparação de minutas e sentenças.
Portanto, todo conteúdo produzido pelo sistema precisa ser conferido e validado pelo julgador, conforme as orientações do Conselho Nacional de Justiça.
Segundo a Diretoria de Tecnologia da Informação do TJPB, o objetivo é aumentar a rapidez do trabalho sem comprometer a imparcialidade, a segurança e a ética dos processos.
A medida foi adotada após casos de inserção de instruções escondidas em petições na Justiça paraibana. As ocorrências resultaram em investigações disciplinares e na suspensão cautelar de advogados pela OAB-PB.
Como funciona a segurança
- Identificação: localiza orientações suspeitas no arquivo;
- Bloqueio: impede que a ferramenta siga a instrução;
- Aviso: alerta o magistrado ou assessor;
- Conferência: exige a revisão humana do conteúdo.
- Portal Paraíba.com.br
