O laudo pericial que continha uma instrução dirigida a ferramentas de inteligência artificial não foi usado como base para o voto no Tribunal de Justiça do Rio Grande do Norte. A decisão foi tomada depois que o gabinete identificou um comando oculto no documento e confirmou sua existência por meio de testes.
A convicção dos julgadores já havia sido formada com base em outra perícia incluída no processo, conforme relato apresentado durante o julgamento. A apuração deverá esclarecer como a instrução foi inserida, quem a colocou no arquivo e quais consequências poderão ser adotadas.
Como o comando foi encontrado
A identificação ocorreu na 3ª Câmara Cível do TJRN depois que um advogado alertou o gabinete da juíza Érika Tinôco. Visualmente, o conteúdo não aparecia porque havia sido escrito em branco sobre um fundo da mesma cor. Quando o arquivo era copiado para outro programa, porém, a instrução podia ser localizada.
O comando orientava ferramentas de inteligência artificial a concordar com as conclusões apresentadas pelo perito. A situação é classificada como prompt injection, técnica que insere instruções em um conteúdo para tentar influenciar a resposta de um sistema de IA.
Segundo o especialista em inteligência artificial Victor Ferreira, a ferramenta poderia ler o texto do arquivo e seguir a ordem mesmo que ela não fosse percebida durante a leitura humana. “A inteligência artificial ela consegue ler esse arquivo em texto e responde àquele comando”, explicou.
Regras para uso de IA no Judiciário
O episódio ocorre durante a expansão do uso de ferramentas de inteligência artificial como apoio ao trabalho do Poder Judiciário. O Conselho Nacional de Justiça reconheceu o risco de comandos escondidos em documentos processuais e aprovou, em junho deste ano, orientações para reduzir a possibilidade de ataques desse tipo.
As regras preveem supervisão humana, transparência e mecanismos de segurança no uso de IA pelo Judiciário. Para Ferreira, também é necessário capacitar os profissionais responsáveis pela utilização dessas ferramentas. “Algumas instituições têm acelerado a adoção dessas novas tecnologias, licenças de IA mas não têm investido no principal”, afirmou.
