STJ Abre Investigação para Apurar Uso de Inteligência Artificial em Tentativas de Fraude em Processos Judiciais

STJ Investiga Uso de IA para Fraudar Processos

O Superior Tribunal de Justiça (STJ) anunciou nesta quarta-feira (20) a abertura de uma investigação para apurar o uso indevido de prompts de inteligência artificial (IA) com o objetivo de burlar o sistema eletrônico de petições da corte. A determinação, vinda do presidente do STJ, Herman Benjamin, resultou na instauração de um inquérito policial e um procedimento administrativo interno.

Identificação de ‘Prompt Injection’

A iniciativa do tribunal surgiu após técnicos identificarem a entrada de petições que utilizavam a técnica conhecida como ‘prompt injection’. Esse método visa enganar modelos de IA, forçando-os a ignorar filtros de segurança e a aceitar documentos que não cumprem os requisitos legais básicos para admissibilidade em processos judiciais eletrônicos.

Mecanismo de Fraude e Defesas do STJ

Os comandos ocultos inseridos nas petições eletrônicas buscavam manipular o sistema de IA para que ele desconsiderasse critérios essenciais de seleção. No entanto, o STJ informou que seu sistema já possui mecanismos de defesa contra esse tipo de ataque, impedindo a execução das ordens maliciosas pela plataforma de recebimento de petições.

Advogados e Escritórios Sob Investigação

As investigações visam apurar as tentativas de fraude que teriam sido cometidas por advogados e escritórios de advocacia. A ação do STJ reforça o compromisso do Poder Judiciário em garantir a integridade dos processos eletrônicos diante das novas tecnologias.

Fonte: jovempan.com.br