O Tribunal de Justiça da Bahia (TJ-BA) identificou uma tentativa de interferir no uso de inteligência artificial durante a análise de um pedido de habeas corpus.
O caso chamou atenção porque a defesa colocou, dentro de um arquivo em PDF, um comando que não ficava visível na leitura comum do documento. A instrução estava inserida de forma a tentar direcionar a resposta produzida pela ferramenta de inteligência artificial utilizada no processo.
A técnica é conhecida como prompt injection e consiste na inclusão de comandos em textos ou arquivos com o objetivo de fazer um sistema de IA seguir determinadas orientações.
O habeas corpus pedia a revogação da prisão preventiva de um homem investigado por crimes como homicídio qualificado, sequestro e cárcere privado, adulteração de sinal identificador de veículo e organização criminosa armada.
Mesmo com a tentativa identificada, a 2ª Turma da Primeira Câmara Criminal do TJ-BA negou o pedido de liberdade.
Depois que o conteúdo oculto foi descoberto, o tribunal encaminhou o caso para a Ordem dos Advogados do Brasil em Mato Grosso do Sul (OAB-MS), onde a advogada responsável pela apresentação da peça está inscrita. O material também foi enviado ao Ministério Público da Bahia (MP-BA) para que sejam apurados possíveis ilícitos.
O episódio ocorre em meio ao aumento do uso de ferramentas de inteligência artificial no Judiciário e à criação de mecanismos para evitar que documentos processuais sejam utilizados para manipular sistemas automatizados.
Casos envolvendo comandos escondidos em documentos também já chegaram ao Superior Tribunal de Justiça (STJ), que analisou situação semelhante relacionada à tentativa de influenciar uma ferramenta de inteligência artificial por meio de uma peça processual.