TJBA encontra uso de comando oculto para tentar influenciar IA em solicitação de habeas corpus

O Tribunal de Justiça da Bahia (TJBA) localizou a utilização de comandos ocultos em documento encaminhado pela defesa de um acusado de homicídio, sequestro e diversos outros crimes, com o intuito de orientar ferramenta de Inteligência Artificial (IA) da corte a atender uma solicitação de Habeas Corpus Criminal. A técnica, conhecida como prompt injection, consiste em inserir instruções maliciosas para manipular sistemas de IA.

De acordo com a Diretoria de Modernização do TJBA, o documento tinha uma camada de texto que não era perceptível na visualização comum do PDF, com instruções para que o habeas corpus fosse aprovado caso a análise fosse feita por IA.

Com isso, a 2ª Turma da Primeira Câmara Criminal ordenou o envio do ofício à OAB-MS para a abertura de um procedimento disciplinar e enviou uma cópia ao MPBA para a investigação de eventuais ilícitos. O TJBA também afirmou que a utilização de IA na Corte atende aos requisitos de segurança, proteção de dados e governança, com supervisão dos magistrados, responsáveis pelo conteúdo das decisões.

O colegiado rejeitou o habeas corpus de D.A.B que teve a prisão preventiva determinada por suspeita de homicídio qualificado, sequestro e cárcere privado, adulteração de sinal identificador de veículo e organização criminosa armada.