A cadeia de custódia como ferramenta indispensável na apuração de prompt injection

Recentemente, foi veiculada notícia sobre a injeção de comandos ocultos (prompt injection) em petições (Tentativas de uso […], 2026), tendo por escopo, em tese, induzir a erro o sistema de inteligência artificial generativa do STJ, denominado STJ Logos (STJ lança […], 2025).

Por prompt injection entende-se a prática de inserir comandos ocultos com o objetivo de alterar o comportamento de sistemas baseados em inteligência artificial.

Segundo Dierle Nunes (2026), a modalidade mais conhecida de prompt malicioso

 

[…] continua sendo a hidden prompt injection ou “injeção fantasma”. Trata-se da inserção de comandos invisíveis ao leitor humano, normalmente em fonte branca, tamanho microscópico ou camadas ocultas do documento, mas plenamente legíveis para sistemas automatizados.

 

Visando prevenir e mitigar “riscos decorrentes da injeção de comandos ocultos em soluções de inteligência artificial desenvolvidas, contratadas ou utilizadas no âmbito do Poder Judiciário” (Brasil, 2026, p. 1), o Comitê de Inteligência Artificial do Conselho Nacional de Justiça (Brasil, 2025) publicou, em 27/5/2026, a Nota Técnica 1/2026, documento que

[…] tem por finalidade contribuir com a análise da matéria sob a perspectiva tecnológica, especialmente quanto à arquitetura segura de sistemas judiciais de IA generativa, aos riscos associados ao processamento de peças processuais, anexos, metadados, documentos externos, bases de conhecimento e textos extraídos por reconhecimento óptico de caracteres (OCR). (Brasil, 2026).

Referido normativo foi submetido pelo Conselheiro Rodrigo Badaró, Presidente do referido Comitê, à deliberação do Plenário do CNJ, oportunidade em que restou aprovado, em sessão realizada no dia 9/6/2026 (Inteligência artificial […], 2026).

O citado documento, dentre outras providências instituídas com o escopo de mitigar riscos de prompt injection em sistemas judiciais de inteligência artificial, encaminha “estudo prévio para a instituição do Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro” (Proseg-IA), entendido como marco inaugural da estruturação do tema no país, a fim de consolidar diagnósticos e linhas de ações programáticas para o enfrentamento “coordenado da segurança adversarial em inteligência artificial” (Brasil, 2026, p. 2-3).

Com esse desenho de eixos específicos, o CNJ viabiliza uma abordagem estratégica, progressiva e alinhada às diretrizes de governança de IA fixadas pela Resolução CNJ 615/2025.

No que diz respeito ao escopo deste artigo, a referida Nota recomenda a adoção de Protocolo de resposta a incidentes, nos moldes do preconizado pela Resolução CNJ 396/2021 (Brasil, 2021), documento que instituiu a Estratégia Nacional de Segurança da Informação e Cibernética do Poder Judiciário (ENSEC-PJ).

A citada Nota Técnica prevê, em eventos de manipulação adversarial, “medidas de contenção, comunicação interna e eventual encaminhamento para análise pelas áreas técnicas, de segurança da informação, de governança de IA ou por outras unidades competentes, conforme a natureza do evento” (Brasil, 2026, p. 10).

“Na ocorrência de incidente de segurança cibernética ou de evento que indique comprometimento de confidencialidade, integridade, disponibilidade, autenticidade ou funcionamento seguro de sistemas judiciais de IA”, a mencionada Nota Técnica do CNJ recomenda a observação dos “dispositivos de tratamento, resposta, comunicação e preservação de evidências previstos na Resolução CNJ 396/2021” (Brasil, 2026, p. 10), acautelando-se “o registro do documento de origem, hash dos trechos relevantes, versão do modelo, versão do prompt institucional, parâmetros de execução, logs de entrada e saída, usuário solicitante, contexto da consulta e filtros acionados” (Brasil, 2026, p. 9).

Verifica-se, portanto, que a citada Nota e a referida Resolução 396/2021, que instituiu Protocolo de Prevenção de Incidentes Cibernéticos no âmbito do Poder Judiciário (PPINC-PJ), visam, neste ponto, preservar a regular documentação da cadeia de custódia dos vestígios em situações de eventual manipulação adversarial, na mesma linha do preconizado, no âmbito do Direito Processual Penal, pelos arts. 158-A e seguintes do CPP.

Conforme advertimos em obra específica sobre o tema (Reis, 2025, p. 45-46), a cadeia de custódia não tem por escopo obter provas, mas, sim, preservar a autenticidade e a integridade do material probatório, a fim de que seja comprovada a mesmidade das evidências coletadas, aprimorando-se a qualidade epistêmica das provas.

No mesmo sentido, a Quinta Turma, no julgamento do AgRg no HC 615.321/PR (Brasil, 2020), definiu que

[…] o instituto da quebra da cadeia de custódia diz respeito à idoneidade do caminho que deve ser percorrido pela prova até sua análise pelo magistrado, sendo certo que qualquer interferência durante o trâmite processual pode resultar na sua imprestabilidade.

Sobre o ônus a preservação da cadeia de custódia, Gustavo Badaró (2020, p. 511) assevera que “[…] a documentação da cadeia de custódia é de responsabilidade das pessoas que têm contato com a fonte de prova custodiada”.

Nesse ponto, Geraldo Prado (2021, p. 169) afirma que:

A integridade e autenticidade do elemento probatório configuram pressuposto para o conhecimento do exame do corpo de delito e sua interpretação crítica pelas partes e pelo juiz.

A cadeia de custódia como método é a um tempo garantia e condição de procedibilidade do exame de corpo de delito à luz do conjunto de direitos que caracterizam o devido processo legal.

 

Analisando os princípios da perícia criminalística, Renan Saisse (2019, p. 127) afirma que a documentação da cadeia de custódia está intrinsecamente ligada “[…] à necessidade da documentação completa de toda a dinâmica pericial com o intuito de garantir a legalidade e confiabilidade das provas periciais bem como estabelecer um histórico completo destas”.

Nos locais de crimes de informática, os vestígios são imateriais, apresentados na forma de “0” e “1” (sistema binário) e poderão estar contidos em sítios da internet, computadores, aparelhos celulares, tablets e em serviços de armazenamento em nuvem, por exemplo.

A prova coletada em ambiente eletrônico pode estar contida em mais de um dispositivo ao mesmo tempo (princípio da simultaneidade) e detém nuances que as diferenciam das provas materiais, razão pela qual é recomendável que os profissionais incumbidos de lidar com essas evidências possuam conhecimento especializado na área (com permanente atualização), assegurando que a extração e o respectivo acautelamento dos indícios sejam feitos de acordo com métodos científicos reconhecidos, garantindo confiabilidade aos resultados obtidos.

Dissertando sobre o princípio da volatilidade dos dados nato-digitais, aplicável à computação forense, Renan Saisse (2019, p. 143) aponta que

Toda análise em computação forense compreende um ciclo de coleta e processamento de dados. […] O ato de coleta destes dados deve se valer da propensão à corrupção de acordo com o tipo de dado coletado, ou seja, segundo Farmer e Venema, a expectativa de “vida” dos dados varia entre nanossegundos e anos, sendo este ciclo primordial para a coleta de dados.

Importante ressaltar que a volatilidade dos dados imateriais foi destacada na Convenção sobre o Crime Cibernético (Brasil, 2023), norma que, em seu art. 19, item 2, prevê que as autoridades, no cumprimento de mandados de busca e apreensão, devem imprimir celeridade na busca e no armazenamento de dados digitais que interessem à investigação de suposta prática delitiva.

Feitas essas considerações, verifica-se que, identificadas possíveis fontes de prova de injeção de comandos ocultos, revela-se primordial a preservação das evidências, a fim de que a área técnica do respectivo Tribunal possa registrar o incidente, certificar a detecção de suposto conteúdo adversarial e realizar a respectiva análise pericial, viabilizando a imposição, em etapa subsequente, de eventuais sanções administrativas, cíveis e penais ao autor da prática.

Referências

BADARÓ, Gustavo Henrique. Processo Penal. 8. ed. São Paulo: Thomson Reuters Brasil, 2020.

BRASIL. Conselho Nacional de Justiça. Manifestação técnica CNIAJ 1/2026. Brasília: CNJ, 2026. Disponível em: https://www.cnj.jus.br/wp-content/uploads/2026/05/manifestacao-tecnica-cniaj-01-2026-injecao-de-comandos-v1-0-1.pdf. Acesso em 10 jun. 2026.

BRASIL. Conselho Nacional de Justiça. Portaria Nº 270 de 27/08/2025. Designa os integrantes do Comitê Nacional de Inteligência Artificial do Judiciário, instituído pela Resolução CNJ nº 615/2025. Brasília: CNJ, 2025. Disponível em: https://atos.cnj.jus.br/atos/detalhar/6274. Acesso em 11 jun. 2026.

BRASIL. Conselho Nacional de Justiça. Resolução Nº 396 de 07/06/2021. Institui a Estratégia Nacional de Segurança Cibernética do Poder Judiciário (ENSEC-PJ). Brasília: CNJ, 2021. Disponível em: https://atos.cnj.jus.br/atos/detalhar/3975. Acesso em 11 jun. 2026.

BRASIL. Decreto nº 11.491 de 2023. Promulga a Convenção sobre o Crime Cibernético, firmada pela República Federativa do Brasil, em Budapeste, em 23 de novembro de 2001. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2023-2026/2023/decreto/d11491.htm. Acesso em: 11 jun. 2026.

BRASIL. Superior Tribunal de Justiça. AgRg no HC nº 615.321/PR. Rel. Ministro Ribeiro Dantas, Quinta Turma, julgado em 03/11/2020, DJe 12/11/2020.

INTELIGÊNCIA ARTIFICIAL: CNJ aprova orientações para a manutenção da segurança jurídica. Notícias CNJ, 9 jun. 2026. Disponível em: https://www.cnj.jus.br/inteligencia-artificial-cnj-aprova-orientacoes-para-a-manutencao-da-seguranca-juridica/. Acesso em 10 jun. 2026.

NUNES, Dierle. Prompt Injection no Judiciário: modalidades, riscos e os limites da supervisão humana. Juristas, 19 maio 2026. Disponível em: https://juristas.com.br/artigos/prompt-injection-no-judiciario-modalidades-riscos-e-os-limites-da-supervisao-humana/. Acesso em: 7 jun. 2026.

PRADO, Geraldo. A cadeia de custódia da prova no processo penal. 2. ed. São Paulo: Marcial Pons, 2021.

REIS, Rodrigo Casimiro. Verdade e Prova Penal: A cadeia de custódia na era digital. São Paulo: Amanuense, 2025.

SAISSE, Renan. In: WENDT, Emerson (org.). Direito e TI: cibercrimes. Porto Alegre: Livraria do Advogado, 2019.

STJ LANÇA novo motor de inteligência artificial generativa para aumentar eficiência na produção de decisões. Portal do STJ, 12 fev. 2025. Disponível em: https://www.stj.jus.br/sites/portalp/Paginas/Comunicacao/Noticias/2025/11022025-STJ-lanca-novo-motor-de-inteligencia-artificial-generativa-para-aumentar-eficiencia-na-producao-de-decisoes.aspx. Acesso em 7 jun. 2026.

TENTATIVAS DE USO de prompt injection no STJ serão investigadas. Portal do STJ, 20 maio 2026. Disponível em: https://www.stj.jus.br/sites/portalp/Paginas/Comunicacao/Noticias/2026/20052026-Tentativas-de-uso-de-prompt-injection-no-STJ-serao-investigadas.aspx. Acesso em 7 jun. 2026.