Em importante julgamento, STJ impõe limites ao uso de inteligência artificial generativa em sede de inquérito policial

Em decisão em sede de julgamento do Habeas Corpus 1.059.475-SP, de relatoria do Ministro Reynaldo Soares da Fonseca, o Superior Tribunal de Justiça dá um importante passo na regulação do uso de novas tecnologias para a persecução penal.

Tratam os autos de Habeas Corpus, substitutivo de revisão criminal, que objetivava o reconhecimento da ilicitude das provas colhidas pelo Instituto de Criminalística em crime de injúria racial, posto que não foi possível verificar, de forma a determinar o raciocínio epistêmico utilizado, o uso da palavra “macaca” para se referir a vítima. Fato que, por si só, fundamenta condenação por prática do supramencionado tipo penal.

No caso dos autos, a Polícia Civil do Estado de São Paulo utilizou-se das inteligências artificiais generativas Gemini e Perplexity para analisar e transcrever áudios do paciente, que foram elementos de prova utilizados para a sua condenação. Em virtude da inadequação das ferramentas para a análise de documentos de áudio, verificou-se o risco de alucinação no processo de produção da prova, o que, segundo a Corte, é elemento suficiente para declarar a nulidade do relatório gerado por elas.

O writ impetrado não foi conhecido, posto que substitutivo de revisão criminal. Porém, sua ordem foi concedida de ofício.

Ainda no mérito da decisão que concedeu a ordem do ofício, o Ministro Relator afirmou que os modelos utilizados para a análise são LLMs (Large Language Models), suficientes para analisar textos, mas que não performam de forma adequada no que tange o processamento de ondas sonoras.

Nesse sentido, entendeu-se por ser impossível verificar o raciocínio epistêmico empregado pelos softwares de inteligência artificial, uma vez que impossibilita a demonstração do raciocínio utilizado pelo sistema para chegar às conclusões que foram anexadas ao processo. Observa-se ainda que houve a análise dos vídeos pelo instituto de criminalística da Polícia Civil do Estado de São Paulo, restando informado que não foram ouvidos insultos associados à prática de injúria racial por parte do paciente.

Sendo assim, com a análise fonética forense empregada no relatório técnico da perícia, não foi possível chegar às mesmas conclusões obtidas com o uso das inteligências artificiais. Contudo, o relatório produzido sem auxílio das ferramentas tecnológicas foi eficiente em demonstrar seu raciocínio epistêmico, fato que corroborou a tese de nulidade das provas contidas no documento elaborado com o uso de IA, descrevendo fielmente na íntegra o conteúdo da mídia.

Desse modo, observa-se a essencialidade dos modelos racionais da produção probatória, especialmente no que tange a prova técnica, demarcando ainda a necessidade do controle dessa produção por parte dos juízes e tribunais, a fim de garantir um processo penal voltado para a formalidade. Com esse julgado, o STJ firma novos critérios para a aceitação de provas produzidas por meios eletrônicos, requerendo a observância da possibilidade de verificação dos caminhos lógicos traçados para a obtenção deste elemento probatório.