Caso de racismo envolveu uso de software para confirmar ofensa. Os investigadores usaram as ferramentas de IA para analisar o conteúdo do vídeo.

Um relatório produzido pela Polícia Civil de São Paulo com o uso das ferramentas de inteligência artificial (IA) Gemini e Perplexity, em 2025, foi rejeitado como prova pelo Superior Tribunal de Justiça (STJ). A decisão foi o primeiro posicionamento do tribunal em casos como esse e estabelece precedente para a Justiça.

Pesou na decisão do ministro Reynaldo Soares da Fonseca a ausência de confirmação por peritos. O caso julgava a acusação de ofensa de cunho racial, que a acusação afirmou ter sido feita pelo vice-prefeito de São José do Rio Preto, Fábio Marcondes, a um segurança do Palmeiras, durante um jogo entre a equipe local, o Mirassol, e o time em fevereiro do ano passado. A acusação teve como principal prova um relatório baseado em análise feita por IA. 

Um vídeo com a discussão entre Marcondes e o segurança foi analisado pela equipe de perícia oficial, do Instituto de Criminalística, que não confirmou a presença da palavra no áudio. Segundo o laudo, baseado em análise técnica de fonética e acústica, não foram identificados traços articulatórios compatíveis com o termo apontado na acusação.

Os investigadores usaram as ferramentas de IA para analisar o conteúdo do vídeo. O relatório que essas ferramentas produziram permitiu concluir que a expressão ofensiva ocorreu. O documento foi a base para o oferecimento da denúncia pelo Ministério Público de São Paulo, em agosto de 2025.

Segundo o promotor José Silvio Codogno, o xingamento foi proferido após a vítima pedir para o filho do vice-prefeito se afastar do local por onde passariam os atletas do Palmeiras, que deixavam o Estádio Municipal José Maria de Campos Maia em direção ao ônibus que os aguardava no estacionamento. O MP informou que, segundo os autos, Marcondes não gostou de ver o filho ser repreendido pelo segurança, passando a discutir com o homem e a proferir contra ele uma série de insultos. Para Codogno, o réu “praticou injúria racial, atingindo a honra subjetiva da vítima”.

Ao analisar o caso, o relator na Quinta Turma, Reynaldo Soares da Fonseca, avaliou a questão da admissibilidade desse tipo de material como prova. Ele entendeu que o problema não estava na legalidade da obtenção do relatório ou em suposta ofensa à cadeia de custódia da prova, mas questionou se esse tipo de ferramenta é confiável para sustentar uma acusação penal, acolhendo a defesa de Marcondes.

“Um dos riscos inerentes à utilização da inteligência artificial generativa é a alucinação, que consiste na apresentação de informações imprecisas, irreais ou fabricadas, porém com aparência de fidedignidade”, comentou Fonseca em sua decisão.

O ministro também apontou limitações técnicas da IA generativa e ressaltou que esses sistemas operam com base em probabilidades e padrões estatísticos, podendo produzir informações incorretas com aparência de verdade.

Como consequência, a Quinta Turma determinou a exclusão do relatório dos autos e estabeleceu que o magistrado deve proferir nova decisão sobre a admissibilidade da acusação, sem levar em consideração o documento. Agência Brasil