Quando a IA erra no Direito: jurisprudência falsa, processos inexistentes e outros riscos

O uso de inteligência artificial generativa na advocacia cresce em ritmo acelerado. Ferramentas como ChatGPT, Claude e Gemini prometem agilizar a pesquisa jurídica, a redação de peças e a análise de documentos. No entanto, um problema recorrente e silencioso preocupa profissionais experientes: a criação de informações falsas, mas extremamente convincentes. Quando a IA erra no Direito, o resultado pode ser desastroso, com a citação de jurisprudência falsa, processos inexistentes e decisões que jamais foram proferidas.

Este fenômeno, conhecido tecnicamente como alucinação, não é um defeito isolado. Ele é inerente ao funcionamento dos grandes modelos de linguagem. A IA não "sabe" o que é verdade ou mentira; ela apenas calcula a sequência de palavras mais provável com base nos dados com que foi treinada. Para o advogado, confiar cegamente nessa resposta é um risco profissional que pode comprometer a credibilidade de uma peça processual e, em casos extremos, gerar responsabilidade disciplinar.

O que acontece quando a IA erra no Direito?

O erro mais comum e perigoso é a invenção de fontes jurídicas. O advogado solicita ao ChatGPT que encontre jurisprudência sobre um tema específico. O modelo retorna uma lista de acórdãos com números de processos, relatores e ementas que parecem perfeitamente plausíveis. O problema é que esses dados podem ser completamente fictícios. O número do processo pode não existir, o relator pode nunca ter atuado naquele tribunal, e a ementa pode ser uma mistura de linguagem jurídica genérica com fatos inventados.

Outro erro frequente é a citação de súmulas que nunca foram aprovadas ou a referência a decisões superadas como se estivessem em pleno vigor. A IA generativa não tem acesso em tempo real a bases de dados jurídicas atualizadas. Ela opera com um "instantâneo" do conhecimento disponível na internet até uma determinada data, o que a torna incapaz de distinguir entre um precedente revogado e um ainda válido.

Jurisprudência falsa: o risco mais imediato

A jurisprudência falsa gerada por IA é o pesadelo de qualquer advogado que utiliza a tecnologia sem a devida verificação. Imagine preparar uma petição de recurso especial e citar três acórdãos do STJ que, na verdade, nunca existiram. O tribunal, ao fazer a consulta, não encontrará os precedentes. A consequência imediata é a perda de credibilidade do profissional perante o juiz e a parte contrária. Em um cenário mais grave, o advogado pode ser acusado de má-fé processual por apresentar documentos falsos, ainda que sem intenção dolosa.

O problema se agrava porque a IA não apenas inventa os dados, mas os apresenta com uma estrutura formal impecável. A ementa parece autêntica, o nome do relator é de um ministro real, e a data do julgamento é coerente. A ilusão de veracidade é tão forte que muitos profissionais só descobrem o erro quando o tribunal devolve a petição para emenda ou quando um colega mais experiente aponta a inconsistência.

Processo inexistente: um erro que pode custar caro

A citação de um processo inexistente citado por IA é outro erro recorrente. O advogado pede à ferramenta que encontre um caso semelhante ao seu. A IA responde com um número de processo completo, incluindo o tribunal, a vara e o ano. O profissional insere esse dado em sua petição como argumento de autoridade. No entanto, ao consultar o sistema do tribunal, descobre-se que aquele número nunca foi atribuído a nenhum processo. O erro não é apenas constrangedor; ele pode levar à rejeição liminar do recurso ou à aplicação de multa por litigância de má-fé.

Esse tipo de alucinação é particularmente perigoso porque o número do processo parece legítimo. A IA frequentemente combina prefixos reais de tribunais com sequências numéricas plausíveis, criando um identificador que passa despercebido em uma leitura rápida. A única forma de evitar esse risco é a verificação manual em cada sistema de consulta processual.

Por que a IA comete esses erros?

Para entender por que a IA erra no Direito, é preciso compreender seu funcionamento básico. Modelos de linguagem como o GPT-4 ou o Claude não são bancos de dados. Eles são sistemas estatísticos que aprendem padrões a partir de bilhões de textos. Quando você pergunta sobre jurisprudência, o modelo não "pesquisa" em um arquivo jurídico. Ele gera uma resposta que estatisticamente se parece com as respostas que viu durante o treinamento.

Se o modelo foi treinado com milhares de ementas, ele sabe que uma ementa típica começa com "Apelação Cível", cita artigos de lei e termina com "à unanimidade". Ele consegue reproduzir essa estrutura perfeitamente. O que ele não consegue fazer é verificar se aquela combinação específica de palavras corresponde a um julgamento real. A IA não tem consciência, não tem acesso à verdade e não possui um mecanismo interno de checagem de fatos.

Outro fator que contribui para o erro é a falta de acesso a bases de dados jurídicas atualizadas. Mesmo os modelos mais recentes têm uma data de corte no treinamento. Decisões publicadas após essa data são desconhecidas para a IA. Além disso, a internet está repleta de informações contraditórias sobre o Direito, e o modelo pode aprender com fontes não confiáveis, como blogs de estudantes ou fóruns de discussão.

Relator errado e súmula inventada

Um erro sutil, mas igualmente perigoso, é a atribuição de um relator errado gerado por IA. O advogado pede um acórdão do STF sobre liberdade de expressão. A IA responde com um caso real, mas atribui a relatoria a um ministro que não participou do julgamento. Esse erro pode passar despercebido em uma primeira leitura, mas será facilmente detectado por um juiz ou por um advogado da parte contrária que conheça o precedente.

Já a súmula inventada por IA é um problema ainda mais grave. Súmulas são enunciados oficiais que resumem a jurisprudência consolidada de um tribunal. Inventar uma súmula é equivalente a falsificar um documento público. A IA pode gerar um enunciado que parece perfeitamente razoável, com numeração e data, mas que jamais foi aprovado pelo tribunal competente. A citação de uma súmula falsa em uma petição é um erro que dificilmente será perdoado pelo julgador.

Como o advogado pode se proteger?

A primeira e mais importante regra é: nunca confie cegamente na resposta de uma IA generativa. Toda informação jurídica fornecida por essas ferramentas deve ser tratada como um ponto de partida, não como uma fonte definitiva. O advogado precisa desenvolver o hábito da verificação sistemática.

Para cada jurisprudência citada, é obrigatório consultar o site oficial do tribunal. O número do processo deve ser inserido no sistema de consulta processual. A ementa deve ser comparada com o texto original do acórdão. O nome do relator deve ser confirmado. Esse processo de checagem, embora trabalhoso, é a única forma de garantir a integridade da pesquisa jurídica.

Outra prática recomendada é utilizar a IA generativa apenas para tarefas que não dependam de precisão factual. O ChatGPT é excelente para sugerir argumentos, organizar ideias, resumir textos longos ou criar esboços de petições. Para a pesquisa de jurisprudência, no entanto, ele deve ser usado com extrema cautela. O ideal é que o advogado primeiro identifique os precedentes relevantes em bases de dados confiáveis e depois utilize a IA para analisar ou comparar esses precedentes.

Checklist de validação antes de usar uma resposta de IA

Antes de incorporar qualquer informação fornecida por uma IA generativa em uma petição, parecer, contrato ou pesquisa, siga este checklist:

• Valide a fonte: Confirme se o tribunal, a vara e o órgão julgador citados realmente existem e são competentes para a matéria.
• Confira o inteiro teor: Acesse o site oficial do tribunal e localize o acórdão ou decisão na íntegra. Não se baseie apenas na ementa fornecida pela IA.
• Identifique o tribunal correto: Verifique se o precedente é do tribunal indicado. Erros de tribunal são comuns em respostas de IA.
• Confira a data: A data do julgamento ou publicação deve ser anterior à data de corte do modelo de IA. Se for posterior, a informação é quase certamente inventada.
• Verifique a atualidade do precedente: Confirme se a decisão não foi revogada, superada ou reformada por um tribunal superior. Use ferramentas que ofereçam alertas de superação.
• Avalie a compatibilidade com o caso concreto: A tese jurídica do precedente se aplica aos fatos do seu caso? A IA pode citar um caso relevante, mas com fundamentos distintos.

Ferramentas de apoio à validação

Diante desse cenário, surgem soluções que buscam conectar a potência da IA generativa com a confiabilidade das fontes jurídicas oficiais. Uma dessas soluções é a Jusratio, parceira do Futuro do Direito. A plataforma foi desenvolvida para permitir que advogados utilizem ferramentas como ChatGPT, Claude e Gemini com a segurança de que as respostas estão ancoradas em jurisprudência real e verificável.

A Jusratio oferece busca híbrida, que combina a inteligência dos modelos de linguagem com a precisão de um banco de dados jurídico atualizado. Cada decisão citada pela ferramenta vem acompanhada de um link direto para o inteiro teor no site do tribunal. Além disso, o sistema conta com um alerta de superação, que informa ao usuário quando um precedente citado foi revogado ou superado por uma decisão posterior. Isso reduz drasticamente o risco de citar uma decisão superada citada por IA.

Ferramentas como essa não eliminam a responsabilidade do advogado pela verificação final, mas oferecem uma camada adicional de segurança que torna o uso da IA generativa muito mais confiável na prática jurídica.

IA e responsabilidade profissional do advogado

A IA e responsabilidade profissional do advogado é um tema que ganha cada vez mais relevância nos tribunais de ética. O advogado é o único responsável pelo conteúdo das peças que assina. Não importa se o erro foi cometido por um estagiário, por um assistente ou por uma inteligência artificial. A assinatura do profissional no final da petição atesta que todo o conteúdo foi verificado e é verdadeiro.

Portanto, o uso de IA generativa não transfere a responsabilidade para a ferramenta. Pelo contrário, exige do advogado um nível ainda maior de diligência. É preciso conhecer as limitações da tecnologia, implementar processos de verificação e, acima de tudo, ter a humildade de reconhecer que a IA pode errar. A pergunta posso confiar em jurisprudência do ChatGPT? deve ser respondida com um sonoro "não, a menos que você verifique cada dado manualmente".

Perguntas frequentes sobre erros de IA no Direito

O que fazer se eu descobrir que citei uma jurisprudência falsa em uma petição?

O primeiro passo é interromper imediatamente o uso daquela informação. Se a petição já foi protocolada, o ideal é comunicar o erro ao juízo por meio de uma petição de esclarecimento, corrigindo a informação e explicando que se tratou de um erro de pesquisa. Dependendo do caso, pode ser necessário contratar um advogado especializado em direito disciplinar para avaliar os riscos.

Toda IA generativa comete erros jurídicos?

Sim. Todos os grandes modelos de linguagem disponíveis atualmente, incluindo ChatGPT, Claude, Gemini e Llama, estão sujeitos a alucinações. A frequência e o tipo de erro variam de modelo para modelo, mas nenhum é imune. A diferença está na forma como cada ferramenta lida com a incerteza e na qualidade dos dados de treinamento.

É seguro usar IA para redigir petições?

Sim, desde que com cautela. A IA é excelente para criar esboços, sugerir argumentos e organizar ideias. No entanto, toda informação factual, especialmente citações de jurisprudência, artigos de lei e dados processuais, deve ser verificada manualmente em fontes oficiais. A redação final e a responsabilidade pelo conteúdo são sempre do advogado.

Como diferenciar uma jurisprudência real de uma inventada pela IA?

A única forma segura é a verificação manual. Insira o número do processo no site do tribunal e confira a ementa, o relator e a data. Desconfie de respostas muito genéricas, com linguagem excessivamente formal ou que citem tribunais e varas de forma inconsistente. Se a IA não fornecer um link direto para o inteiro teor, considere a informação como não verificada.

Quais são as consequências éticas e disciplinares para o advogado que usa IA sem verificação?

O advogado pode responder por violação do dever de diligência, previsto no Estatuto da Advocacia. A citação de jurisprudência falsa ou processo inexistente pode ser interpretada como má-fé processual, sujeitando o profissional a multas, sanções disciplinares e, em casos extremos, à exclusão dos quadros da OAB. A responsabilidade é pessoal e intransferível.

Leitura complementar

Para se aprofundar nos riscos e nas boas práticas do uso de IA no Direito, confira os artigos abaixo:

• Jurisprudência falsa gerada por IA: como identificar e evitar
• Processo inexistente citado por IA: o risco invisível na advocacia
• Relator errado gerado por IA: por que isso acontece e como checar
• Súmula inventada por IA: como evitar esse erro em peças jurídicas
• Decisão superada citada por IA: como reduzir o risco na pesquisa jurídica

Observatório de IA

Observatório da IA no Direito A IA já entrou na advocacia. O desafio agora é confiança. Painel editorial com dados de Stanford, American Bar Association e Thomson Reuters sobre adoção, alucinações, precisão, produtividade e riscos no uso de inteligência artificial no trabalho jurídico. 30,2%dos advogados indicaram que seus

Futuro do Direito | IA para AdvogadosFuturo do Direito