Como evitar alucinações jurídicas ao usar inteligência artificial
Entenda o que são alucinações jurídicas da IA e veja práticas para evitar decisões inexistentes, fontes falsas e argumentos sem validação.
Alucinação é o termo usado para descrever quando uma inteligência artificial gera uma informação que parece correta, mas não corresponde à realidade. No contexto jurídico, isso ganha um peso adicional: uma alucinação pode significar uma jurisprudência que não existe, um dispositivo legal citado de forma errada, ou uma tese aplicada ao caso incorreto, tudo isso apresentado com a mesma confiança de uma resposta verdadeira.
Entender por que isso acontece, e ter um processo consistente para reduzir o risco, é o que separa um uso produtivo da IA na advocacia de um uso perigoso.
O que são alucinações jurídicas?
Alucinação jurídica é quando uma ferramenta de IA generativa, como ChatGPT, Claude ou Gemini, produz uma informação relacionada ao Direito que soa plausível, mas é falsa, imprecisa ou desatualizada. Isso pode envolver jurisprudência inventada, número de processo incorreto, dispositivo legal revogado apresentado como vigente, ou até doutrina atribuída ao autor errado.
O termo "alucinação" vem do campo mais amplo de inteligência artificial, e descreve exatamente esse padrão: a IA não erra por falta de capacidade de escrita, ela erra porque gera texto coerente sem necessariamente confirmar que o conteúdo específico é verdadeiro.
Um jeito simples de explicar o conceito para quem está começando: a IA não sabe distinguir, sozinha, entre "lembrar de algo real" e "gerar algo plausível que se parece com o real". Para o modelo, as duas situações produzem o mesmo tipo de resposta fluente e confiante. A diferença só aparece quando alguém confere a informação na fonte original.
Por que a IA alucina no Direito?
Modelos de linguagem generativa funcionam prevendo a sequência de palavras mais provável, com base em um volume enorme de dados de treinamento. Isso funciona bem para tarefas de redação, resumo e organização de ideias, mas se torna um problema quando a pergunta exige uma resposta factual exata, como "essa jurisprudência existe?" ou "esse dispositivo ainda está em vigor?".
Quando o modelo não tem uma referência exata e confiável sobre aquele ponto específico, ele ainda assim gera uma resposta, preenchendo os detalhes de um jeito estatisticamente coerente com o que costuma aparecer em textos jurídicos. O resultado tem a forma de uma informação real, mas pode não ter o conteúdo correspondente.
O Direito é especialmente vulnerável a esse problema porque depende de precisão factual: número de processo, data, nome de relator e redação exata de um dispositivo legal são detalhes que não admitem aproximação.
Vale comparar com outras áreas para entender a dimensão do problema. Em um texto de marketing, uma aproximação imprecisa raramente tem consequência prática grave. Em uma peça jurídica, a mesma aproximação pode significar a diferença entre uma tese sólida e um argumento que desmorona diante de qualquer questionamento da parte contrária. É esse contraste que torna o cuidado com alucinações jurídicas mais crítico do que em usos mais genéricos da IA.
Exemplos de alucinações jurídicas possíveis
Alguns padrões comuns de alucinação no contexto jurídico:
- Uma jurisprudência inteira, com tribunal, número de processo e ementa, que não corresponde a nenhuma decisão real.
- Um dispositivo legal citado com uma redação que já foi alterada ou revogada, sem sinalização da mudança.
- Uma súmula mencionada de forma incorreta, com número errado ou atribuída ao tribunal que não a editou.
- Uma tese jurídica real aplicada a um caso ou processo que não tem relação com ela.
- Uma citação doutrinária atribuída a um autor que nunca escreveu sobre aquele tema.
- Um prazo processual informado de forma genérica, sem considerar particularidades do caso concreto.
Como escrever prompts que reduzem o risco
A forma como você pergunta influencia a qualidade e a checabilidade da resposta. Um prompt vago tende a gerar uma resposta igualmente vaga, que a IA preenche com o que parece mais plausível para o contexto. Um prompt mais específico, que já delimita o tribunal, o período e o tipo de decisão buscada, tende a reduzir a margem para que o modelo "complete" lacunas com informação inventada. Algumas práticas ajudam:
- Peça explicitamente que a IA indique, sempre que possível, como a informação pode ser verificada, como número de processo ou fonte de consulta.
- Evite perguntas que só aceitam uma resposta "perfeita", como "me dê uma jurisprudência que confirme exatamente esta tese".
- Peça um panorama com múltiplas possibilidades e ressalvas, em vez de uma resposta única e definitiva.
- Quando possível, forneça o próprio documento de referência para a IA analisar, em vez de pedir que ela "lembre" de um caso.
- Peça que a IA sinalize expressamente quando não tiver certeza sobre um dado específico.
Por que prompt bom não elimina a necessidade de validação
Mesmo com prompts bem construídos, a IA continua sendo um modelo de linguagem generativa, e não uma base de dados jurídica consultada em tempo real. Um prompt melhor reduz a chance de erro e melhora a qualidade da resposta, mas não substitui a etapa de conferência da informação na fonte oficial.
Tratar um bom prompt como suficiente é um erro comum: ele melhora o ponto de partida, mas o processo de verificação continua sendo indispensável antes de qualquer citação virar argumento formal.
É uma armadilha comum, principalmente para quem já testou vários prompts diferentes e percebeu melhora real na qualidade das respostas. Essa melhora é verdadeira e vale a pena buscar, mas ela reduz a frequência de erros, não a elimina por completo. Um prompt bem construído é como um bom roteiro de entrevista: ajuda a obter respostas mais organizadas e relevantes, mas não substitui a checagem dos fatos apresentados por quem está do outro lado.
Checklist para evitar alucinações jurídicas
Antes de usar qualquer informação jurídica sugerida por IA:
- A jurisprudência citada foi localizada no site oficial do tribunal correspondente.
- O dispositivo legal mencionado foi conferido quanto à redação vigente.
- A doutrina citada foi verificada quanto à existência da obra e do autor.
- A tese aplicada foi confirmada como compatível com o caso concreto.
- Nenhuma informação foi usada apenas porque "parecia" plausível.
- Em caso de dúvida, a informação foi descartada ou substituída por uma fonte confirmada.
Para o caso específico de jurisprudência, o artigo Como verificar se uma jurisprudência citada pela IA realmente existe traz um passo a passo mais detalhado.
Esse checklist funciona melhor quando incorporado como parte natural do fluxo de trabalho, e não como uma etapa extra isolada no fim da pesquisa. Muitos escritórios optam por adaptar essa lista a uma versão interna, ajustada ao tipo de matéria mais frequente na banca, o que ajuda a tornar a verificação mais rápida e específica para o contexto real de cada equipe.
Como o Jusratio pode ajudar
O Jusratio foi criado para reduzir justamente esse tipo de risco. Ele conecta a IA que você já usa no dia a dia, seja ChatGPT, Claude ou Gemini, a fontes jurídicas verificáveis, ajudando a confirmar com mais agilidade se uma informação citada é real e está atualizada, antes de ela se tornar parte de uma peça, parecer ou orientação ao cliente.
A proposta não é eliminar o papel do advogado na validação final, mas tornar essa etapa mais rápida e menos suscetível a erro por pressa ou excesso de confiança na resposta gerada.
Isso é especialmente relevante em dias de trabalho intenso, quando o volume de pesquisas e consultas é alto e o tempo para checagem manual fica mais escasso. Uma camada de conexão automática com fontes verificáveis reduz o risco de que, justamente nos dias mais corridos, alguma informação passe despercebida sem a devida confirmação.
Conclusão
Alucinações jurídicas não são uma falha ocasional da IA, são uma consequência de como esses modelos funcionam. Isso não é motivo para abandonar a tecnologia, mas para usá-la com um processo claro de verificação, que trate toda resposta gerada como ponto de partida, nunca como fonte final.
O melhor resultado vem da combinação de bons prompts, hábito consistente de checagem e, quando possível, uma camada estruturada de validação que reduza o tempo dessa etapa sem reduzir o rigor dela. É esse conjunto, e não uma ferramenta isolada, que garante um uso seguro da inteligência artificial na rotina jurídica.
Para entender esse risco em ferramentas específicas, veja ChatGPT inventa jurisprudência? e Claude inventa jurisprudência?. Para uma visão mais ampla do problema, leia IA inventa jurisprudência? Entenda o risco para advogados. Explore outras dúvidas em dúvidas sobre IA para advogados.
Futuro do Direito
Imagem principal do artigo
