# Potencial para Viés e Erros em Legal AI In-house

> Nota: Este artigo é apenas uma das mais de 60 seções do nosso relatório completo intitulado: The 2024 Legal AI Retrospective - Key Lessons from the Past Year.

**Locale:** pt-br  
**Author:** Alex Denne  
**Category:** Insights  
**Published:** 2024-12-18  
**Reading time:** 5 min

**Nota:** Este artigo é apenas uma das mais de 60 seções do nosso relatório completo intitulado: [The 2024 Legal AI Retrospective - Key Lessons from the Past Year](https://www.genieai.co/blog/legal-ai). Faça o download do relatório completo para verificar as citações.

**Desafio:** Potencial de Viés e Erros

Os sistemas de IA não são infalíveis e podem apresentar vieses ou cometer erros com implicações graves em contextos jurídicos:

• Ferramentas de pesquisa jurídica baseadas em IA podem apresentar viés nas recomendações de jurisprudência, potencialmente distorcendo a análise legal.[97]

• Já houve casos de IA interpretando erroneamente linguagem jurídica complexa na análise de contratos, o que pode levar a erros na execução contratual.[98]

• Algoritmos de reconhecimento facial utilizados em investigações jurídicas apresentaram taxas de erro mais elevadas para pessoas negras e pardas, levantando preocupações sobre imparcialidade e precisão.[99]

Para mitigar esses riscos, as equipes jurídicas internas devem implementar supervisão humana e medidas de controle de qualidade ao utilizar ferramentas de IA.

> _"Ao avaliar erros humanos e de máquinas, o foco precisa deixar de ser nas taxas de erro e passar a ser na natureza e gravidade dos erros. Enquanto alguns erros são inconsequentes, outros podem ser catastróficos. A colaboração eficaz entre humanos e máquinas exige aproveitar os pontos fortes comparativos de cada um para reduzir o impacto dos erros, e não apenas a frequência deles."_

**Colin Doyle**, Professor Associado de Direito, Loyola Law School, Los Angeles, EUA

---

This is the Markdown representation of [https://www.genieai.co/pt-br/blog/legal-ai-inhouse-bias-errors](https://www.genieai.co/pt-br/blog/legal-ai-inhouse-bias-errors), provided for AI agents and crawlers. The HTML page is canonical. See [/llms.txt](https://www.genieai.co/llms.txt) for the full content map.