Nota: Este artigo é apenas uma das mais de 60 seções do nosso relatório completo intitulado: The 2024 Legal AI Retrospective - Key Lessons from the Past Year. Faça o download do relatório completo para verificar as citações.
Desafio: Potencial de Viés e Erros
Os sistemas de IA não são infalíveis e podem apresentar vieses ou cometer erros com implicações graves em contextos jurídicos:
• Ferramentas de pesquisa jurídica baseadas em IA podem apresentar viés nas recomendações de jurisprudência, potencialmente distorcendo a análise legal.[97]
• Já houve casos de IA interpretando erroneamente linguagem jurídica complexa na análise de contratos, o que pode levar a erros na execução contratual.[98]
• Algoritmos de reconhecimento facial utilizados em investigações jurídicas apresentaram taxas de erro mais elevadas para pessoas negras e pardas, levantando preocupações sobre imparcialidade e precisão.[99]
Para mitigar esses riscos, as equipes jurídicas internas devem implementar supervisão humana e medidas de controle de qualidade ao utilizar ferramentas de IA.
"Ao avaliar erros humanos e de máquinas, o foco precisa deixar de ser nas taxas de erro e passar a ser na natureza e gravidade dos erros. Enquanto alguns erros são inconsequentes, outros podem ser catastróficos. A colaboração eficaz entre humanos e máquinas exige aproveitar os pontos fortes comparativos de cada um para reduzir o impacto dos erros, e não apenas a frequência deles."
Colin Doyle, Professor Associado de Direito, Loyola Law School, Los Angeles, EUA
