Alucinações de IA e Informações Falsas em Legal AI em Grandes Bancas de Advocacia

Nota: Este artigo é apenas uma das 60+ seções do nosso relatório completo intitulado: The 2024 Legal AI Retrospective - Key Lessons from the Past Year. Faça o download do relatório completo para verificar as citações.

Desafio: Alucinações de IA e Informações Falsas

Os modelos de IA podem, às vezes, gerar informações falsas ou sem sentido, conhecidas como "alucinações".

Em 2024, o National Center for State Courts recomendou que magistrados e advogados devem ser treinados para avaliar criticamente o conteúdo gerado por IA e não confiar cegamente em seus resultados.[129]

Em uma pesquisa realizada em 2024 pela LexisNexis, preocupações com alucinações de IA foram citadas como o maior obstáculo para a adoção de IA generativa em escritórios de advocacia (55%).[130]