Alucinações de IA e Informações Falsas em Legal AI em Grandes Bancas de Advocacia
Nota: Este artigo é apenas uma das 60+ seções do nosso relatório completo intitulado: The 2024 Legal AI Retrospective - Key Lessons from the Past Year. Faça o download do relatório completo para verificar as citações.
Desafio: Alucinações de IA e Informações Falsas
Os modelos de IA podem, às vezes, gerar informações falsas ou sem sentido, conhecidas como "alucinações".
Em 2024, o National Center for State Courts recomendou que magistrados e advogados devem ser treinados para avaliar criticamente o conteúdo gerado por IA e não confiar cegamente em seus resultados.[129]
Em uma pesquisa realizada em 2024 pela LexisNexis, preocupações com alucinações de IA foram citadas como o maior obstáculo para a adoção de IA generativa em escritórios de advocacia (55%).[130]
Alex Denne, Head of Growth (Open Source Law) at GenieAI, is a legal tech leader and serial founder with over a decade of experience driving innovation and making legal services more accessible. Since joining in 2021, he has scaled the platform from 200 to over 120,000 users, combining deep contract law expertise with a data-driven, open-source approach. He is passionate about democratizing legal knowledge through AI, backed by strong academic credentials and experience leading major product and innovation initiatives.
