Alucinaciones de IA e información falsa en IA legal en grandes despachos de abogados
Nota: Este artículo es solo una de las más de 60 secciones de nuestro informe completo titulado: The 2024 Legal AI Retrospective - Key Lessons from the Past Year. Descargue el informe completo para consultar las citas.
Desafío: Alucinaciones de la IA e información falsa
Los modelos de IA pueden generar en ocasiones información falsa o sin sentido, conocida como "alucinaciones".
En 2024, el National Center for State Courts recomendó que los jueces y abogados deben formarse para evaluar de manera crítica el contenido generado por IA y no confiar ciegamente en sus resultados.[129]
En una encuesta realizada en 2024 por LexisNexis, las preocupaciones sobre las alucinaciones de la IA fueron citadas como el mayor obstáculo para la adopción de la IA generativa en los despachos de abogados (55%).[130]
