Alucinaciones de IA e información falsa en IA legal en grandes despachos de abogados
Nota: Este artículo es solo una de las más de 60 secciones de nuestro informe completo titulado: The 2024 Legal AI Retrospective - Key Lessons from the Past Year. Descargue el informe completo para consultar las citas.
Desafío: Alucinaciones de la IA e información falsa
Los modelos de IA pueden generar en ocasiones información falsa o sin sentido, conocida como "alucinaciones".
En 2024, el National Center for State Courts recomendó que los jueces y abogados deben formarse para evaluar de manera crítica el contenido generado por IA y no confiar ciegamente en sus resultados.[129]
En una encuesta realizada en 2024 por LexisNexis, las preocupaciones sobre las alucinaciones de la IA fueron citadas como el mayor obstáculo para la adopción de la IA generativa en los despachos de abogados (55%).[130]
Alex Denne, Head of Growth (Open Source Law) at GenieAI, is a legal tech leader and serial founder with over a decade of experience driving innovation and making legal services more accessible. Since joining in 2021, he has scaled the platform from 200 to over 120,000 users, combining deep contract law expertise with a data-driven, open-source approach. He is passionate about democratizing legal knowledge through AI, backed by strong academic credentials and experience leading major product and innovation initiatives.
