Nota: Este artículo es solo una de las más de 60 secciones de nuestro informe completo titulado: The 2024 Legal AI Retrospective - Key Lessons from the Past Year. Descargue el informe completo para consultar las citas.
Mitigación de los impactos negativos de la XAI
Explicación: Prevenir la manipulación o el uso indebido de las explicaciones, especialmente en situaciones de alto riesgo como los procedimientos judiciales.
Desafío: Posibilidad de uso engañoso de las explicaciones
Línea de investigación: Desarrollar criterios para evaluar la falsabilidad de las explicaciones
Desafío: Explotación de la XAI por parte de actores maliciosos
Línea de investigación: Desarrollar métodos para detectar y mitigar la manipulación de explicaciones
Desafío: Futuros sistemas de IA que exploten los sesgos cognitivos humanos
Línea de investigación: Investigar las limitaciones de la XAI para garantizar la seguridad de la IA
Alex Denne, Head of Growth (Open Source Law) at GenieAI, is a legal tech leader and serial founder with over a decade of experience driving innovation and making legal services more accessible. Since joining in 2021, he has scaled the platform from 200 to over 120,000 users, combining deep contract law expertise with a data-driven, open-source approach. He is passionate about democratizing legal knowledge through AI, backed by strong academic credentials and experience leading major product and innovation initiatives.
