Nota: Este artículo es solo una de las más de 60 secciones de nuestro informe completo titulado: The 2024 Legal AI Retrospective - Key Lessons from the Past Year. Descargue el informe completo para consultar las citas.
Mitigación de los impactos negativos de la XAI
Explicación: Prevenir la manipulación o el uso indebido de las explicaciones, especialmente en situaciones de alto riesgo como los procedimientos judiciales.
Desafío: Posibilidad de uso engañoso de las explicaciones
Línea de investigación: Desarrollar criterios para evaluar la falsabilidad de las explicaciones
Desafío: Explotación de la XAI por parte de actores maliciosos
Línea de investigación: Desarrollar métodos para detectar y mitigar la manipulación de explicaciones
Desafío: Futuros sistemas de IA que exploten los sesgos cognitivos humanos
Línea de investigación: Investigar las limitaciones de la XAI para garantizar la seguridad de la IA
