Nota: Este artigo é apenas uma das 60+ seções do nosso relatório completo intitulado: The 2024 Legal AI Retrospective - Key Lessons from the Past Year. Faça o download do relatório completo para verificar as citações.
Mitigando os Impactos Negativos da XAI
Explicação: Prevenir a manipulação ou o uso indevido de explicações, especialmente em situações de alto risco, como processos judiciais.
Desafio: Potencial para uso enganoso de explicações
Direção de Pesquisa: Desenvolver critérios para avaliar a falsificabilidade das explicações
Desafio: Exploração da XAI por agentes maliciosos
Direção de Pesquisa: Desenvolver métodos para detectar e mitigar a manipulação de explicações
Desafio: Sistemas de IA futuros explorando vieses cognitivos humanos
Direção de Pesquisa: Pesquisar as limitações da XAI para garantir a segurança da IA
