Allucinazioni dell'IA e informazioni false nell'AI legale nelle grandi law firm

Nota: Questo articolo è solo una delle 60+ sezioni del nostro report completo intitolato: The 2024 Legal AI Retrospective - Key Lessons from the Past Year. Scarica il report completo per consultare le citazioni.

Sfida: Allucinazioni dell'AI e informazioni false

I modelli di AI possono talvolta generare informazioni false o prive di senso, fenomeno noto come "allucinazioni".

Nel 2024, il National Center for State Courts ha raccomandato che i magistrati e gli avvocati ricevano una formazione per valutare criticamente i contenuti generati dall'AI e non si fidino ciecamente dei suoi output.[129]

In un sondaggio del 2024 condotto da LexisNexis, le preoccupazioni relative alle allucinazioni dell'AI sono state indicate come il principale ostacolo all'adozione dell'AI generativa negli studi legali (55%).[130]