Allucinazioni AI e problemi di affidabilità per i team legali interni

Nota: Questo articolo è solo una delle 60+ sezioni del nostro report completo intitolato: The 2024 Legal AI Retrospective - Key Lessons from the Past Year. Si prega di scaricare il report completo per verificare le citazioni.

Allucinazioni dell'AI e affidabilità

Il fenomeno delle allucinazioni dell'AI, in cui i sistemi di AI generano informazioni plausibili ma false, rappresenta una preoccupazione significativa:

I professionisti legali devono essere formati per valutare in modo critico i contenuti generati dall'AI e non fidarsi ciecamente dei suoi output.[103] I migliori strumenti di AI sono progettati per indicare quando non dispongono di una risposta affidabile a una query. Esistono segnalazioni aneddotiche e discussioni tra sviluppatori che suggeriscono che GPT-4o sia meno incline a dire "Non lo so" rispetto ad altri modelli. I team interni dovrebbero privilegiare soluzioni di AI trasparenti riguardo ai propri limiti e in grado di fornire indicazioni chiare sui livelli di affidabilità dei propri output.

"Le preoccupazioni riguardo alle allucinazioni dell'AI sono fondate, tuttavia chi rifiuta l'AI non riesce a riconoscere la portata e la velocità dello sviluppo: le sfide diminuiranno man mano che la tecnologia maturerà. La chiave sta nell'adottare un approccio lungimirante che consideri l'AI come un partner strategico nell'analisi, nell'identificazione dei rischi e nella strutturazione dei contratti, piuttosto che come un semplice strumento di efficienza."

Quentin Solt, Senior Solicitor, Regno Unito