Remarque : Cet article n'est qu'une des 60+ sections de notre rapport complet intitulé : The 2024 Legal AI Retrospective - Key Lessons from the Past Year. Veuillez télécharger le rapport complet pour vérifier les citations.
Hallucinations de l'IA et fiabilité
Le phénomène des hallucinations de l'IA, où les systèmes d'IA génèrent des informations plausibles mais fausses, est une préoccupation majeure :
Les professionnels du droit doivent être formés à évaluer de manière critique le contenu généré par l'IA et à ne pas faire confiance aveuglément à ses résultats.[103] Les meilleurs outils d'IA sont conçus pour indiquer lorsqu'ils n'ont pas de réponse fiable à une requête. Des rapports anecdotiques et des discussions entre développeurs suggèrent que GPT-4o est moins susceptible de dire « Je ne sais pas » par rapport à d'autres modèles. Les équipes internes devraient privilégier des solutions d'IA transparentes quant à leurs limites et fournissant des indications claires sur les niveaux de confiance de leurs résultats.
« Les préoccupations concernant les hallucinations de l'IA sont fondées, mais ceux qui rejettent l'IA en bloc ne reconnaissent pas l'ampleur et la rapidité de son développement : ces défis diminueront à mesure que la technologie mûrira. La clé réside dans l'adoption d'une approche prospective qui considère l'IA comme un partenaire stratégique dans l'analyse, l'identification des risques et la structuration des contrats, plutôt que comme un simple outil d'efficacité. »
Quentin Solt, Senior Solicitor, Royaume-Uni
