KI-Halluzinationen und Zuverlässigkeitsprobleme im eigenen Haus

Hinweis: Dieser Artikel ist nur einer von mehr als 60 Abschnitten aus unserem vollständigen Bericht mit dem Titel: The 2024 Legal AI Retrospective - Key Lessons from the Past Year. Bitte laden Sie den vollständigen Bericht herunter, um Quellenangaben zu überprüfen.

KI-Halluzinationen und Zuverlässigkeit

Das Phänomen der KI-Halluzinationen, bei dem KI-Systeme plausible, aber falsche Informationen erzeugen, ist ein ernstes Problem:

Juristen müssen darin geschult werden, KI-generierte Inhalte kritisch zu bewerten und deren Ergebnissen nicht blind zu vertrauen.[103] Die besten KI-Tools sind so konzipiert, dass sie anzeigen, wenn sie keine zuverlässige Antwort auf eine Anfrage haben. Es gibt anekdotische Berichte und Diskussionen unter Entwicklern, die darauf hindeuten, dass GPT-4o im Vergleich zu anderen Modellen seltener "Ich weiß es nicht" sagt. Interne Teams sollten KI-Lösungen bevorzugen, die transparent über ihre Grenzen sind und klare Hinweise auf das Konfidenzniveau ihrer Ergebnisse liefern.

"Bedenken hinsichtlich KI-Halluzinationen sind berechtigt, jedoch verkennt die Gruppe der KI-Ablehner das Ausmaß und die Geschwindigkeit der Entwicklung: Die Herausforderungen werden abnehmen, wenn die Technologie reift. Der Schlüssel liegt in einem vorausschauenden Ansatz, der KI als strategischen Partner bei der Analyse, Risikoidentifikation und Vertragsgestaltung betrachtet, und nicht nur als Effizienzwerkzeug."

Quentin Solt, Senior Solicitor, UK