Chatbot.it

L'IA inventa casi legali falsi e gli avvocati li citano: un problema crescente di fiducia

Fonte: scientificamerican.com · · AI *

Giudici negli Stati Uniti hanno sanzionato numerosi avvocati per aver citato casi inesistenti generati dall'IA nei documenti legali. Questo fenomeno evidenzia una crescente fiducia malriposta nella tecnologia, come dimostrato dalla Corte Suprema dell'Alabama che ha sanzionato un legale per aver reiterato l'uso di precedenti falsi dopo un avvertimento.

Il database di Damien Charlotin (HEC Paris) registra oltre 1.400 casi di errori dell'IA nei tribunali negli ultimi tre anni, con circa 350-400 decisioni trimestrali. Errori analoghi hanno colpito giornalisti, sviluppatori software e ricercatori accademici, incluso l'autore di un libro sull'IA che ha ammesso citazioni fabbricate.

Questa fiducia eccessiva ha portato a ricorsi respinti, multe e licenziamenti. Esperti come Alan Wagner e Sophie Nightingale avvertono che l'IA induce una fiducia ingannevole. Ricerche parlano di 'resa cognitiva' (cognitive surrender). Nonostante gli avvertimenti, studi della Boston University mostrano che la consapevolezza non è sufficiente; la pressione lavorativa e la fiducia intrinseca nell'IA spesso impediscono la verifica degli errori.

* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.

Fonte originale: Leggi l'articolo completo su scientificamerican.com

Titolo originale: AI keeps inventing fake cases. Lawyers keep citing them