La acusazione usò IA, la difesa usò IA: la giudice annullò il processo e impose una multa

Il boom dell’uso dell’IA nel settore legale

Uno dei casi più significativi in cui l’uso dell’intelligenza artificiale generativa ha portato a conseguenze concrete si è verificato in Mississippi, negli Stati Uniti. Il settore legale si è mosso velocemente nell’adozione dell’IA generativa ancor prima che l’arrivo improvviso di ChatGPT catalizzasse l’attenzione globale sull’argomento. Tuttavia, il problema principale riguarda l’uso non verificato dell’IA, che spesso conduce a errori gravi, noti come “alucinazioni”.

Gli avvocati spesso sfruttano l’AI per redigere testi o trovare citazioni e casi precedenti, ma alcuni di loro si sono trovati in grosse difficoltà quando le alucinazioni hanno compromesso la credibilità delle loro argomentazioni giudiziarie.

Ci sono gia diversi avvocati sanciti per aver incluso in documenti legali testi o citazioni di casi completamente inventati, una conseguenza diretta di un’errata gestione delle alucinazioni di modelli AI. Tuttavia, l’ultimo episodio ha portato il problema ad un livello completamente nuovo: entrambi i lati in tribunale avevano commesso lo stesso errore.

Come è accaduto

Il caso si è verificato in un tribunale di Mississippi e ha visto come protagonista un avvocato, Tom Withers, che intentava una causa contro la città di Aberdeen chiedendo la restituzione di honorari legali non pagati. All’inizio, il processo appariva senza complicazioni, ma ben presto la giudice Sharion Aycock ha iniziato a notare anomalie nei documenti legali presentati da entrambe le parti.

I legali della difesa e dell’accusa avevano entrambi citato casi legali non esistenti. Quando la giudice ha esaminato più a fondo, ha capito come il problema aveva origine nell’uso di strumenti basati sull’intelligenza artificiale, senza alcun controllo da parte dei legali.

Gli avvocati hanno riconosciuto di aver usato l’IA e di non aver verificato la correttezza delle informazioni ottenute. Questo tipo di approccio, sebbene svelto e conveniente, può compromettere l’integrità e la credibilità del sistema giudiziario.

Le decisioni della giudice

Di fronte a questa situazione, la giudice ha preso una decisione chiara: ha sospeso il caso piuttosto che procedere con un dibattimento potenzialmente corrotto. Inoltre, Sharion Aycock ha emesso una sospensione per due degli avvocati coinvolti, impedendogli di comparire in quel tribunale per due anni. Tutti gli altri hanno ricevuto una multa che oscilla tra 1.000 e 3.500 dollari.

Con un’eccezione, Tom Withers, l’avvocato che presentò la causa, non era presente in tribunale e non rappresentava sé stesso, quindi non è stato sottoposto a alcuna sanzione. La conseguenza chiave di questa decisione è che il caso non è stato portato a termine, ma la decisione della giudice ha posto comunque un limite importante all’uso improprio dell’IA.

Tendenza sempre più evidente

Questo caso non è un’eccezione bensì una tendenza in crescita in tutto il settore legale. Gli ultimi mesi hanno visto un numero crescente di avvocati coinvolti in casi simili in cui l’uso dell’IA ha portato a problemi e, a volte, sanzioni.

Rimane preoccupante che in un mondo così regolamentato, la fiducia nell’uso dell’Intelligenza Artificiale non sia ancora sostenuta da misure rigorose di controllo. A questo proposito, Rob Freund, un abogado esperto, ha commentato: “ci sono due clienti che in realtà stavano pagando per far interagire ChatGPT con se stesso”.

Che cosa succede in Europa?

Sebbene gli Stati Uniti siano al momento lo scenario principale per questi sviluppi, il problema colpisce anche il resto del mondo. In Spagna, ad esempio, si sono registrati diversi casi di abusi con l’AI. Il recentemente noto caso in Galizia ha visto un avvocato bersagliato per aver incluso in un documento 24 citazioni di sentenze giuridiche semplicemente inventate.

Non si tratta solo del settore legale iberico: nell’Arcipelago Canario c’è stato un altro episodio in cui un avvocato è stato multato 420 euro a causa di 48 citazioni giuridiche false. Tali errori sembrano essere sempre più frequenti, e spesso derivano da una cattiva gestione dell’Intelligenza Artificiale senza un’adeguata validazione da parte dei professionisti.

Gli alucinazioni e i modi per limitarli

I modelli linguistici ad alte prestazioni, come quelli utilizzati per creare ChatGPT, sono noti per produrre alucinazioni, vale a dire risposte non verificate o addirittura inventate. La causa principale sta nell’architettura dei modelli stessi, che cercano sempre di fornire una risposta, anche quando manca la chiara informazione o presenta fallacie.

Fortunatamente, ci sono strategie per ridurre al minimo il rischio di errori: la verifica manuale, l’uso di strumenti specifici per il settore legale e la collaborazione con esperti del settore in questione. Tuttavia, l’uso indiscriminato dell’IA senza alcuna supervisione non sembra essere sufficientemente regolamentato, e questo apre la strada a errori costosi e dannosi per la reputazione del sistema legale.

Non è noto in questo caso specifico che strumenti siano stati usati, ma si registrano sempre di più applicazioni AI pensate appositamente per i legali. Sebbene promettano maggiore precisione, la responsabilità dell’abuso o della cattiva applicazione rientra in capo degli utenti.