ChatGPT “allucina” sentenze inesistenti: il precedente italiano che fa riflettere sull’uso dell’IA nel diritto

Per la prima volta in Italia, il Tribunale di Firenze, sezione imprese, si è trovato a dover affrontare un fenomeno sempre più diffuso con l’avanzata dell’intelligenza artificiale generativa: l’allucinazione. In questo contesto, si è verificato un episodio emblematico che solleva importanti interrogativi sull’affidabilità e sull’uso responsabile di strumenti come ChatGPT in ambito legale.

Una memoria difensiva presentata in tribunale conteneva riferimenti a sentenze di precedenti giurisprudenziali che, dopo un’attenta verifica, si sono rivelate completamente inventate dall’IA. La giustificazione del legale coinvolto, che ha attribuito l’errore a una collaboratrice e dichiarato di non esserne a conoscenza, non ha scalfito la gravità dell’accaduto.

Aggiornamenti dalla rete: Ricerche online confermano la notizia, ampiamente ripresa dalla stampa legale e generalista italiana tra la fine del 2024 e l’inizio del 2025. Questo caso ha acceso un vivace dibattito sulla necessità di regolamentare l’uso dell’IA negli studi legali e nei tribunali. Negli Stati Uniti, come giustamente sottolineato nell’articolo originale, si sono già verificati casi simili che hanno portato a sanzioni disciplinari per gli avvocati che hanno depositato documenti contenenti citazioni fittizie generate dall’IA, evidenziando una maggiore severità nell’approccio a tali negligenze.

La decisione del Tribunale di Firenze e le sue implicazioni

Nonostante la gravità dell’errore, il Tribunale di Firenze ha scelto di non applicare l’articolo 96 del codice di procedura civile, relativo alla lite temeraria. La motivazione risiede nel fatto che, secondo i giudici, le sentenze inventate erano state utilizzate per rafforzare la tesi difensiva e non per agire con dolo o malafede.

Tuttavia, la condotta non è passata inosservata. Il Tribunale ha infatti condannato con fermezza la superficialità dell’operato, parlando chiaramente di “omessa verifica dell’esistenza delle sentenze restituite dall’IA“. Questa presa di posizione è un monito chiaro: affidarsi all’intelligenza artificiale non esime i professionisti dalla responsabilità di controllare e validare le informazioni fornite.

La necessità di formazione e deontologia aggiornata

Come evidenziato nell’articolo, questo caso sottolinea un punto cruciale: l’IA è uno strumento potente, ma non infallibile. Chi la utilizza, soprattutto in contesti delicati come quello legale, ha il dovere di comprenderne il funzionamento, i limiti e i potenziali errori, come le “allucinazioni” che portano alla creazione di informazioni false.

La vicenda di Firenze evidenzia l’urgenza di una formazione specifica e approfondita per i professionisti del diritto sull’uso dell’intelligenza artificiale, a tutti i livelli. È altrettanto necessaria una revisione della deontologia professionale che definisca chiaramente come e quando è appropriato affidarsi all’IA, quali controlli sono indispensabili e quali sono le responsabilità in caso di errori.

L’intelligenza artificiale non è più il futuro, ma una realtà consolidata negli studi legali e nei tribunali. Imparare a conviverci e a utilizzarla con consapevolezza e responsabilità è ormai imprescindibile.

Decalogo per un Uso Corretto dell’Intelligenza Artificiale (con focus sul contesto legale):

1. Comprendi i Limiti dell’IA: Sii consapevole che le IA generative possono “allucinare” e fornire informazioni errate o inventate. Non considerarle fonti infallibili di verità.
2. Verifica Sempre le Informazioni: Ogni output fornito dall’IA, specialmente se riguarda dati critici come precedenti legali, deve essere scrupolosamente verificato attraverso fonti affidabili e ufficiali.
3. Non Sostituire il Giudizio Umano: L’IA è uno strumento di supporto, non un sostituto del ragionamento critico, dell’analisi giuridica e della competenza professionale.
4. Tratta l’IA come un Assistente, Non un Oracolo: Interagisci con l’IA ponendo domande specifiche e valutando criticamente le risposte, proprio come faresti con un collaboratore umano.
5. Sii Trasparente sull’Uso dell’IA: Quando utilizzi contenuti generati dall’IA in documenti ufficiali o comunicazioni, valuta se sia opportuno indicarne la fonte e il grado di intervento umano nella revisione.
6. Proteggi i Dati Sensibili: Presta particolare attenzione alla riservatezza delle informazioni quando interagisci con piattaforme di IA, evitando di inserire dati sensibili o protetti che potrebbero essere memorizzati o utilizzati per l’addestramento del modello.
7. Aggiorna le Tue Competenze: Investi nella tua formazione e in quella del tuo team sull’uso etico e responsabile dell’IA, partecipando a corsi e rimanendo aggiornato sulle ultime evoluzioni tecnologiche e normative.
8. Sviluppa Protocolli Interni: Definisci linee guida chiare all’interno del tuo studio o organizzazione sull’uso dell’IA, stabilendo procedure di verifica e responsabilità.
9. Contribuisci al Dibattito Etico e Deontologico: Partecipa attivamente alla discussione sulla regolamentazione dell’IA nel tuo settore professionale, contribuendo a definire standard etici e deontologici aggiornati.
10. Ricorda la Responsabilità Professionale: In ultima analisi, la responsabilità per il contenuto di documenti legali e per le decisioni prese ricade sempre sul professionista, anche se ha utilizzato l’IA come strumento di supporto.