Un modello di linguaggio produce il testo più probabile, non quello vero. Nella maggior parte dei casi le due cose coincidono abbastanza. Nelle citazioni no, e il motivo è strutturale: il formato di un estremo di sentenza è regolarissimo, quindi generarne uno plausibile è facilissimo, e nel testo generato non c’è niente che distingua quello vero da quello inventato.
Il caso italiano
Il Tribunale di Firenze, sezione imprese, con ordinanza del 14 marzo 2025 nel procedimento R.G. 11053/2024, si è trovato davanti a un atto difensivo che citava sentenze inesistenti. Il difensore ha dichiarato che i riferimenti erano il risultato di una ricerca svolta da una collaboratrice attraverso ChatGPT, e che il sistema aveva prodotto quei riferimenti anche a una seconda interrogazione.
La domanda su cui il collegio ha dovuto decidere era se quel fatto integrasse la responsabilità aggravata per lite temeraria dell’articolo 96 del codice di procedura civilesi apre in una scheda nuova. La risposta è stata no: un errore isolato e in buona fede non comporta automaticamente responsabilità processuale.
La parte che conta, però, è quella accanto. Il tribunale ha scritto che questi strumenti possono essere un valido supporto per la ricerca e l’elaborazione degli atti, ma che il loro uso non sostituisce il controllo e la verifica delle informazioni da parte del professionista. È l’affermazione che, in un caso meno fortunato, cambia il verso della decisione.
Perché la seconda domanda non serve a niente
Il dettaglio più istruttivo della vicenda è che la citazione è stata confermata a una seconda interrogazione. Chiedere a un modello «sei sicuro?» non è una verifica: la risposta viene dallo stesso processo che ha prodotto l’errore, e la coerenza fra le due risposte è quello che il sistema fa meglio.
L’unica verifica che vale è fuori: aprire la banca dati, cercare gli estremi, leggere la massima. Trenta secondi per citazione, e non esiste una scorciatoia che li tolga.
Non è un caso, è una serie
Il primo caso al mondo è del giugno 2023 ed è di New York: due avvocati e il loro studio sanzionati con cinquemila dollari dal giudice federale per aver depositato una memoria con sei citazioni generate da ChatGPT che non esistevano. In Italia, allora, la reazione prevalente fu che da noi non sarebbe successo.
Tre anni dopo i casi noti in Italia sono almeno cinque: oltre a Firenze si citano provvedimenti a Torino, Latina, Milano e Siracusa. In uno di essi il conto delle spese a carico della parte che aveva depositato l’atto è arrivato all’ordine dei trentamila euro, che è una cifra diversa da un rimprovero.
La serie è più istruttiva del singolo caso, perché il meccanismo si ripete quasi identico. Quasi sempre la ricerca l’aveva fatta qualcun altro. Quasi sempre chi ha firmato non sapeva che fosse stata fatta con un modello. E quasi sempre nessuno ha aperto le citazioni prima del deposito. Sono tre falle distinte e si chiudono in tre modi distinti (una regola scritta su quali strumenti si usano, l’obbligo interno di dichiarare quando una ricerca è stata fatta con un modello, e un controllo prima di depositare), e nessuna delle tre chiede di rinunciare allo strumento.
Il secondo tipo di allucinazione, quello che passa
La sentenza inventata è quella che finisce sui giornali perché è facile da smascherare: si cerca il numero e non c’è. Ce ne sono altre due forme, e sono peggiori proprio perché superano il controllo distratto.
La seconda è la citazione vera mal attribuita: il numero esiste, la sezione è quella, la data corrisponde, e il principio che il modello le fa affermare quella pronuncia non l’ha mai affermato. È successo anche a Firenze, dove i numeri rimandavano a pronunce della Cassazione il cui contenuto non aveva niente a che vedere con la questione dedotta. Chi verifica controllando che l’estremo esista la lascia passare, perché l’estremo esiste.
La terza è la fonte superata: una norma citata nella versione precedente a una riforma, un orientamento abbandonato presentato come attuale, un importo di soglia di tre anni fa. Non è nemmeno un errore del modello, in senso stretto: è il riflesso di quello che ha letto, e quello che ha letto ha una data.
Ne segue che la verifica ha tre passaggi e non uno. Esiste: si cerca il numero. Dice questo: si legge la massima. Vale ancora: si guarda se è stata superata. Il primo lo fa una banca dati; il secondo e il terzo li fa una persona, e sono i due che decidono se l’atto regge.
Dove le allucinazioni fanno più danno
Le citazioni giurisprudenziali sono il caso che finisce sui giornali, ma non è l’unico. Un modello inventa con la stessa disinvoltura un numero di articolo, una data di entrata in vigore, un importo di soglia, la versione di una norma prima di una modifica. Sono tutte cose che si controllano velocemente e che nessuno controlla, perché sono scritte con l’aria di un dettaglio.
La regola pratica che regge è semplice: tutto quello che ha un numero va verificato alla fonte, tutto quello che è un ragionamento va letto con la propria testa. Quello che si può accettare senza verificare è la forma.
Il legame con l’altra metà del problema
Le allucinazioni e la riservatezza sembrano due discorsi diversi e si incontrano in un punto: il modo in cui si formula la domanda. Chi incolla il fascicolo intero per ottenere una ricerca ottiene una risposta più generica, più incline a inventare e più pericolosa per i dati; chi formula la questione giuridica in tre righe ottiene una risposta più verificabile e non espone nessuno.
La versione lunga di questo ragionamento, con il modo di cercare precedenti senza consegnare il fascicolo, sta nell’articolo dedicato. Che cosa renda reale un controllo umano sta nell’altro.