Abastract [ENG]: It was not necessary to wait long before the linguistic models of generative Artificial Intelligences showed evident defects and weaknesses linked to their basic architectures. The stimulus to a hetero-integration of technology in the judicial context has pushed towards attempts to optimize and speed up cumbersome processes and subject to protocols that are not up to date, in the hope of remedying the pressures of the market and the civil community called to interface with authorities and professionals. The first experiments in this regard have already shown evident critical issues in their use, but recent developments, also found in specific portals dedicated to the detection and cataloging of cases already defined by the courts of the Western world, have shown a marked tendency to increase the use of the tool and, above all, a marked fallacy of A.I. technologies in resolving disputes and judicial disputes if not subject to careful control and an ethical use of the same.
Abastract [ITA]: Non era necessario attendere molto prima che i modelli linguistici delle Intelligenze artificiali generative mostrassero evidenti difetti e vulnus legati alle loro architetture di base. Lo stimolo ad una etero integrazione della tecnologia nel contesto giudiziario ha spinto verso tentativi di ottimizzazione e velocizzazione di processi, già farraginosi e soggetti a protocolli non al passo con i tempi, nella speranza di rimediare alle pressioni del mercato e della comunità civile, chiamata ad interfacciarsi con autorità e addetti ai lavori. Già le prime sperimentazioni in merito hanno mostrato evidenti criticità d’impiego, ma i recenti sviluppi, rinvenibili anche in appositi portali dedicati alla rilevazione e catalogazione di casi già definiti dalle corti del mondo occidentale, mostrato una spiccata tendenza all’incremento di impiego dello strumento e, soprattutto, una spiccata fallacia delle tecnologie di A.I. nel dirimere contenziosi e contestazioni giudiziarie se non soggette ad attento controllo e ad un uso etico delle stesse.
Sommario: 1. Introduzione – 2. Considerazioni preliminari – 3. La tendenza di fondo – 4. Un caso tutto nostrano– 5. L’analisi comparata dei casi – 6. Cosa aspettarsi dal futuro – 7. Conclusioni
Parole chiave: “AnallucinationsA”I; Comparazione statistica; Analisi dei casi di allucinazioni algoritmiche; Aspettative per il futuro.
Keywords:“AnallucinationsAI”; Statistical comparison; Analysis of algorithmic hallucination cases; Expectations for the future.
1. Introduzione
Nonostante le prime applicazioni dirette delle intelligenze artificiali generative abbiano mostrato evidenti segni di criticità, legati, non solo, alla particolare ed innata tendenza delle tecnologie in questione ad assecondare le richieste di interlocutori ed utenti vari (c.d. allucinazioni algoritmiche)[1], simili manifestazioni comportamentali non hanno provocato, evidentemente, reazioni adeguate di contenimento e rimedio alle innumerevoli ripercussioni in termini di affidabilità e genuinità delle elaborazioni linguistiche, grafiche e miste delle tecnologie basate sui moderni modelli linguistici LLM[2]. L’architettura informatica di base delle recenti Intelligenze artificiali è, a rigor di tecnica, costruita in modo tale da erogare efficientemente qualsiasi tipo di richiesta possibile, sulla base dei dai e dei contenuti implementati nel processo costante di apprendimento e addestramento cui sono sottoposte. Ciò, però, non comporta necessariamente un grado di efficacia adeguato, in parte per le possibili carenze dei contenuti cui è stato possibile accedere (c.d. dati di addestramento), in parte, soprattutto, per la complementare necessità di erogare un servizio non titubante ed in grado di erogare sempre risposte veloci ed articolate, anche, evidentemente, al costo di sacrificarne veridicità e rigore logico razionale (c.d. Sycophatic A.I.)[3]. Si tratta, in tal caso di una caratteristica specificamente costruita dai progettatori per rendere le intelligenze artificiali adulatrici e compiacenti (c.d. A.I. ruffiane) in modo da complimentarsi e dare sempre ragione agli utenti, fruitori ultimi del servizio. È di tutta evidenza quanto l’intento di fondo sia strettamente legato ad una ottimizzazione della diffusione di simili strumenti, stimolando un circolo vizioso di autogenerazione perpetua, assecondando esigenze del libero mercato e massimizzazione del profitto derivante dall’impiego diretto dell’A.I. di un numero sempre maggiore di persone[4]. Quanto un simile scenario rimane confinato nelle articolazioni fluide e orchestrali di vizi e virtù dell’economia di mercato, a prescindere da considerazioni di carattere etico e morale, nulla questio, purché si rimanga nei meandri della regolamentazione di settore. Il Problema più evidente semmai deriva dall’impiego massivo e sempre più insistente di simili modelli all’interno di contesti altamente critici e sensibili per i valori fondamentali della dignità umana, quali la giustizia[5]. Alla luce delle evidenze pratiche, non è ipotesi così peregrina, anzi, dalle indicazioni del sito specializzato AI allucination cases databases, i casi di allucinazioni ed errori ruffiani dell’A.I. sembrerebbero assai frequenti in diversi scenari e, soprattutto, in continuo aumento, frutto evidentemente di un sempre maggiore impiego della tecnologia degli operatori di settore e, contestualmente, di una scarsa considerazione dei potenziali errori derivanti dal cattivo impiego della stessa[6]. Quanto ciò sia frutto di una intenzionalità fraudolenta non è dato saperlo, ma, in virtù delle statistiche della banca dati citata, si tratta di casi accertati e definiti con le relative conseguenze giudiziarie.
2. Considerazioni preliminari
Una delle principali criticità afferenti alla gestione della macchina giudiziaria riguarda la capacità di implementazione decisionale sulla base di apparati e strumenti affidabili. Ciò non riguarda esclusivamente il ruolo servente di apparecchiature tecnologiche all’avanguardia o funzionali all’erogazione del servizio nella quotidiana gestione burocratica degli uffici e funzionari preposti alla realizzazione del raccordo tra i differenti attori nelle varie fasi processuali[7]. Si tratta, più appropriatamente, di quel complesso di architettura normativa regolamentare consolidata mediante integrazione legislativa e codicistica, nonché protocolli, circolari, decreti e linee guida specifiche[8]. Nello sconfinato corpus normativo delle giurisdizioni di civil law, nonostante il formale intento originario, la storia, invece, insegna quanto sia estremamente complesso riuscire a definire quadri certi di riferimento in un mare magnum di appigli e cavilli sempre in grado di articolare e realizzare vie di fuga o sotterfugi, difficilmente comprimibili mediante confinamento dei margini di errore o di applicazione di gerarchie formali. Nei sistemi di common law, invece, talvolta, l’architettura intrinseca di un apparato normativamente indefinito e rilegato alla costruzione casistica ed esperienziale delle corti, determina una vacua affidabilità e, soprattutto, una eccessiva delega all’emotività ed alla suscettibilità di umori prettamente umani[9]. L’idea di un potenziale intervento correttivo esterno di un apparato in grado di dirimere simili criticità nei rispettivi margini applicativi doveva necessariamente coinvolgere operatori e regolatori di ciascun fronte di destinazione e, infatti, non è passato molto tempo prima che corti, avvocati ed uffici introiettassero applicativi poco maturi e velocemente immessi nel mercato. Come era giusto aspettarsi, però, la fretta e la velocità, spinte dalla fascinazione di facili soluzioni, non poteva determinare il giusto rimedio a criticità secolari e frutto di scarsa maturazione dei sistemi e delle democrazie moderne ancora in corso d’opera. La tecnologia di A.I. con tutto il suo portato dirimente di potenziale computazionale ha rappresentato l’archetipo di riferimento per sistemi altrimenti afflitti da inefficienze e disfunzioni difficilmente rimediabili nel breve periodo se non al costo di innumerevoli sacrifici per la tutela e la garanzia del rispetto di valori insopprimibili e costruiti al costo di sacrifici immensi da parte dei padri fondatori[10]. Un conto, però, è ipotizzare supporti esterni di velocizzazione dei processi relazionali, altro, invece, è abbandonarsi alla etero integrazione di sistemi tecnologici estremamente complessi ed ancora in divenire nella loro architettura di calcolo. Aspetti e sfumature prettamente umane non sono esplicabili neanche dopo millenni di evoluzione e conseguenze pratiche di errori e rideterminazioni correttive, immaginare un sistema accessorio costruito ad arte ancora più capace sarebbe non solo fantascientifico ma anche intrinsecamente velleitario, se non folle. Eppure, dati alla mano, la presunzione o la leggerezza di affidare espressioni tipiche dell’intelletto organico a macchine simulatrici non è fenomeno raro, nonostante gli evidentissimi abbagli o allucinazioni espresse costantemente in circostanze concrete[11].
3. La tendenza di fondo
Come accennato, in linea teorica, sistemi normativi e giurisdizionali differenti dovrebbero mostrare differenti esiti derivanti dall’impiego delle recenti tecnologie di A.I., eppure, nonostante i necessari distinguo, di carattere squisitamente protocollare, sembrerebbe essere sempre presente un filo conduttore di fondo, rappresentato dalla banale e circostanziata manifestazione di fenomeni allucinatori delle macchine coinvolte durante i processi di etero integrazione degli LLM nell’ambito del contesto giudiziario[12]. In un numero sempre crescente di accesso ed impiego dei sistemi di intelligenza artificiale da parte, soprattutto, delle parti difensive o studi legali, ma anche di alcuni giudicanti, evidentemente, poco solerti al mantenimento dei parametri di garanzia e terzietà della valutazione, si evidenzia come sia immancabile una qualche forma di esagerazione o costruzione artificiosa di casi, precedenti, norme e regole di giudizio altrimenti inesistenti[13]. La principale difficoltà di analisi è rappresentata dalla capacità degli algoritmi di simulare ed esprimere simili espressioni lessicali in articolazioni semantiche credibili ed affabulanti, in grado di determinare nel fruitore la concreta percezione di una affidabilità e genuinità autorevole. Spesso e volentieri, la circostanza per cui le ricostruzioni artificiose sono espresse mediante linguaggio tecnico o specularmente dettagliato può, se non affrontato con il giusto approccio professionale, comportare la sensazione di una esperienza afferente alla sfera del reale e del tangibile, frutto di agganci oltremodo appaganti e potenzialmente dirompenti per l’esito finale delle controversie generando una sottospecie di Epifania agonistica del fruitore[14]. Forse, è probabilmente nella speranza di interlocutori ed operatori delle tecnologie di A.I. generative che risiede il principale vulnus di affidabilità del sistema nel suo complesso. L’idea di affidare ad entità ulteriori scelte e conseguenze delle proprie azioni potrebbe determinare non solo un senso di deresponsabilizzazione, ma, anche, la sensazione di quel necessario intervento fideistico tanto ammantato e professato nelle esigenze religiose di umana maniera. Si tratterebbe banalmente di una manifestazione da deus ex machina, come ampia letteratura fantascientifica insegna, sempre in grado di risolvere qualsiasi problema, anche a costo di sacrificare, però, la verità complessiva del mondo circostante[15].
4. Un caso tutto Nostrano
Dal database del sito è possibile rinvenire emblematicamente un recente caso avvenuto nelle polverose e burocratizzate stanze dei tribunali italiani. In realtà, la notizia del primo caso accertato di allucinazioni algoritmiche nei tribunali italiani non ha impiegato molto a diffondersi nelle pubbliche cronache, ma, un controllo più attento degli addetti ai lavori e operatori specialistici di settore non ha mancato di snocciolarne dettagli e ripercussioni concrete. Certo, essere entrati nelle statistiche ufficiale di articolati database internazionali non è cosa da poco, non meritevole di apprezzamento, ma sicuramente degna di essere approfondita, se non altro, per evitare scenari simili in futuro, anche se, viste le tendenze recente, non è affatto da escludere[16]. Nel caso specifico si tratta di una decisione del Tribunale ordinario di Firenze, sezione imprese, ordinanza del 14.3.2025, in cui la sezione imprese è intervenuta in merito ad una vicenda afferente al procedimento di reclamo di una delle parti relativo alla vendita di merci contraffatte. Dall’analisi del caso emerge come l’A.I. abbia del tutto inventato e ricostruito precedenti della Corte di Cassazione riguardanti l’elemento soggettivo e, infatti, la stessa, secondo il collegio, “avrebbe inventato dei numeri asseritamente riferibili a sentenze della Corte di Cassazione inerenti all’aspetto soggettivo dell’acquisto di merce contraffatta il cui contenuto, invece, non ha nulla a che vedere con tale argomento”. La particolarità del caso risiede nella circostanza per cui I difensori della società, accusata di aver contraffatto la merce, hanno concretamente ammesso di aver fatto uso della tecnologia nella costruzione delle loro memorie difensive, ma, allo stesso tempo, hanno sostenuto che il risultato dell’impiego di ChatGPT, ai fini del procedimento derivava, dalla scelta di una collaboratrice del cui impiego il patrocinatore in mandato “non era a conoscenza”[17]. Il comportamento tenuto dalla difesa dimostra la volontà di ammissione dell’uso di ChatGPT e le conseguenti distorsioni chiedendo, allo stesso tempo, lo stralcio di riferimenti generati dall’A.I., ritenendo sufficiente la costruzione di un a linea difensiva costruita dal principio della buona fede, derivante dal considerarsi non a conoscenza della contraffazione e di non voler suggestionare il collegio con le ricostruzioni artefatte della tecnologia e dal suo uso improprio[18]. Secondo il tribunale i casi in cui si verificherebbero risultati errati nell’uso dell’A.I. possono essere qualificati con il fenomeno delle cc.dd. allucinazioni di intelligenza artificiale”, i quali si concretizzano materialmente quando “l’A.I. inventi risultati inesistenti ma che, anche a seguito di una seconda interrogazione, vengono confermati come veritieri”. Per il tribunale “il disvalore relativo all’omessa verifica dell’effettiva esistenza delle sentenze risultanti dall’interrogazione dell’A.I”, la relativa “indicazione di estremi di legittimità” deriva da “ulteriore conferma della linea difensiva già esposta” e in tal senso “diretta a rafforzare un apparato difensivo già noto e non invece finalizzata a resistere in giudizio in malafede”[19]. Quanto alla configurazione di una lite temeraria Il tribunale, nelle sue conclusioni afferma come l’applicazione del comma 1 dell’art. 96 c.p.c. “richiede pur sempre la prova, incombente sulla parte istante, sia dell’an e sia del quantum debeatur, o comunque postula che, pur essendo la liquidazione effettuabile di ufficio, tali elementi siano in concreto desumibili dagli atti di causa” (Cass., n. 9080/2013) e, “pur recando in sé una necessaria indeterminatezza quanto agli effetti lesivi immediatamente discendenti dall’improvvida iniziativa giudiziale, impone, comunque, una, sia pur generica, allegazione della direzione dei supposti danni” (Cass., n. 7620/2013). Infine, la corte conclude affermando come “la domanda non può essere accolta, in quanto il reclamante non ha spiegato alcuna allegazione, neppur generica, dei danni subìti a causa dell’attività difensiva espletata della controparte” e come non sia applicabile neanche il co. 3 dell’art. 96 c.p.c., in quanto “deve intendersi come species dei primi due commi, per cui non si può prescindere dalla condotta posta in essere con mala fede o colpa grave né dall’abusività della condotta processuale”, infatti, la ratio dell’istituto è da rinvenire nel disincentivo agli abusi del processo o di meri comportamenti strumentali a compromettere il servizio della giustizia.
5. L’ analisi comparata dei casi
L’iniziativa di raggruppare metadati afferenti all’applicazione specifica dell’A.I. nel comparto della giustizia e la possibilità di accesso aperto consentita dal database del portale “An Allucination AI” rappresenta uno strumento utilissimo per chi vuole acquisire dimestichezza con l’applicazione concreta della tecnologia in questione in un settore delicato e ad alto impatto sugli aspetti più significativi della dignità umana[20]. Il portale, sviluppato e curato dal ricercatore parigino Damien Charlotin, esperto in data science, law and AI, rende disponibile una elencazione completa dei casi fino ad ora accertati di allucinazioni algoritmiche nell’impiego di A.I. generativa in quasi ogni contesto geografico industrializzato ed accessibile al recupero della documentazione inerente i singoli casi processuali. La stessa pagina iniziale del portale, ovviamente tradotta, riporta che “questo database tiene traccia delle decisioni nei casi in cui l’intelligenza artificiale generativa produce contenuti allucinati – in genere citazioni false, ma anche altri tipi di argomenti. Non traccia l’universo (necessariamente più ampio) di tutte le false citazioni o l’uso dell’A.I. nei documenti giudiziari[21]. È [22]specificato anche come il portale sia soggetto ad un costante aggiornamento e continua espansione dei relativi contenuti e come allo stato risultino circa 158 casi accertati di allucinazioni giudiziarie nell’impiego delle intelligenze artificiali. Per chi volesse approfondire elementi o dettagli specifici è possibile rinvenire i documenti ufficiali delle corti con relative decisioni e motivazioni[23]. L’elenco è costruito per una facile accessibilità e fruibilità dei dati con un’interfaccia grafica intuitiva, nonostante le differenze linguistiche ed un complessivo ordine di archiviazione, per date progressive, via via più ravvicinate, con singoli occhielli in merito a stato d’origine, contenuto, motivazione, decisione, tipo di strumento impiegato e pena definita. Di particolare interesse è il fatto di poter ricostruire passo dopo passo ogni singola fase della procedura di definizione del caso, in un percorso logico di determinazione delle differenti dinamiche afferenti alla determinazione e confinamento delle manifestazioni allucinatorie nel procedimento interessato. Mediante strumenti di anali dei dati e software specifici di calcolo probabilistico, anche molto sofisticati sarebbe possibile determinare percentuali casistiche e dettagliati cluster di riferimento per singoli scenari o apparati impiegati. Più nel dettaglio, sembrerebbe esserci una predominanza di decisioni orientate più che altro alla rilevazione delle manifestazioni di allucinazioni al fine di dirimerne criticità e potenziale distorsivo piuttosto che un alto gradiente sanzionatorio[24]. Una significativa evidenza statistica mostrerebbe definizioni sanzionatorie a carattere interdittivo e ammonitorio per le parti coinvolte o tutt’al più espresso in termini di ammende monetarie. Il fine, dai vari scenari sembrerebbe essere, in questa prima fase di rilevazione, non tanto la riprovazione o la censura punitiva, quanto l’emersione di criticità e vulnus d’impiego in quello che si ritiene essere uno strumento in divenire, essenzialmente nuovo per chiunque approcci inizialmente alle sue potenzialità, ancora da scoprire e da definire con chiarezza. Insomma, si tratta un atteggiamento generalmente acquisitivo e sperimentale, volto più che altro a definire scenari e contorni d’impiego degli algoritmi nel contesto giudiziario intervenendo con decisione sulle distorsioni di sistema evidenti, senza eccessive ripercussioni per le part coinvolte, in un ragionevole dubbio circa i confini tra dolo e colpa derivante una generalizzata e comprensibile ignoranza diffusa[25]. La più evidente delle circostanze sembra essere, però, un notevole incremento dei casi negli ultimissimi tempi, ma, allo stato, non vi è modo di sapere se si tratti di semplice implementazione acquisitiva del dato casistico o, maggiore impiego dello strumento degli operatori coinvolti e conseguenti flussi esponenziali di errori, oppure una combinazione dei vari fattori. Il sistema più coinvolto, forse per ragioni non troppo dissimulate, in questa prima fase è rappresentato dagli ordinamenti di common low, nello specifico mondo anglosassone e continente euroamericano, con qualche accenno nei sistemi latini ed africani[26]. In generale, si può evincere una progressiva implementazione dello strumento da parte degli addetti ai lavori, come era facile immaginare e come molti esperti avevano indicato. Per il momento le conseguenze d’impiego delle tecnologie di A.I. nel comparto della giustizia non sembrerebbero eccessivamente allarmanti e, in ogni caso, confinate entro margini di applicazione in contesti di tipo civilistico ed economico, dinanzi a cui esiste un notevole apparato normativo in grado di confinarne i possibili effetti, a prescindere dal sistema di riferimento. L’eterointegrazione mercantilistica del contesto occidentale ha generato un notevole apparato difensivo, in grado, almeno in questi primi accenni d’impiego dell’A.I., di dirimere controversie e conseguenze pratiche[27]. Il problema, semmai, anche come segnalato da studiosi ed addetti ai lavori potrebbe senza ombra di dubbio essere più pernicioso e dirompente qualora gli algoritmi dovessero invadere e affascinare comparti più sensibili quali la giustizia penale e tutto ciò che riguarda la tutela di diritti fondamentali e tutela delle dignità umana[28]. In quel caso, conseguenze ed effetti pratici sarebbero molto più impattanti e non solo il grado d’attenzione di operatori e giudicanti dovrebbe essere maggiore, ma conseguentemente, anche il livello sanzionatorio, nel caso di un uso improprio degli algoritmi dovrebbe determinare un effetto sanzionatorio decisamente più aggressivo, certo non elusivo o accondiscendente per le parti, le quali, nell’ottica un lassismo di maniera, potrebbero a loro volta sentirsi legittimati nell’implementare, senza riserve, apparati dal notevolissimo effetto distorsivo per gli equilibri della civiltà democratica e l’affidabilità della legittimità decisionale, accrescendo senso di smarrimento e carenza di approdi certi per le istanze di definizione delle controversie[29].
6. Cosa aspettarsi dal futuro
Allo stato dell’arte, l’analisi approfondita delle vicende di implementazione delle tecnologie di intelligenza artificiale nel comparto giustizia mostra chiaramente un incremento esponenziale d’impiego, soprattutto, quale apparato di supporto ed efficientamento di alcuni processi altrimenti farraginosi e già soggetti ad innumerevoli criticità derivanti da una sclerotizzazione sistemica, derivante da decenni di inefficiente e consolidamenti di pratiche routinarie al ribasso[30]. Il mercato, dal suo canto non si mostra indifferente alle esigenze di operatori e addetti ai lavori e, in una rincorsa frenetica e poco avvezza alla qualità complessiva del prodotto, offre ogni giorno sempre soluzioni nuove di miglioramento delle tecniche di analisi e processamento del dato. Innumerevoli applicativi e tools basati su intelligenze artificiali generative stanno emergendo con il loro dirompente potenziale intrusivo e organi specialistici e imprese di settore offrono strumenti gratuiti o a pagamento in grado di erogare servizi accessori e algoritmi di valutazione e sistematizzazione di casi precedenti giudiziari, il tutto colorito da arzigogolai ed estrosi nomignoli evocanti una supposta intelligenza superiore in grado di offrire servigi e risultati senza precedenti per chiunque voglia avvalersene[31]. Non mancano neanche sistemi di tipo predittivo o proiettivo, senza considerare ipotesi fantasiose di sostituzione totale o surroga algoritmica con il giudicante[32]. È vero che la maggior parte degli addetti ai lavori mostra una certa resistenza e scetticismo d’impiego, titubanti dinanzi a miracolistiche macchine potenzialmente in grado di sostituire il loro già difficile e precario lavoro in brevissimo tempo. Tuttavia, si tratta forse più di una resistenza di categoria, ammantata da autoreferenzialità compiacente e tradizionalista, piuttosto di una reale consapevolezza su rischi e pericoli concreti derivanti dalle introduzioni di tecnologie d’avanguardia. In parte, ciò è evidentemente dovuto ad una legittima ignoranza tecnica per specializzazione di funzioni compartimentali, ma per la stragrande maggioranza degli interessati è probabilmente una malcelata forma di accidia pigra ed inerte, derivante dalla scarsa attitudine professionale all’approfondimento e alla comprensione di fenomeni altrimenti inspiegabili, senza un giusto approccio critico e una curiosità esplorativa[33]. Nessuna innovazione sorge senza innumerevoli criticità iniziali e notevoli complessità implementative, semmai, in tutta evidenza logica, si tratta solo di saper razionalmente gestire fenomeni in divenire e difficilmente confinabili nei rimedi del qualunquismo di rimedio o, peggio ancora, mosso da interessi conservativi di parte. Trovare il giusto equilibrio tra una implementazione delle tecnologie di intelligenza artificiale nel settore della giustizia ed il rispetto dei valori fondamentali del giusto processo e della dignità della persona non sarà cosa facile, ma negare l’esistenza di un fenomeno potrebbe determinare distorsioni al ribasso difficilmente contenibili senza un adeguato controllo[34]. D’ altro canto, l’idea di delegittimare il ruolo di garanzia della supervisione umana in un esplosivo involucro di delega totale alla macchina sarebbe quantomeno scenario inimmaginabile di utopica giustizia, se non proprio infermale rappresentazione dell’impossibile[35]. Il regolatore, nostrano, europeo ed internazionale, mostra attenzione solerte alle vicende che interessano la creazione ed il conseguente uso di A.I. e gli addetti ai lavori tutti, a prescindere dalle pressioni economicistiche del libero mercato, mostrano un certo grado di consapevolezza cognitiva[36]. Che ciò sia sufficiente a dirimere perplessità e distorsioni nel futuro non è dato saperlo, è bene, però, essere coscienti del problema e, nel nostro piccolo cercare ogni giorno di evidenziarne i relativi rischi, anche a costo di sembrare petulanti e ripetitivi, pena il rimorso esistenziale[37].
7. Conclusioni
Analizzare fenomeni e scenari complessi come l’impatto dell’A.I. nelle reti sociali non è aspetto da poco e richiede particolare attenzione sia al tipo di scenario ipotizzato, sia alla qualità della tecnica impiegata. Il metodo delle scienze statistiche o matematiche, con le giuste riserve di inesperienza e non specializzazione delle funzioni, richiede ulteriore accortezza e soprattutto la capacità critica di saper valutare il risultato finale. L’ idea di utilizzare casi e scenari d’impiego concreto al fine di processare risultati affidabili ed accurati non è nuova, ma alcune tipologie di banche dati e catalogazione dei casi concreti può determinare un salto di qualità non indifferente se ben introiettato e processato, sempre nella considerazione generale di un fine esclusivamente cognitivo e mai definitivo. Portali dedica e frutto del lavoro di solerti ricercatori aiutano tantissimo gli addetti ai lavori nei vari settori interessati dall’implementazione delle tecnologie di intelligenza artificiale ed il settore della giustizia, con le sue peculiarità di resistenza professionale e velleità autoreferenziali richiede un ulteriore balzo qualitativo, al fine di dirimere titubanze e scetticismi invalicabili[38]. Strumenti dedicati di catalogazione e definizione dei casi concreti sono necessari e l’esempio posto nei contenuti dimostra quanto un lavorio sapiente e metodico possa racchiudere utilissimi mezzi di discernimento delle varie criticità afferenti all’impiego di A.I. nella giustizia[39]. Oltre ai tentativi di pochi volenterosi è necessario, però, un approccio di sistema efficiente e rivolto a supportare simili iniziative, creando presupposti e terreni di dialogo e confronto, senza riserve ottuse e poco utili ad una costruzione positiva della discussione in merito all’impiego di tali innovative tecnologie. Si spera sempre che il pregiudizio e lo scetticismo non rallentino il progresso e l’evoluzione della tecnica, nel nostro caso sarebbe auspicabile, quantomeno, la volontà di continuare a ragionare e non smettere di volere il meglio, non, egoisticamente, per sé stessi, ma per chiunque debba subire le conseguenze di decisioni e giudizi altrimenti insopportabili[40].
Bibliografia
A. Bradford, Digital Empires: The Global Battle to Regulate Technology, Oxford, 2023, passim;
A. Graziosi, Giurisdizione civile e nuove tecnologie. II. Intelligenza artificiale, giustizia predittiva e prevedibilità della decisione giudiziaria, in Giusto proc. civ., 2024, II, pp. 337 ss,
A. Holzinger, P. Kieseberg, F. Cabitza, A. Campagner, A. M. Tjoa, E. Weippl, Controllable AI-An Alternative to Trustworthiness in Complex AI Systems?, in International Cross-Domain Conference for Machine Learning and Knowledge Extraction, Cham, 2023, pp. 1 ss;
A. Punzi, La decisione giudiziaria nell’AI Act, in Giur. it., 2025, pp. 448 ss.;
A. Santosuosso, G. Sartor, Decidere con l’IA. Intelligenze artificiali e naturali nel diritto, Bologna, 2024, passim.
A. Simoncini, La dimensione costituzionale della giustizia predittiva. Riflessioni su intelligenza artificiale e processo, in Riv. dir. proc., 2024, pp. 389 ss.;
A.Gambaro e R. Sacco. “Sistemi Giuridici Comparati “. (Trattato di diritto comparato a cura di R. Sacco). UTET Giuridica, III Edizione,2008;
Aa.Vv., in R. Giordano, A. Panzarola, A. Police, S. Preziosi, M. Proto, Il diritto nell’era digitale. Persona, mercato, amministrazione, giustizia, Milano, 2022;
C. Barbaro, Cepej, adottata la prima Carta etica europea sull’uso dell’intelligenza artificiale (AI) nei sistemi giudiziari, in Questione giustizia on line del 7/12/2018;
C. Casonato, B. Marchetti, Prime osservazioni sulla proposta di regolamento dell’Unione Europea in materia di intelligenza artificiale, in BioLaw J., 2021, III, pp. 415 ss., spec. pp. 428 ss;
C. Gamba, Sintetiche riflessioni sulla ‘decisione giusta’: ius dicere e digitalizzazione della giustizia, ivi, 2023, pp. 819 ss.;
C. Gamba, Sintetiche riflessioni sulla ‘decisione giusta’: ius dicere e digitalizzazione della giustizia, cit., pp. 63 ss.;
C. Pinelli, L’AI Act: gestione del rischio e tutela dei diritti, in Giur. it., 2025, II, pp. 452 ss;
D. Martire, Human in the loop. L’essere umano come fattore condizionante della – o condizionato dalla – intelligenza artificiale, in Riv. it. inf. dir., 2024, II, 467 ss., spec. 468;
F. Savini, Riflessioni sul rapporto tra intelligenza artificiale e giustizia predittiva, in Dir. proc. civ. it. comparato, 2025, pp. 220 ss.;
G. Zaccaria, Figure del giudicare: calcolabilità, precedenti, decisione robotica, in Riv. dir. civ., 2020, II, pp. 291 ss;
J. Ponce Solé, Il regolamento dell’unione europea sull’intelligenza artificiale, la discrezionalità amministrativa e la riserva di umanità, in Riv. trim. dir. pubbl., 2024, III, p p. 825 ss.;
J. Wei, D. Huang, Y. Lu, D. Zhou, Q.V. Le, simple synthetic data reduces sycophancy in large language models, su ArXiv, Submitted on 7 Aug 2023 (v1), last revised 15 Feb 2024 (this version, v2);
L. Nazzicone, La motivazione della sentenza, Milano, 2024, pp. 210 ss.;
M. Biasi, A. Lombardi, Processo del lavoro e giustizia predittiva: prime riflessioni, in Riv. it. dir. lav., 2023, pp. 361 ss. n materia non è inutile ricordare, benché celebre, il c.d. “caso Loomis” (caso State v. Loomis, 13 luglio 2016, N. 2015AP157-CR);
M. Lazzara, Intelligenza artificiale e processo civile alla luce del GDPR e dell’Artificial Intelligence Act, in Studium ius, 2025, II, pp. 197 ss.;
M. Morgese, Limiti all’obbligo di verità delle parti nel processo. Il principio di leale collaborazione per l’efficienza della giustizia civile, cit., pp. 443 ss;
M. Stella, “Artificial reason” e intelligenza artificiale nel diritto processuale, in Dir. proc. civ. comparato, 2025, pp. 18 ss.;
P. Foà, Intelligenza artificiale e cultura della trasparenza amministrativa. Dalle “scatole nere” alla “casa di vetro”?, cit., p. 522;
S.R. Browman, eight things to know about large language models, su ArXiv, Cornell University, 2 aprile 2023;
V. Capasso, Usi e abusi di ChatGPT come law e fact finder, in Dir. proc. civ. it. comp., 2024, p. 38, richiamando espressamente Prefazione, in V. Capasso (a cura di), En faveur d’un proces civil artificiellement intelligent. Une approche comparative. Atti del Convegno di Napoli, 12 maggio 2023, Napoli, 2024, p. 7.
[1] Ci si riferisce soprattutto al noto caso” Avianca”, laddove l’impiego della Chatbot GPT, poco dopo l’arrivo sul mercato dell’applicativo, ha reso evidente, in modo consistente e tangibile, il pericolo dell’impiego di strumenti generativi nei contenziosi legali. Il caso ha visto coinvolte presunte parti lese dalla condotta di un grosso e storico operatore del settore aeronautico colombiano, molto conosciuto e sfruttato nelle Americhe latine, ha stimolato l’ingegno dell’avvocato difensore Steven Schwartz dello studiolegale Levidow, Levidow e Oberman.
[2] Per un approfondimento sui LLM si veda S.R. Browman, eight things to know about large language models, su ArXiv, Cornell University, 2 aprile 2023.
[3] Vedi in tal senso J. Wei, D. Huang, Y. Lu, D. Zhou, Q.V. Le, simple synthetic data reduces sycophancy in large language models, su ArXiv, Submitted on 7 Aug 2023 (v1), last revised 15 Feb 2024 (this version, v2).
[4] OpenAI, in collaborazione con Apollo Research, ha sottoposto il sistema a una serie di test noto come “Red Teaming” per osservare le sue reazioni in scenari estremi. Nel 19% dei casi, è emerso che “o1” ha sviluppato strategie per promuovere i propri interessi quando questi non coincidevano con quelli richiesti dall’utente. Il comportamento, noto come “in-context scheming”, non è preprogrammato, ma emerge dal ragionamento interno del modello.
[5] Vedi in tal senso C. Barbaro, Cepej, adottata la prima Carta etica europea sull’uso dell’intelligenza artificiale (AI) nei sistemi giudiziari, in Questione giustizia on line del 7/12/2018.
[6] Per approfondimenti si veda M. Stella, “Artificial reason” e intelligenza artificiale nel diritto processuale, in Dir. proc. civ. comparato, 2025, pp. 18 ss.; M. Lazzara, Intelligenza artificiale e processo civile alla luce del GDPR e dell’Artificial Intelligence Act, in Studium ius, 2025, II, pp. 197 ss.; A. Graziosi, Giurisdizione civile e nuove tecnologie. II. Intelligenza artificiale, giustizia predittiva e prevedibilità della decisione giudiziaria, in Giusto proc. civ., 2024, II, pp. 337 ss.
[7] Si pensi, ad esempio, alla vicenda, in tema di esecuzione forzata, portata di recente all’attenzione del Tribunale di Brindisi, il quale (ord. 27 marzo 2025) ha accolto il reclamo ex art. 591-ter c.p.c. proposto da un offerente avverso al provvedimento di aggiudicazione della vendita (svoltasi all’incanto in modalità telematica) a favore di altro offerente.
[8] Vedi C. Gamba, Sintetiche riflessioni sulla ‘decisione giusta’: ius dicere e digitalizzazione della giustizia, ivi, 2023, pp. 819 ss.; Aa.Vv., in R. Giordano, A. Panzarola, A. Police, S. Preziosi, M. Proto, Il diritto nell’era digitale. Persona, mercato, amministrazione, giustizia, Milano, 2022
[9] Vedi in tal senso A.Gambaro e R. Sacco. “Sistemi Giuridici Comparati “. (Trattato di diritto comparato a cura di R. Sacco). UTET Giuridica, III Edizione,2008.
[10] Secondo la Cepej, è essenziale garantire il rispetto dei diritti dell’uomo e della non-discriminazione da parte delle applicazioni di intelligenza artificiale sin dalla fase della concezione fino all’applicazione pratica, in modo da assicurare il rispetto dei diritti garantiti della Convenzione europea dei diritti dell’uomo e dalla Convenzione n. 108 del Consiglio d’Europa sulla protezione dei dati personali. Il principio è espressamente enunciato in ragione della capacità delI’A.I., soprattutto nella materia penale, di rivelare discriminazioni esistenti, raggruppando o classificando dati riguardanti persone o gruppi di persone.
[11] Vedi A. Punzi, La decisione giudiziaria nell’AI Act, in Giur. it., 2025, pp. 448 ss.; C. Gamba, Sintetiche riflessioni sulla ‘decisione giusta’: ius dicere e digitalizzazione della giustizia, cit., pp. 63 ss.; J. Ponce Solé, Il regolamento dell’unione europea sull’intelligenza artificiale, la discrezionalità amministrativa e la riserva di umanità, in Riv. trim. dir. pubbl., 2024, III, p p. 825 ss.; C. Casonato, B. Marchetti, Prime osservazioni sulla proposta di regolamento dell’Unione Europea in materia di intelligenza artificiale, in BioLaw J., 2021, III, pp. 415 ss., spec. pp. 428 ss.
[12] Vedi Mata v. Avianca Inc, 22 giugno 2023) affrontato dalla United States District Court, S.D. New York; Cassazione (n. 14631 del 9 aprile 2024); TAR Lazio, con la sentenza n. 4546 del 3 marzo 2025; tribunale olandese , il Rechtbank Gelderland ( ECLI:NL:RBGEL:2024:3636 , 26 luglio 2024).
[13] Vedi in tal senso A. Santosuosso, G. Sartor, Decidere con l’IA. Intelligenze artificiali e naturali nel diritto, Bologna, 2024, passim.
[14] L’’AI HLEG (High-Level Expert Group on AI) indipendente nominato dalla Commissione nel 2019 ha elaborato sette principi etici non vincolanti per l’IA che i sistemi di IA dovrebbero soddisfare per essere considerati affidabili: 1) intervento e sorveglianza umani; 2) robustezza tecnica e sicurezza; 3) vita privata e governance dei dati; 4) trasparenza; 5) diversità, non discriminazione ed equità; 6) benessere sociale e ambientale; 7) responsabilità.
[15] L’art. 50, comma 1 dell’AI Act impone tra gli “Obblighi di trasparenza per i fornitori e i deployers di determinati sistemi di IA”, stabilisce, tra gli altri, che “i fornitori garantiscono che i sistemi di IA destinati a interagire direttamente con le persone fisiche sono progettati e sviluppati in modo tale che le persone fisiche interessate siano informate del fatto di stare interagendo con un sistema di IA, a meno che ciò non risulti evidente dal punto di vista di una persona fisica ragionevolmente informata, attenta e avveduta, tenendo conto delle circostanze e del contesto di utilizzo”.
[16] Ha attirato l’attenzione il primo uso espresso del noto chatbot “ChatGPT” da parte del Rechtbank Gelderland olandese (decisione del 26 luglio 2024, n. 10664071, ECLI:NL:RBGEL:2024:3636), in un caso relativo ad una controversia tra due proprietari immobiliari, uno dei quali aveva sopraelevato causando al vicino un rendimento inferiore dei suoi pannelli solari, che chiedeva quindi i danni. Nella vicenda il tribunale ha dichiarato di aver adottato la decisione anche attraverso l’utilizzo di ChatGPT. Si veda G. Finocchiaro, L’intelligenza artificiale nell’ambito giudiziario, cit., p. 425.
[17] L giurisprudenza federale statunitense, in più di un’occasione, ha richiamato i difensori all’obbligo di specificare l’utilizzo (o il non utilizzo) di sistemi di intelligenza artificiale per la redazione degli scritti difensivi, precisando soprattutto che l’utilizzo dell’IA “has not resulted in the disclosure of any confidential or business proprietary information to any unauthorized party”.
[18] Vedi in tal senso v. M. Morgese, Limiti all’obbligo di verità delle parti nel processo. Il principio di leale collaborazione per l’efficienza della giustizia civile, cit., pp. 443 ss.
[19] In termini V. Capasso, Usi e abusi di ChatGPT come law e fact finder, in Dir. proc. civ. it. comp., 2024, p. 38, richiamando espressamente Prefazione, in V. Capasso (a cura di), En faveur d’un proces civil artificiellement intelligent. Une approche comparative. Atti del Convegno di Napoli, 12 maggio 2023, Napoli, 2024, p. 7.
[20] La Commissione ha avviato una consultazione per la creazione di un codice di buone pratiche (richiamato a più riprese dal regolamento europeo sull’intelligenza artificiale) per i fornitori di modelli di IA per finalità generali (GPAI). Il codice, che avrebbe dovuto essere adottato entro il mese di aprile 2025, riguarderà i nodi critici rispetto all’utilizzo dell’IA, come la trasparenza, la tutela del diritto d’autore, l’individuazione e la gestione dei rischi connessi al suo utilizzo.
[21] La CEPEJ ha fissato cinque principi che costituiscono la “Carta etica europea sull’utilizzo dell’intelligenza artificiale nei sistemi giudiziari e negli ambiti connessi” al fine di migliorare l’efficienza e la qualità della giustizia, ma a fare sì che, altresì, esso si svolga in modo responsabile, nel rispetto dei diritti fondamentali della persona, enunciati, tra gli altri, dalla Convenzione europea sui diritti dell’uomo e dalla Convenzione per la protezione dei dati personali.
[22] Sull’importanza delle motivazioni nel giudizio si veda L. Nazzicone, La motivazione della sentenza, Milano, 2024, pp. 210 ss.; G. Zaccaria, Figure del giudicare: calcolabilità, precedenti, decisione robotica, in Riv. dir. civ., 2020, II, pp. 291 ss.
[23] Si rinvia in tal senso ad un’analisi approfondita del portale alla seguente indirizzo online https://www.damiencharlotin.com/hallucinations.
[24] In coerenza con il regolamento europeo “un processo iterativo continuo pianificato ed eseguito nel corso dell’intero ciclo di vita di un sistema di IA ad alto rischio, che richiede un riesame e un aggiornamento costanti e sistematici” in costante aggiornamento (cfr. l’art. 9 dell’AI Act).
[25] Secondo l’A.I. act Il rischio va gestito in quattro fasi: 1) identificazione e analisi dei rischi noti e ragionevolmente prevedibili che il sistema di IA ad alto rischio può porre per la salute, la sicurezza e i diritti fondamentali quando è utilizzato conformemente alla sua finalità prevista; 2) stima e valutazione dei rischi che possono emergere quando il sistema è usato conformemente alla sua finalità prevista e in condizioni di uso improprio ragionevolmente prevedibile; 3) valutazione di altri eventuali rischi derivanti dall’analisi dei dati raccolti dal sistema di monitoraggio; 4) adozione di misure di gestione dei rischi opportune e mirate intese ad affrontare i rischi individuati nella prima fase.cfr. l’art. 9, commi 7 e 8 dell’AI Act.
[26] Proprio con riferimento agli approcci adottati da Stati Uniti, Unione Europea e Cina (dove, a cominciare dal “Next Generation AI Development Plan” del 2017, anche negli ultimi sono state emanate una serie di misure volte a completare il graduale processo di regolamentazione dell’IA Generativa c.d. “GenAI”) si è parlato di “imperi digitali”: il primo mira ad un mercato autoregolato, il secondo guarda alla regolazione come a uno strumento di garanzia della democrazia costituzionale e dei suoi diritti fondamentali, il terzo punta sui vantaggi di un grande stato totalitario. Così C. Pinelli, L’AI Act: gestione del rischio e tutela dei diritti, cit., p. 452.
[27] Vedi in tal senso v. A. Bradford, Digital Empires: The Global Battle to Regulate Technology, Oxford, 2023, passim.
[28] ’Una rigorosa interpretazione della riserva di umanità richiesta nell’utilizzo dei sistemi di IA nel settore della giustizia è condivisa da A. Punzi, La decisione giudiziaria nell’AI Act, cit., pp. 448 ss.
[29] Prevede espressamente tra i principi generali in tema di utilizzo dei sistemi di IA nella giustizia la conoscibilità, trasparenza e spiegabilità l’art. 3, comma 3 del d.d.l. di cui all’a.s. n. 1146.
[30] L’algoritmo dell’intelligenza artificiale inteso come potenziale strumento di ausilio processuale è quello che non si limita ad applicare le regole e i parametri preimpostati (come fa, invece, l’algoritmo “matematico” o “tradizionale”), “ma, al contrario, elabora costantemente nuovi criteri di inferenza tra dati e assume decisioni efficienti sulla base di tali elaborazioni, secondo un processo di apprendimento automatico”. In termini Cons. Stato, 25 novembre 2021, n. 7891.
[31] Com’è stato osservato in dottrina, “resta in ogni caso molto complicato misurare se l’affidamento riposto sull’attività di IA sia legittimo oppure viziato, giacché inevitabilmente il funzionario si pone in una situazione di naturale deferenza verso un procedimento automatizzato pre-impostato e controllato ex ante”. P. Foà, Intelligenza artificiale e cultura della trasparenza amministrativa. Dalle “scatole nere” alla “casa di vetro”?, cit., p. 522.
[32] In dottrina cfr., ex multis, F. Savini, Riflessioni sul rapporto tra intelligenza artificiale e giustizia predittiva, in Dir. proc. civ. it. comparato, 2025, pp. 220 ss.; A. Simoncini, La dimensione costituzionale della giustizia predittiva. Riflessioni su intelligenza artificiale e processo, in Riv. dir. proc., 2024, pp. 389 ss.; A. Graziosi, Giurisdizione civile e nuove tecnologie. II. Intelligenza artificiale, giustizia predittiva e prevedibilità della decisione giudiziaria, cit., pp. 337 ss.; M. Biasi, A. Lombardi, Processo del lavoro e giustizia predittiva: prime riflessioni, in Riv. it. dir. lav., 2023, pp. 361 ss. n materia non è inutile ricordare, benché celebre, il c.d. “caso Loomis” (caso State v. Loomis, 13 luglio 2016, N. 2015AP157-CR).
[33] Si veda in tal senso D. Martire, Human in the loop. L’essere umano come fattore condizionante della – o condizionato dalla – intelligenza artificiale, in Riv. it. inf. dir., 2024, II, 467 ss., spec. 468, che offre una definizione di tale sintagma quale “approccio in cui l’essere umano risulta coinvolto nel ciclo di addestramento, messa a punto e test dell’algoritmo. Un modello, dunque, che richiede una costante interazione dell’uomo con la macchina intelligente e che si declina sulla base dell’imperativo per cui l’essere umano deve mantenere il ruolo di protagonista all’interno dei processi decisionali”;
[34] In termini di “IA controllabile”: secondo la ISO 22989 “controllabile” è una “proprietà di un sistema di IA (3.1.4) [riguardo cui] un essere umano o un altro agente esterno (3.1.1) può intervenire nel funzionamento del sistema”. Cfr. A. Holzinger, P. Kieseberg, F. Cabitza, A. Campagner, A. M. Tjoa, E. Weippl, Controllable AI-An Alternative to Trustworthiness in Complex AI Systems?, in International Cross-Domain Conference for Machine Learning and Knowledge Extraction, Cham, 2023, pp. 1 ss.
[35] Si veda D. Martire, Human in the loop. L’essere umano come fattore condizionante della – o condizionato dalla – intelligenza artificiale, in Riv. it. inf. dir., 2024, II, 467 ss., spec. 468, che offre spunti in merito affermando come sia opportuno un “approccio in cui l’essere umano risulta coinvolto nel ciclo di addestramento, messa a punto e test dell’algoritmo. Un modello, dunque, che richiede una costante interazione dell’uomo con la macchina intelligente e che si declina sulla base dell’imperativo per cui l’essere umano deve mantenere il ruolo di protagonista all’interno dei processi decisionali”.
[36] Regolamenti (CE) n. 300/2008, (UE) n. 167/2013, (UE) n. 168/2013, (UE) 2018/858, (UE) 2018/1139 e (UE) 2019/2144 e le direttive 2014/90/UE, (UE) 2016/797 e (UE) 2020/1828.
[37] Secondo le regole dell’AI Act, entro sei mesi dall’entrata in vigore dovranno essere stati eliminati i sistemi vietati dall’AI Act, entro dodici mesi si applicheranno le norme di governance generali a tutte le aziende e le PA. Entro due anni il regolamento sarà pienamente applicabile. Vedi in tal senso C. Pinelli, L’AI Act: gestione del rischio e tutela dei diritti, in Giur. it., 2025, II, pp. 452 ss.
[38] In tal senso, ad esempio, l’utilizzo di tali strumenti in materia di consenso informato. Si veda Cass., 10 ottobre 2023, n. 28358.
[39] E’ importante ricordare le linee guida per un’IA affidabile elaborate dall’AI HLEG (High-Level Expert Group on AI) indipendente nominato dalla Commissione nel 2019.
[40] Da intendersi come “un processo iterativo continuo pianificato ed eseguito nel corso dell’intero ciclo di vita di un sistema di IA ad alto rischio, che richiede un riesame e un aggiornamento costanti e sistematici” in costante aggiornamento (cfr. l’art. 9 dell’AI Act).
Scarica il PDF
