Plenum del CSM, il Consiglio Superiore della Magistratura (Imagoeconomica, Andrea Di Biagio)

Un contributo per esaminare in generale il rapporto tra Intelligenza Artificiale e amministrazione della Giustizia, con particolare riferimento al Regolamento UE 2024/1689 e alla Legge n. 132 del 2025, nonché alla circolare del Consiglio Superiore della Magistratura dell’8 ottobre 2025. Sia il Regolamento sia la Legge 132 impongono che i sistemi di IA possano svolgere soltanto funzioni strumentali e preparatorie ai fini dell’attività giurisdizionale: l’interpretazione della legge, la valutazione dei fatti e delle prove e l’adozione della decisione devono restare affidate al magistrato. Questa “riserva umana” di giurisdizione richiede tuttavia concreti e stringenti presidi organizzativi, formazione e verifiche capaci di prevenire il serio rischio che, nonostante i formali divieti, i giudici possano sempre più fare un eccessivo affidamento all’output algoritmico per poter agevolmente smaltire la notevole mole di fascicoli e ridurre i tempi e i costi dei procedimenti.

(Imagoeconomica, Clemente Marmorino)

Il tema della Giustizia ha infatti un importante rilievo costituzionale che necessita di una costante vigilanza democratica per evitare che la Magistratura possa perdere di fatto, anche parzialmente, le prerogative di imparzialità, trasparenza, indipendenza a tutela dell’uguaglianza dei diritti. Basti pensare alla campagna referendaria sulla c.d. separazione delle carriere che di fatto mascherava il tentativo di assoggettare la magistratura alla politica. L’uso della IA non solo nella organizzazione della Giustizia ma anche nella attività giurisdizionale, con il rischio di mutarne le caratteristiche di “umanità”, esige la massima attenzione poiché interferisce con un presidio di garanzia per la salvaguardia dei diritti dei cittadini.

Il rilievo costituzionale del rapporto tra Intelligenza Artificiale e amministrazione della Giustizia

(Imagoeconomica, Marco Cremonesi)

L’utilizzo di sistemi automatizzati di Intelligenza Artificiale per la soluzione delle controversie non è una questione dai risvolti tecnologici o su cui si può discutere solo sotto il profilo della affidabilità o dell’efficienza ma ha un suo importante rilievo costituzionale poiché sono in gioco i diritti dei cittadini, le regole processuali, l’autonomia, la professionalità e l’imparzialità del giudice, la garanzia di un equo processo, la coerenza e pertinenza della motivazione a sostegno della decisione. Dunque, se sussiste il rischio che alla ponderata decisione presa da un giudice si sostituisca, in tutto o in parte, una decisione automatizzata conseguente all’uso della Intelligenza Artificiale sarebbe più che doverosa una riflessione affinché il sistema Giustizia rimanga entro una cornice che ben può essere agevolato da strumenti di IA ma solo per aspetti parziali e di natura preparatoria e sempre sotto il controllo dell’uomo.

(Imagoeconomica, Saverio De Giglio)

La diffidenza verso sistemi di decisione automatizzata, al più consentita per controversie minori, è quasi unanime ma le regole di contenimento e le limitazioni, sia a livello europeo che nazionale, sono così reiterate ed enfatizzate che potrebbe sorgere il dubbio che il dominio della tecnica, da tempo considerata non più come mezzo ma come fine a se stessa in un crescendo del suo potere e della sua autonomia, prima o poi potrebbe finire con il prevalere sulle cautele e sulle regole del diritto, anche perché un diffuso uso della IA ridurrebbe notevolmente i tempi e i costi dei processi. Il rischio, in breve, è che nei procedimenti giudiziari qualora si faccia un uso massiccio della IA possa accadere che in luogo della garanzia di trasparenza, imparzialità, ponderazione, possa prevalere, pur nella consapevolezza della possibilità dell’errore insito nelle decisioni automatizzate, l’efficienza, vale a dire processi brevi, decisioni rapide, costi contenuti.

Quella sopra paventata è solo una legittima preoccupazione per una eventuale deriva ipertecnologica poiché essa trova un serio e solido ostacolo nella cornice normativa quale è il Regolamento UE 2024/1689 che connota la IA come antropocentrica (quindi con l’essere umano al centro) in ben 7 punti. Significativo l’articolo 1 del citato Regolamento secondo cui “lo scopo del presente regolamento è migliorare il funzionamento del mercato interno e promuovere la diffusione di un’intelligenza artificiale (IA) antropocentrica e affidabile, garantendo nel contempo un livello elevato di protezione della salute, della sicurezza e dei diritti fondamentali sanciti dalla Carta dei diritti fondamentali dell’Unione europea, compresi la democrazia, lo Stato di diritto e la protezione dell’ambiente, contro gli effetti nocivi dei sistemi di IA nell’Unione, e promuovendo l’innovazione”.

(Imagoeconomica, Mattia Calaprice by AI chat)

Quindi una IA da sviluppare e incrementare, ma nella assoluta garanzia della salvaguardia e protezione di beni primari come la salute, la sicurezza, i diritti fondamentali, la democrazia, lo Stato di diritto, l’ambiente. Ed è qui opportuno sottolineare come la IA non possa menomare o limitare o condizionare la democrazia. Del resto opinare diversamente sarebbe esiziale per le stesse sorti della democrazia e dei suoi meccanismi e delle sue procedure. Sorprende, quindi, che nel Regolamento UE l’utilizzazione della IA nei processi democratici non sia vietata ma solo ritenuta ad alto rischio. Dispone infatti il punto 8 punto b) dell’allegato III che sono ad alto rischio “i sistemi di IA destinati a essere utilizzati per influenzare l’esito di un’elezione o di un referendum o il comportamento di voto delle persone fisiche nell’esercizio del loro voto alle elezioni o ai referendum. Sono esclusi i sistemi di IA ai cui output le persone fisiche non sono direttamente esposte, come gli strumenti utilizzati per organizzare, ottimizzare e strutturare le campagne politiche da un punto di vista amministrativo e logistico”.

Una futuribile interpretazione del termine “giudice”?

Anna Magnani nel film Abbasso la ricchezza

L’interpretazione di un testo di legge può essere letterale, sistematica (in combinazione con altri articoli), evolutiva (quando il dato testuale assume una valenza molto più ampia in sintonia con l’evoluzione dei tempi e costumi). Ad esempio in più leggi si fa riferimento al buon costume (“il contratto è nullo se è contrario al buon costume, art. 1343 c.c.) che di certo oggi non è quello del 1942, quando entrò in vigore il Codice Civile. Notevole evoluzione ha avuto poi il concetto di famiglia che anche in virtù del contributo delle sentenze della Corte Costituzionale è oggi molto più ampio della famiglia tradizionale rispetto a come era intesa quando venne approvata la Costituzione.

Nella Costituzione in più articoli si menziona il giudice, art. 25: “Nessuno può essere distolto dal giudice naturale precostituito per legge”; art. 101: I giudici sono soggetti soltanto alla legge; art. 111: “Ogni processo si svolge nel contraddittorio tra le parti, in condizioni di parità, davanti a giudice terzo e imparziale”. Dinanzi all’entusiasmo (ed invero anche a non poche preoccupazioni ) che di recente suscita l’uso diffuso della intelligenza artificiale, è ragionevole chiedersi se prima o poi la parola “giudice” possa essere interpretata non già come una persona fisica ma una entità, un sistema, una piattaforma, un programma, un software ( fondati sulla IA) che siano dotati di una piena o parziale autonomia nel decidere controversie giuridiche civili o stabilire nelle imputazioni penali se vi sia colpevolezza o innocenza.

(imagoeconomica)

Che tra qualche anno, con l’affinamento della Intelligenza Artificiale, a decidere le cause sia una macchina appositamente predisposta a prendere decisioni in controversie giudiziarie (una decisione automatizzata, semplificando: un giudice robot) è (o parrebbe) un orizzonte di fantascienza più che una concreta probabilità. Eppure, se oggi in articoli e saggi giuridici troviamo espressioni come “giudice umano”, “giudice persona”, evidentemente la specificazione o è ridondante e superflua oppure, verosimilmente, ha una sua utilità psicologica per fugare il timore di un “giudice” per così dire con essenza algoritmica (quindi senza emozioni e reale intelligenza, quest’ultima imponente ma solo computazionale). Sarebbero tuttavia lasciate aperte opzioni per un sistema di decisioni fondate sulla IA, si potrebbe dire elaborate da un “giudice non umano” la cui attività sarebbe limitata agli affari e alle controversie di minore importanza. Per fare un esempio, in Estonia è stato condotto uno studio per una piattaforma, che tuttavia non è operativa, impostata per decidere controversie minori sino a 7.000 euro. In sostanza, accantonata per ora l’ipotesi del giudice robot, “giudice umano” è o dovrebbe essere) una tautologia in quanto il giudice è costitutivamente e ontologicamente umano.

L’articolo 101 stabilisce che “i giudici sono soggetti soltanto alla legge”. Un programma di IA che elabori una decisone automatizzata sarebbe soggetto soltanto all’algoritmo che non ha nulla di umano poiché elabora risposte in termini probabilistici e statistici e non ha né consapevolezza né coscienza e, ovviamente, neanche emozioni. Esemplare la descrizione che ne dà l’enciclica Magnifica Humanitas di Papa Leone XIV paragrafo 99: “Le cosiddette intelligenze artificiali non vivono una esperienza, non possiedono un corpo, non attraversano la gioia e il dolore, non maturano nella relazione, non conoscono dall’interno ciò che significa amore, lavoro, amicizia, responsabilità. Non hanno neppure una coscienza morale: non giudicano il bene e il male, non colgono il senso ultimo delle situazioni, non assumono su di sé il peso delle conseguenze”.

In sintesi: “la bouche de la loi” in un futuro più o meno lontano, magari nelle cause non particolarmente complesse, sarà ancora il giudice o un algoritmo?

Il Regolamento Ue 2024/1689 del 2024 e la classificazione ad “alto rischio” della IA nel sistema Giustizia

Il Regolamento UE 2024/1689 (IA Act) adotta un impianto fondato sul rischio e assoggetta sistemi e modelli di IA a obblighi differenti:

  1. rischio inaccettabile: manipolazione subliminale, sorveglianza biometrica di massa, sfruttamento vulnerabilità;
  2. alto rischio: riconoscimento facciale, IA per assunzioni, IA in Giustizia
  3. rischio sistemico: grandi modelli generativi, IA che può influenzare processi democratici o settori critici
  4. rischio limitato: chatbot non dichiarati, deepfake senza avviso
  5. rischio minimo: raccomandazioni prodotti, filtri spam

Dunque nel sistema Giustizia l’uso della IA è considerata ad alto rischio.

Il Regolamento Europeo sull’IA (EU AI Act – Regolamento UE 2024/1689) contiene delle regole sull’uso della IA nel settore della Giustizia nel paragrafo 61: “Alcuni sistemi di IA destinati all’amministrazione della giustizia e ai processi democratici dovrebbero essere classificati come sistemi ad alto rischio, in considerazione del loro impatto potenzialmente significativo sulla democrazia, sullo Stato di diritto, sulle libertà individuali e sul diritto a un ricorso effettivo e a un giudice imparziale. È in particolare opportuno, al fine di far fronte ai rischi di potenziali distorsioni, errori e opacità, classificare come ad alto rischio i sistemi di IA destinati a essere utilizzati da un’autorità giudiziaria o per suo conto per assistere le autorità giudiziarie nelle attività di ricerca e interpretazione dei fatti e del diritto e nell’applicazione della legge a una serie concreta di fatti. L’utilizzo di strumenti di IA può fornire sostegno al potere decisionale dei giudici o all’indipendenza del potere giudiziario, ma non dovrebbe sostituirlo: il processo decisionale finale deve rimanere un’attività a guida umana. Non è tuttavia opportuno estendere la classificazione dei sistemi di IA come ad alto rischio ai sistemi di IA destinati ad attività amministrative puramente accessorie, che non incidono sull’effettiva amministrazione della Giustizia nei singoli casi, quali l’anonimizzazione o la pseudonimizzazione di decisioni, documenti o dati giudiziari, la comunicazione tra il personale, i compiti amministrativi”.
Vista la continua evoluzione dei sistemi di IA, sia per ragioni tecnologiche sia per concedere un adeguato tempo agli Stati, la UE ha stabilito una scansione temporale di vigenza delle varie norme (1).

La Legge N.132 del 2025

(Imagoeconomica, Christophe Licoppe)

Il Regolamento per sua natura è direttamente applicabile in tutti gli Stati membri dell’Unione Europea e non necessita di una legge nazionale di recepimento. Tuttavia, il regolamento prevede che gli Stati membri debbano adottare alcune misure di attuazione e organizzazione.

(Imagoeconomica, Carino Ai mid)

L’Italia ha adottato la legge n.132 del 2025 “Disposizioni e deleghe al Governo in materia di intelligenza artificiale”. In generale, per quanto attiene alla Intelligenza Artificiale, si usa distinguere la stessa in: a) predittiva, quando analizza dati storici per formulare la probabilità del verificarsi di un evento; b) conversazionale, quando è addestrata per dare risposte semplici a domande semplici; c) generativa, come Gemini, Chatgpt, quando non si limita a dare risposte ma è in grado di generare contenuti del tutto nuovi; d) agentica, quando le viene indicato un obiettivo ed essa decide autonomamente quali passaggi compiere per raggiungerlo, interfacciandosi con software esterni (es. browser, fogli di calcolo, piattaforme aziendali).

La preoccupazione che possa prodursi una deriva per cui di fatto la decisione finale venga determinata dalla IA ha indotto il legislatore italiano, in sintonia con la normativa europea (il più volte citato Regolamento) a disciplinare la materia della intelligenza artificiale nell’attività giudiziaria nell’articolo 15 della legge n. 132 del 2025 che così recita: “1) Nei casi di impiego dei sistemi di intelligenza artificiale nell’attività giudiziaria è sempre riservata al magistrato ogni decisione sull’interpretazione e sull’applicazione della legge, sulla valutazione dei fatti e delle prove e sull’adozione dei provvedimenti. 2) Il Ministero della Giustizia disciplina gli impieghi dei sistemi di intelligenza artificiale per l’organizzazione dei servizi relativi alla giustizia, per la semplificazione del lavoro giudiziario e per le attività amministrative accessorie”.

(Imagoeconomica, Carino by Ai mid)

Dunque, sistemi di IA possono essere usati solo per la semplificazione del lavoro giudiziario e per le attività amministrative accessorie. Come si è già riferito, la norma evidenzia con forza che l’interpretazione della legge, la valutazione dei fatti e delle prove e la decisione sono di esclusiva competenza del giudice. Quindi, i sistemi di Intelligenza Artificiale possono effettuare ricerche giurisprudenziali, ricerche dei precedenti, fare delle sintesi di articoli di dottrina e di note a sentenza, redigere riassunti degli scritti di parte, elaborare un quadro sinottico delle contrapposte tesi. Il tutto deve comunque avvenire sotto il controllo del giudice a cui compete la decisione finale. Questo importante richiamo al ruolo e alla responsabilità del giudice viene definita in vario modo ma l’espressione più ricorrente in dottrina è “riserva di umanità” (Human Reserve) nel più ampio orizzonte della “riserva di giurisdizione antropomorfa”. Deve esserci, in sostanza, una costante supervisione umana (Human Oversight, con un approccio, che meglio vedremo in seguito, Human-in-the-loop o Human-on-the-loop.

Ingresso di un tribunale

In sostanza sia il Regolamento europeo del 2024 sia la legge italiana del 2025 consentono l’uso della IA nell’ambito del settore Giustizia ma solo in funzione preparatoria, strumentale, di supporto ed ausilio. I sistemi di IA possono aiutare ma non decidere. La legge italiana è molto netta sulla inderogabile necessità del ruolo e della funzione del giudice nella interpretazione della legge, dei fatti, delle prove e, ovviamente, nella decisione. Sostanzialmente analoga la previsione dell’IA Act sebbene la formulazione letterale sembra lasciare qualche spiraglio in più nell’utilizzo della IA classificata significativamente attività ad alto rischio. Sebbene l’uso della IA per funzioni propedeutiche e preparatorie sia implicita nell’art. 15 della legge 132 del 2025, nel Regolamento europeo viene esplicitamente consentita l’attività di ricerca e interpretazione dei fatti e del diritto per il sostegno al potere decisionale dei giudici e non per sostituirli poiché il processo decisionale finale deve rimanere un’attività a guida umana. Limitandosi al dato testuale, per la legge italiana la interpretazione e la decisone parrebbe attività per così dire autonoma ed esclusiva del giudice, per il Regolamento è consentito invece l’utilizzo della IA per “assistere” il giudice nella interpretazione e decisione e come “sostegno” al potere decisionale. Da notare che per il Regolamento la IA non “dovrebbe” sostituire il potere decisionale dei giudici poiché il processo decisionale deve rimanere una attività “a guida” umana.

(Imagoeconomica, Saverio De Giglio)

Al di là del dato letterale, la circolare del CSM consente tuttavia, sempre con carattere preparatorio e di ausilio, che la IA possa effettuare l’analisi strutturata del contenuto degli atti delle parti ai fini della ricostruzione delle posizioni processuali e anche il confronto tra posizioni processuali delle parti, ai fini della individuazione del thema decidendum e del thema probandum.

Il ruolo dell’uomo nei sistemi di Intelligenza Artificiale

In generale, l’intervento umano nella sequenza procedimentale dei sistemi di IA può essere graduato: si va da un controllo costante al solo controllo finale e finanche a decisioni algoritmiche senza alcuna possibilità di intervento dell’uomo. La tripartizione dell’intervento umano (HITL, HOTL, HOOTL) è concettualmente applicabile al ciclo delle azioni della IA nella Giustizia ma l’origine è prevalentemente militare (droni e sistemi d’armi avanzati).

Il posto che occupa l’uomo nei procedimenti di IA è un tema che sarà sempre più attuale ed è una scelta che ha radici politiche ed etiche.
1. Human-in-the-loop (HITL) – L’IA al più può proporre ma è l’uomo che decide: qualunque azione compia l’IA comunque le decisioni sono subordinate all’approvazione dell’uomo.
2. Human-on-the-loop (HOTL) – Il sistema di IA agisce da solo ma costante è la supervisione dell’uomo che può intervenire in qualsiasi momento: l’IA agisce in autonomia e prende decisioni ma l’uomo resta in una posizione di supervisione costante con la possibilità di intervenire modificando, correggendo, interrompendo.
3. Human-out-of-the-loop (HOOTL) – La macchina agisce in totale autonomia: l’IA esegue i suoi compiti senza che l’uomo possa intervenire.

(Imagoeconomica, Mattia calaprice by ai chat)

Nonostante Legge e Regolamento siano all’evidenza per un sostanziale controllo dell’uomo nel processo, quindi siamo nell’ambito del “human in the loop”, tuttavia per più ragioni non si può escludere il rischio che il giudice, dinanzi alla mole dei fascicoli a lui assegnati, sia tentato di affidarsi sempre più al sistema di IA senza conoscere a fondo la controversia e limitandosi di fatto a convalidarne l’output. Un simile affidamento può apparire funzionale alla riduzione dei tempi e dei costi della Giustizia, ma trasformerebbe la supervisione umana in un controllo meramente formale e il giudice in un semplice «timbratore».

La circolare del Consiglio Superiore della Magistratura

Palazzo dei Marescialli, Roma. Sede del CSM, Consiglio Superiore della Magistratura

Il CSM ha emanato la circolare dell’8 ottobre 2025 aggiornata il 22 luglio 2026. In entrambe le circolari costante è la preoccupazione di arginare, peraltro in conformità al regolamento europeo UE 2024/1689 del 2024, l’uso dell’IA nel sistema Giustizia che il citato Regolamento considera a buona ragione ad alto rischio. Nella consapevolezza che la IA ben può “sbagliare” IL CSM ha evidenziato che i sistemi di IA non sono mai neutrali poiché incorporano tutte le imprecisioni contenute nel database di addestramento, ivi compresi eventuali pregiudizi di chi ha progettato il sistema e ne ha guidato l’addestramento (cd. bias).

La circolare individua con esemplare chiarezza i seguenti punti deboli dei sistemi di IA: 1) L’output prodotto dai sistemi di IA generativa non è costante, poiché il loro funzionamento non segue logiche deterministiche ma probabilistiche: a ogni interrogazione il sistema seleziona, tra molte opzioni possibili, la risposta ritenuta più verosimile. Questa dinamica introduce una variabilità intrinseca, per cui la stessa domanda può generare risposte differenti. 2) Le risposte fornite possono variare anche in funzione della formulazione del quesito (cd. prompting), della lunghezza, della precisione linguistica o del contesto implicito nella richiesta, influenzando sensibilmente la qualità e la direzione dell’output generato. 3) Non è garantito un livello uniforme di qualità, coerenza o affidabilità delle risposte prodotte, anche in relazione a quesiti simili o ripetuti. L’output può contenere imprecisioni, omissioni, o risultare non pertinente rispetto al dominio di applicazione. 4) È sempre necessaria una verifica umana sull’accuratezza, la completezza e la pertinenza delle risposte, con riferimento a fonti attendibili e normative aggiornate, al fine di evitare che contenuti generati automaticamente assumano valore probatorio o decisionale senza adeguato controllo.

(Imagoeconomica, Carino Ai mid)

Per non lasciare ai singoli magistrati la discrezionalità di ciò che è o sarebbe consentito fare con il sistema di IA (per ora Microsoft 365 Copilot), le circolari hanno scrupolosamente dettagliato le attività, a titolo esemplificativo e non esaustivo (2). La circolare specifica con riferimento agli usi non consentiti, che rimangono in ogni caso esclusi dall’uso di strumenti di intelligenza artificiale la formulazione del dispositivo e l’affidamento della redazione dei provvedimenti giurisdizionali.

La lettera dei dirigenti degli uffici giudiziari

Il ministro della Giustizia, Carlo Nordio (Imagoeconomica, Saverio De Giglio)

Numerosi dirigenti degli Uffici giudiziari in una lettera in data Catania 30 luglio 2026 indirizzata al Ministro e al CSM hanno evidenziato alcune delle criticità legate all’uso della IA nei procedimenti giudiziari rilevando in particolare: a) i rischi cognitivi connessi all’uso dei sistemi generativi che con il tempo prosciugano le capacità critiche dei giudici; b) la tendenza del giudice a conformarsi acriticamente all’output della macchina; c) l’effetto ancoraggio della proposta algoritmica sulla decisione umana; d) il progressivo de-skilling o atrofia delle competenze redazionali, interpretative e argomentative del giudice.

I dirigenti hanno rilevato altresì la necessità che al di là delle norme e delle raccomandazioni sulla “riserva umana” quest’ultima sia resa effettiva mediante presidi organizzativi e formativi contro l’atrofia cognitiva e lo scivolamento funzionale, prevedendo per i giudici una formazione obbligatoria, iniziale e permanente, che dia ampia sicurezza sulla sorveglianza umana nel sistema giudiziario che è ad alto rischio. La formazione, ritengono i dirigenti, deve essere estesa alla dimensione epistemologica e cognitiva dell’interazione con i sistemi generativi: natura probabilistica degli output, fenomeni allucinatori della IA, bias di automazione e di ancoraggio, tecniche di verifica delle fonti, checkpoint di supervisione obbligatori e bloccanti; l’output algoritmico trattato come ipotesi da verificare e mai come base motivazionale da recepire; divieto di trasposizione acritica nei provvedimenti e obbligo di verifica autonoma di ogni riferimento normativo e giurisprudenziale; misure strutturali di prevenzione della deriva epistemica e di de-skilling; preservazione di quote di attività redazionale e di ricerca condotte senza assistenza algoritmica, specie nella formazione iniziale di magistrati, tirocinanti e funzionari; indicatori di qualità dei provvedimenti che intercettino la standardizzazione seriale della motivazione. In poche parole, i dirigenti degli uffici giudiziari vogliono evitare il rischio che il giudice si fidi troppo della IA, atrofizzi in tal modo le sue capacità mnemoniche, cognitive e di ragionamento, disimpari in sostanza a fare il giudice utilizzando in modo massivo ed acritico gli strumenti di IA avallandone gli esiti con più firme (secondo gli sbarramenti procedurali) che non costituiscono progressivi scalini di consapevolezza e responsabilità ma meri e comodi “timbri” di fiducia nella IA più che di reale controllo dell’attività di quest’ultima.

I rischi nei sistemi di IA applicata alla Giustizia

Il quartier generale di Antrhopic

La scatola nera (Black Box): i vari sistemi di IA non sono dello Stato o di Enti pubblici ma di società private di Big Tech (Chatgpt, Open AI), Gemini (Google), Copilot (Microsoft), Claude (Antrhropic), tutte con sede negli Stati Uniti, per cui gli algoritmi non sono trasparenti ma coperti dal segreto commerciale. Il giudice, anche se potrà fare uso di sistemi non generalisti ma calibrati sulle procedure di giustizia, potrà trovare coerenti le soluzioni o prospettazioni del sistema di IA ma essendo laboriosa una puntuale verifica (che implica una lettura di tutti gli scritti e documenti, perdendo tutto il vantaggio della IA) non saprà se si tratta di una erronea coerenza né per quali reali e inespresse profonde ragioni il sistema ha dato quella soluzione.

Bias in Bias out: i sistemi di IA hanno ovviamente bisogno dell’intervento umano ma sono programmati per addestrarsi autonomamente fagocitando milioni di dati. Questi dati, per varie ragioni, potrebbero contenere dei pregiudizi per cui Bias In, Bias Out” (Pregiudizio dentro, pregiudizio fuori). Se l’IA apprende che per i reati connessi agli stupefacenti vi sono state condanne prevalentemente di imputati stranieri potrebbe statisticamente avere un pregiudizio in tal senso, pregiudizio non reale o consapevole ma ovviamente statistico.

Un algoritmo dotato di personalità?

C’è chi sostiene, seppur si tratta di una minoranza, che l’algoritmo può avere una personalità giuridica

Un sistema di IA, semplici o articolati che siano i suoi compiti, comunque è o dovrebbe essere al servizio dell’uomo. Eppure da tempo una dottrina del tutto minoritaria ritiene che l’algoritmo possa essere un centro di imputazione di diritti e doveri e avere una sua, piena o parziale, personalità giuridica. La prima formulazione sulla soggettività giuridica delle macchine risale al 1984 (“Can Computers Have Legal Rights?”, scritto da Ajit Narayanan e David Perrott). E per quanto possa sembrare paradossale l’ipotesi di una “personalità elettronica” per i robot che abbiano piena o ampia autonomia è stata ipotizzata anche dalla Commissione Europea il 31 maggio del 2016 al fine di realizzare una cornice normativa che facilitasse, disciplinandone gli effetti, la diffusione della IA. La finalità della normativa era anche quella di porre a carico delle macchine dotate di personalità elettronica l’eventuale risarcimento del danno da esse cagionato.

Tale impostazione è stata fortemente criticata, con una lettera aperta, da un gruppo di giuristi e da esperti in intelligenza artificiale i quali hanno rilevato l’erronea e illusoria convinzione di poter attribuire una personalità giuridica a una macchina, poiché il robot non è una persona naturale e se tale la si volesse considerare per finzione dovrebbe allora godere dei diritti umani, come il diritto alla dignità, il diritto alla sua integrità, il diritto alla remunerazione o il diritto alla cittadinanza, in totale contraddizione con la Carta dei Diritti Fondamentali dell’Unione Europea e la Convenzione per la Tutela dei Diritti Umani e delle Libertà Fondamentali. Né, prosegue la lettera aperta, lo status giuridico di un robot può essere paragonato a quello delle società o delle persona giuridiche perché queste agiscono tramite legali rappresentanti e amministratori cui ricade la responsabilità delle azioni.

Conclusioni

La macchina di Turing, base degli sviluppi dell’Intelligenza Artificiale. Oggi sembra archeologia industriale

In base alle considerazioni finora esposte, nell’amministrazione della Giustizia l’IA può avere una significativa utilità nella ricerca, organizzazione e analisi, ma non può assumere alcuna decisone, né in fase procedimentale né in fase finale. La “riserva umana” di giurisdizione non si esaurisce nella presenza formale di un magistrato al termine del procedimento o delle sue varie fasi; richiede che il giudice conosca gli atti, verifichi autonomamente le fonti, valuti criticamente l’output algoritmico e se ne discosti dopo aver verificato che è erroneo, incoerente, ambiguo. L’’efficienza tecnologica della IA deve rimanere confinata in un ruolo servente e accessorio in modo che, per la piena tutela dei diritti, rimanga immutata e reale l’indipendenza del giudice, pieno e leale il contraddittorio, coerente e pertinente la motivazione.

Si ritiene opportuno per comodità del lettore inserire in nota un breve glossario elaborato da Chatgpt. 

Francesco Spaccasassi, già magistrato


NOTE

(1) Scansione temporale di vigenza delle norme
1°agosto 2024: Entrata in vigore formale del Regolamento;2 febbraio 2025: Divieto assoluto per i sistemi di IA a “rischio inaccettabile”;
2 agosto 2025: Applicazione delle regole di governance e degli obblighi stringenti per i modelli di IA per scopi generali;
2 agosto 2026: Piena applicazione del Regolamento per la maggior parte dei sistemi di IA;
2 dicembre 2026: Divieti mirati sulla generazione non consensuale di deepfake intimi o a sfondo; sessuale;
2 dicembre 2027: Attivazione degli obblighi per i sistemi di IA ad alto rischio autonomi;
2 agosto 2028: Termine ultimo di adeguamento per i sistemi di IA ad alto rischio integrati nei prodotti regolamentati dalle norme di sicurezza dell’UE.

(2) Ricerche dottrinali e supporto alla consultazione di banche dati; a) sintesi di provvedimenti ostensibili e contributi dottrinali per finalità di classificazione e archiviazione tematica; b) supporto all’organizzazione e alla gestione degli uffici giudiziari: report statistici, gestione dei calendari d’udienza; c) supporto agli uffici cd “affari semplici” per attività seriali e a bassa complessità giuridica; d) revisione linguistica e stilistica di testi; e) produzione di tabelle, grafici e materiali illustrativi; f) traduzione assistita di testi giuridici, con verifica umana obbligatoria; g) classificazione e categorizzazione degli atti processuali per tipologia e funzione; h) analisi strutturata del contenuto degli atti delle parti ai fini della ricostruzione delle posizioni processuali; i) sintesi documentale di atti giudiziari, per finalità di classificazione e archiviazione tematica; l) confronto tra posizioni processuali delle parti, ai fini della individuazione del thema decidendum e del thema probandum; m) compilazione assistita di atti standardizzati e di moduli (quali i mandati di arresto europeo), con supervisione e completamento obbligatori da parte del magistrato.


Breve glossario per comprendere meglio (elenco elaborato da Chatgpt):

Fondamenti dell’intelligenza artificiale

N. Termine inglese Italiano
1 Artificial Intelligence (AI) Intelligenza artificiale (IA)
2 Machine Learning Apprendimento automatico
3 Deep Learning Apprendimento profondo
4 Algorithm Algoritmo
5 Model Modello
6 Neural Network Rete neurale

 IA generativa e modelli linguistici

N. Termine inglese Italiano
7 Generative AI IA generativa
8 Large Language Model (LLM) Grande modello linguistico
9 Natural Language Processing (NLP) Elaborazione del linguaggio naturale
10 Training Addestramento
11 Inference Inferenza
12 Token Unità di testo elaborata dal modello
  1. Prompt e interazione
N. Termine inglese Italiano
13 Prompt Istruzione o richiesta
14 Prompting Formulazione delle richieste
15 Prompt Engineering Progettazione dei prompt
16 System Prompt Istruzioni di sistema
17 Context Contesto
18 Context Window Finestra di contesto
19 Output Risultato prodotto

 Dati, apprendimento e prestazioni

N. Termine inglese Italiano
20 Dataset Insieme di dati
21 Training Data Dati di addestramento
22 Fine-tuning Affinamento del modello
23 Bias Distorsione o pregiudizio
24 Generalization Generalizzazione

 Risultati, errori e affidabilità

N. Termine inglese Italiano
25 Hallucination Allucinazione
26 Accuracy Accuratezza
27 Explainability Spiegabilità
28 Transparency Trasparenza
29 Robustness Robustezza

 Etica, controllo e decisione umana

N. Termine inglese Italiano
30 Human in the Loop Intervento umano nel processo
31 Human on the Loop Supervisione umana del processo
32 Human Oversight Supervisione umana
33 Accountability Responsabilità e rendicontabilità
34 Decision-making Processo decisionale
35 Judgment Giudizio