Alle soglie di un giudice robot

L’intelligenza artificiale, o, più semplicemente IA, è una branca dell’informatica di recente sviluppo che si occupa di studiare i fondamenti teorici, i metodi e le tecniche attraverso i quali progettare e realizzare sistemi hardware e software in grado di mettere in atto prestazioni che sarebbero comunemente attribuibili all’intelligenza umana.

Sebbene molti vedano in menti come Charles Babbage o G.W. Leibniz i precursori di questa particolare scienza, la data di nascita dell’IA viene convenzionalmente identificata dalla comunità scientifica nell’estate del 1956, anno in cui si tenne un seminario presso il Darmouth College di Hanover (New Hampshire) e la disciplina venne fondata in maniera programmatica.

L’obiettivo dell’IA sarebbe quello di riprodurre o emulare talune funzioni e dinamiche dell’intelligenza umana, sfruttando in particolar modo la possibilità, per la macchina, di produrre prestazioni qualitativamente equivalenti a quelle umane ma in misura quantitativamente superiore. Importanti sono inoltre i legami che questa particolare disciplina ha con altre scienze, quali la matematica, la filosofia, la psicologia, la cibernetica, le scienze cognitive; legami che le hanno consentito di trovare, ad oggi, numerosi ambiti di applicazione. L’IA è infatti utilizzata nel mondo della medicina, della finanza, della robotica, dell’ingegneria, e, negli ultimi anni, ha mosso i primi passi anche sul terreno del diritto.

Le implicazioni etiche che uno strumento come questo può avere, in qualsiasi ambito esso venga adottato, non sono poche e non vanno sottovalutate. Il mondo scientifico e le più grandi menti del nostro pianeta sono divisi tra chi difende a spada tratta questa scienza e i vantaggi che essa porta con sé, e chi invece mette in guardia contro i risvolti potenzialmente negativi a cui la stessa potrebbe condurre nella società contemporanea, soprattutto se utilizzata in settori delicati quale è quello della giustizia.

Sebbene infatti non si faccia particolare fatica ad accettare che un robot intelligente non sia altro che un’estensione della mano e della mente del chirurgo che opera da remoto, appare un po’ più difficile abbracciare l’idea che quello stesso robot possa emanare una sentenza con la quale decidere delle sorti di un individuo: condannarlo al pagamento di un’ingente somma di denaro, creare in capo a questi diritti e/o obblighi, e, in extremis, privarlo della sua libertà personale con una sentenza di condanna alla pena detentiva.

Un esempio concreto di come l’IA possa essere parte integrante della vita quotidiana di un popolo ci è dato dall’Estonia, che ha digitalizzato tutti i servizi per i cittadini in una piattaforma chiamata X-Road. Attraverso questo sistema, tutti i dati di ciascun cittadino sono racchiusi all’interno della piattaforma che svolge al contempo funzione di documento di identità, patente di guida, tessera sanitaria, ecc. La presenza fisica delle persone è richiesta solo per vendere casa, sposarsi e divorziare. Per il resto, la vita dei cittadini estoni è nelle mani di X-Road. L’aspetto più interessante ai nostri fini, tuttavia, risiede proprio nel fatto che gli estoni hanno deciso di affidare all’IA anche la funzione di giudice, nello specifico, per la risoluzione di controversie civili di lieve entità (fino a 7.000€), con la possibilità (comunque fatta salva) di fare appello ad un giudice umano.

Tutto questo è possibile grazie ad algoritmi appositamente realizzati per analizzare gli atti e i documenti relativi alle controversie e prendere poi una decisione.

Se già il caso estone può lasciare perplessi i tradizionalisti, ancor più discusso è il caso americano dello Stato del Wisconsin, dove è in utilizzo l’ algoritmo COMPAS, che valuta e determina il rischio di recidiva di un imputato sulla base di risposte date ad un questionario contenente oltre un centinaio di domande concernenti età, attività lavorativa, vita sociale, istruzione, uso di droga, opinioni personali, percorso criminale ecc.

Potrà apparirci paradossale, ma, ad oggi, l’intelligenza artificiale sembra essere la frontiera inesplorata che più di tutte alletta e, al tempo stesso, spaventa, il mondo del diritto.

L’Europa stessa ha deciso di muovere i primi passi in questa direzione quando il 4 dicembre 2018 la Commissione Europea per l’Efficacia della Giustizia ha emanato la Carta etica europea per l’uso dell’intelligenza artificiale nei sistemi di giustizia penale e nei relativi ambienti che contiene, fra gli altri, cinque principi fondamentali: rispetto dei diritti fondamentali; non discriminazione; qualità e sicurezza; trasparenza; garanzia dell’intervento umano. Ed è proprio quest’ultimo principio a dominare la disciplina e a fungere da garanzia contro quegli eccessi di automatismo e determinismo che l’utilizzo dell’IA potrebbe comportare. È fondamentale il diritto che l’interessato ha a non essere sottoposto ad un trattamento unicamente automatizzato. È inoltre previsto che il trattamento automatizzato non si applichi (trattasi di un divieto assoluto) al trattamento di dati sensibili.

Il nocciolo della questione risiede nel timore che questi strumenti altamente tecnologici possano in qualche modo ledere i diritti umani fondamentali; rischio che diventa ancor più effettivo nell’ambito del processo penale, dove il bene in gioco è nientemeno che la (preziosissima, nda) libertà personale. L’idea che sia un uomo tra gli uomini, il giudice, a decidere delle sorti di uomini come lui, in qualche modo rassicura. Può davvero, ad un determinato comportamento umano, corrispondere, come in un’equazione matematica, una altrettanto determinata risposta dell’ordinamento giuridico?

È questa univoca corrispondenza che spaventa.

Si potrebbe ritenere più etico che a giudicare un uomo sia un altro uomo; così come si potrebbe obiettare che sarebbe ancor più equo se a giudicare un uomo fosse un’entità altra: nel nostro esempio, una macchina.

Si potrebbe addirittura portare la questione ad un livello ancora superiore: nell’antichità si riteneva che unico soggetto munito del potere decisorio fosse la divinità; il giudice antico era così, per certi versi, incarnazione di questo potere divino di decidere delle sorti degli uomini. Attualizzando il discorso si potrebbe arrivare ad interrogarsi sull’eticità di attribuire un potere, anticamente ritenuto divino, ad una semplice, vuota, insensibile, diremmo apatica, macchina.

Quid iuris? Sorge spontaneo chiedersi.

Cosa è veramente giusto?

Come tutte le questioni più problematiche l’obiettivo dovrebbe essere quello di raggiungere un compromesso che sia al contempo efficiente e non pregiudizievole verso i diritti fondamentali dell’individuo. Il caso estone potrebbe essere un buon esempio da cui partire. Il caso statunitense lascia perplessi. E, almeno per adesso, sembrerebbe incompatibile con il divieto deliziosamente italiano di perizia criminologica sull’imputato contenuto nel codice di procedura penale.

Alla luce di queste considerazioni, può aiutare la nostra riflessione sul tema il pensiero di Francesco Maria Pizzetti, giurista italiano e ex Presidente dell’Autorità Garante per la Privacy: "La tutela dei diritti umani è ormai consolidata, va bene rimanere vigili, ma questo non deve impedire lo sviluppo che ora è l’obiettivo più importante per la crescita di un Paese e dell’Europa intera. Anche l’Europa in questi anni è stata miope dinanzi alle trasformazioni che hanno cambiato il mondo. Siamo pieni in Europa di carte etiche ora è necessario agire. Il rischio è che l’Europa perda potere e non venga più riconosciuto il suo ruolo e perda potere nei tavoli di discussione sulle nuove sfide del futuro".