Giustizia predittiva: il caso State v. Loomis

Il noto caso State v. Loomis celebrato dinnanzi alla Corte Suprema del Wisconsin (Stati Uniti) ha ad oggetto la liceità dell'impiego del risk assessment tool COMPAS da parte del giudice del primo grado di giudizio. La pronuncia affronta importanti questioni riguardanti l’uso di strumenti di giustizia predittiva, con particolare riferimento all’opacità dell’algoritmo e all’uso di generalizzazioni statistiche. Il presente articolo offre una panoramica dettagliata del caso e delle rilevanti questioni giuridiche .

1. I fatti

Prima di ripercorrere i principali snodi argomentativi della sentenza in esame, è opportuno riassumere brevemente i fatti. Nel 2013, il cittadino statunitense Eric Loomis venne arrestato mentre era alla guida di un’automobile utilizzata in una sparatoria. Gli vennero contestati cinque capi d’imputazione: messa in pericolo dell’incolumità pubblica; tentata fuga dalle forze di polizia; guida di un veicolo a motore senza il consenso del proprietario; possesso di arma da fuoco da parte di un pregiudicato; possesso di fucile o carabina. L’imputato sostenne di essere estraneo alla sparatoria e si dichiarò colpevole soltanto per i due reati meno gravi, ossia la tentata fuga e la guida di un veicolo senza l’autorizzazione del proprietario.

Ai fine dell’irrogazione della pena, la circuit court di La Crosse (Wisconsin) – ovvero il tribunale di originaria giurisdizione – richiese il Presentence Investigation Report (PSI). Si tratta di un rapporto, preparato dai funzionari del dipartimento per la libertà vigilata, nel quale figurano informazioni sull’imputato e sul suo passato, nonché qualsiasi altro elemento idoneo a incidere sulla gravità della pena. Nel caso in questione, il PSI conteneva, tra le altre cose, la valutazione di rischio compiuta dall’applicativo COMPAS: essa presentava un elevato tasso di rischio in riferimento a ciascuno dei tre parametri considerati dall’algoritmo (pretrial risk, general recidivism e violent recidivism). Il report includeva anche una descrizione di come il responso del software dovesse essere interpretato e un monito volto a prevenirne un uso improprio. In particolare, il documento sottolineava il fatto che il risk assessment non dovesse essere utilizzato in sede di commisurazione della pena.

Il tribunale circondariale condannò Loomis a un totale di sei anni di reclusione e cinque anni di extended supervision (istituto simile alla liberazione condizionale), rifiutando di concedere la libertà vigilata. Nella propria sentenza, il giudice giustificò l’entità della pena inflitta in ragione di diversi fattori, tra cui la valutazione di COMPAS, la gravità dei reati commessi dall’imputato, la sua storia, il suo profilo criminoso e anche i capi imputazione per cui egli non si era dichiarato colpevole.

In seguito, la difesa presentò un’istanza di revisione della pena in cui sostenne che, prendendo in considerazione il risk assessment dell’algoritmo in fase di sentencing (ossia di commisurazione della pena), la corte avesse violato il diritto dell’imputato a un giusto processo. In relazione a tale istanza, il tribunale circondariale celebrò due udienze, nella seconda delle quali Loomis chiamò a testimoniare, in qualità di esperto, il dott. David Thompson. Quest’ultimo ribadì che le valutazioni di COMPAS non dovessero essere utilizzate al fine di determinare la pena, giacché il software non era destinato a quell’uso. Secondo il parere del consulente, «la corte che prende in considerazione i risultati forniti dall’algoritmo incorre fortemente nella probabilità di sovrastimare il rischio di recidiva individuale e di determinare la pena dell’imputato sulla scorta di fattori ininfluenti» (S. Carrer, 2019). Inoltre, il dott. Thompson mise in risalto il fatto che i tribunali non fossero in possesso di sufficienti informazioni riguardo a come l’algoritmo analizzasse il rischio di recidiva: a titolo di esempio, non era chiaro il modo in cui la storia individuale dell’imputato venisse comparata con quella della fascia di popolazione di riferimento, né se detta popolazione appartenesse allo stesso Stato statunitense.

            La circuit court negò l’istanza di revisione, ritenendo che la pena sarebbe stata la medesima a prescindere dalla considerazione dei punteggi di rischio elaborati dallo strumento predittivo. Conseguentemente, Loomis impugnò la decisione dinanzi la Corte d’appello, la quale rimise la questione alla Corte Suprema del Wisconsin.

2. Le questioni giuridiche sollevate

Nel giudizio avanti la Corte Suprema del Wisconsin, Loomis sostenne che, avvalendosi della valutazione di rischio di COMPAS in fase di sentencing, il giudice di primo grado avesse violato il diritto dell’imputato a un giusto processo. Nel dettaglio, il ricorrente menzionò i seguenti profili di illegittimità: (i) la violazione del diritto dell’imputato a essere giudicato sulla base di informazioni accurate, in quanto la natura proprietaria dell’algoritmo non consentiva di verificarne l’accuratezza; (ii) la violazione del diritto a una sentenza individualizzata, derivante dalle generalizzazioni statistiche compiute dall’algoritmo; (iii) l’uso improprio del parametro del sesso da parte del software. Come notò la Corte, l’appellante non stava contestando né l’utilizzo della valutazione di rischio di COMPAS per le decisioni diverse dalla commisurazione della pena, né l’impiego della citata funzionalità di needs assessment in fase di sentencing. Diversamente, Loomis contestava soltanto l’uso della funzionalità di risk assessment dello strumento predittivo nell’attività di sentencing.

Con particolare riferimento all’opacità dell’algoritmo, il ricorrente evidenziò come lo sviluppatore – facendo leva sul segreto industriale – non avesse reso note le modalità di determinazione dei punteggi di rischio, tra cui i pesi attribuiti ai diversi fattori presi in considerazione. L’assenza di tali informazioni non avrebbe quindi permesso di sindacare l’accuratezza del risk assessment. Inoltre, Loomis citò alcuni studi a supporto della scarsa affidabilità di COMPAS.

Relativamente al secondo profilo di violazione, la difesa enfatizzò il fatto che, poiché gli indici di rischio elaborati dall’applicativo si basavano su dati statistici di gruppo, il sistema non fosse in grado di determinare la specifica pericolosità del singolo individuo, bensì quella del gruppo di appartenenza.

Infine, per quanto concerne la terza ipotesi di violazione, Loomis asserì che, siccome COMPAS considerava il dato del genere nell’attribuire i punteggi di rischio, la circuit court avesse violato il diritto dell’imputato a non essere giudicato sulla base del sesso. Secondo l’appellante, infatti, il software tendeva a stimare rischi maggiori per gli individui di sesso maschile rispetto a quelli di sesso femminile: questo perché, in media, gli uomini avevano un tasso di recidiva più elevato rispetto alle donne.

3. La decisione della Corte Suprema del Wisconsin

Nella sua sentenza, la Corte Suprema del Wisconsin esaminò le questioni di diritto poste da Loomis, respingendo ciascuna delle tre ipotesi di violazione delle norme processuali.

Quanto alla prima eccezione sollevata, i giudici citarono una precedente pronuncia della Corte d’appello del Wisconsin in cui era stato riconosciuto che il diritto a essere giudicati sulla base di informazioni accurate comprendeva anche il diritto a esaminare e verificare le informazioni contenute nel PSI. Tuttavia, sebbene non fosse noto come COMPAS utilizzasse i dati ricevuti in input per calcolare i punteggi di rischio, il manuale operativo dell’algoritmo chiariva come tali punteggi si basassero prevalentemente su dati statici (come i precedenti penali dell’imputato), con un uso ridotto di fattori dinamici (come l’abuso di sostanze stupefacenti e le frequentazioni di soggetti pregiudicati). Inoltre, dal momento che la valutazione di rischio si basava sulle risposte al questionario fornite da Loomis, oltre che sui dati – pubblicamente disponibili – del suo casellario giudiziario, la Corte sostenne che il ricorrente avesse avuto la possibilità di verificare l’esattezza delle domande e delle risposte presenti sul report del software. Conseguentemente, i giudici ritennero che non vi fu, da parte del tribunale circondariale, alcuna violazione del diritto dell’imputato a essere giudicato sulla base di informazioni accurate. Ciononostante, essi sottolinearono l’esigenza di ulteriori cautele in relazione all’uso delle valutazioni di COMPAS. In particolare, i PSI contenenti i risk assessments dell’applicativo in questione dovevano informare l’organo giudicante riguardo le seguenti limitazioni: l’assenza di precisi dettagli circa il funzionamento dell’algoritmo; il fatto che le valutazioni venissero effettuate confrontando gli imputati con un campione nazionale anziché locale; il fatto che alcuni studi avessero identificato la tendenza del software a sovrastimare il rischio di recidiva di alcune minoranze.

Per quanto concerne l’ipotesi di violazione del diritto a una sentenza individualizzata, la Corte affermò che la considerazione dei risultati di COMPAS in fase di determinazione della pena, assieme a tutti gli altri fattori a disposizione, mettesse in realtà i giudici in possesso di un maggior numero di informazioni al fine di giungere a una sentenza individualizzata. Inoltre, la Corte esortò i tribunali di primo grado a «esercitare la propria discrezionalità nel tenere conto dei risultati COMPAS con riguardo peculiare ad ogni specifico individuo» (S. Carrer, 2019).

In riferimento all’ultima ipotesi di violazione contestata da Loomis, il collegio giudicante rilevò come il ricorrente non fosse stato in grado di dimostrare se la circuit court avesse effettivamente dato rilievo al genere dell’imputato in sede di condanna. In aggiunta, ad avviso della Corte, la considerazione del fattore-sesso nella determinazione del tasso di recidiva trovava fondamento su una base fattuale e, per tale motivo, garantiva l’accuratezza dei risultati dell’algoritmo.

In conclusione, la Corte Suprema ritenne che l’uso di COMPAS non avesse violato il diritto dell’imputato a un giusto processo, stabilendone così la legittimità anche in fase di sentencing. I giudici, tuttavia, non rinunciarono a definire alcuni vincoli rivolti ai tribunali che ricorrevano all’uso di tale strumento predittivo. In primo luogo, i punteggi di rischio non potevano essere utilizzati autonomamente rispetto ad altri elementi per stabilire se il reo dovesse scontare la propria pena in carcere o meno, né per determinare l’entità della pena stessa. In secondo luogo, era necessario che i tribunali circondariali spiegassero quali fattori, oltre alla valutazione di rischio di COMPAS, avessero rilevato – in modo indipendente – nella commisurazione della pena.

La Corte elencò inoltre alcuni ambiti in cui i tribunali potevano utilizzare, insieme ad altri fattori, i risk assessment tools a fondamento delle proprie decisioni: l’applicazione di misure alternative alla detenzione per gli individui con un basso rischio di recidiva; la concessione della messa alla prova; l’imposizione di termini e presupposti per la liberazione condizionale.

4. I risvolti

A seguito dell’esito negativo della sentenza della Corte Suprema del Wisconsin, il difensore di Loomis presentò un writ of certiorari (domanda di revisione giudiziaria) alla Corte Suprema degli Stati Uniti. Quest’ultima respinse l’istanza, rifiutando così di esaminare il caso. Si trattò dell’ulteriore conferma della legittimità dell’uso non esclusivo dei risk assessment tools da parte delle corti statunitensi in sede di commisurazione della pena.

La sentenza Loomis non fu esente da critiche: nella dottrina internazionale vi è chi sostenne che, invece di risolvere le sfide imposte dalla tecnologia in relazione al giusto processo, alla egual protezione da parte della legge e alla trasparenza, la Corte Suprema del Wisconsin avesse preferito limitarsi a fornire un avvertimento circa i rischi legati all’uso degli strumenti di giustizia predittiva. Ciò avrebbe causato l’esternalizzazione– almeno parziale – del processo decisionale del giudice ad algoritmi connotati da un’affidabilità discutibile, oltre che da una noncuranza delle norme fondamentali dell’ordinamento statunitense (in tal senso, H. Liu et al., 2019).

In riferimento al contesto europeo, Leonardo Romanò si esprime come segue. «Quanto emerso nel caso Loomis del 2016 rappresenta l’emblema del timore che la dottrina maggioritaria nel nostro Paese (e non solo) mostra nei confronti dello stato dell’arte degli algoritmi predittivi: il trattamento automatizzato offerto da COMPAS è indecifrabile, generalizzato, discriminatorio, invasivo della sfera personale dell’imputato e pericolosamente prescrittivo per il giudice. Ad ognuna di queste caratteristiche corrisponde la violazione di un diritto o di una garanzia espressa, non solo al livello costituzionale interno, ma anche sovranazionale europeo» (L. Romanò, 2022).

Un ulteriore ammonimento è mosso da Jordi Nieva-Fenoll, il quale ritiene che il rischio più grande sia «quello di utilizzare i risultati dell’applicazione per accertare direttamente, benché solamente in via cautelare o […] incidentale, la colpevolezza dell’accusato». Infatti, «per emanare misure tanto gravi come la carcerazione preventiva, nel processo penale si richiede sostanzialmente la prova certa della colpevolezza»: non sarebbe affatto sufficiente basarsi su una semplice percentuale di rischio (J. Nieva-Fenoll, 2019).

Bibliografia

• Carrer S., Se l’amicus curiae è un algoritmo: il chiacchierato caso Loomis alla Corte Suprema del Wisconsin, in Giurisprudenza Penale Web, 4/2019.

• Certiorari denied, Loomis v. Wisconsin, 137 S. Ct. 2290 (2017).

• Liu H. et al., Beyond State v. Loomis: Artificial Intelligence, Government Algorithmization, and Accountability, in International Journal of Law and Information Technology, vol. 27(2), 2019, pp. 13 ss.

• Nieva-Fenoll J., Intelligenza artificiale e processo, Giappichelli, Torino, 2019, p. 62.

• Romanò L., Intelligenza artificiale come prova scientifica nel processo penale, in Canzio G. – Lupária L. (a cura di), Prova scientifica e processo penale, CEDAM, Padova, 2022, p. 933.

• State of Wisconsin v. Eric L. Loomis, 881 N.W.2d 749 (Wis. 2016), parr. 11-12, 16, 19-23, 26-29, 33-34, 47, 51, 54-55, 59-61, 65-67, 72, 75-79, 83, 86-88 e 98-99.