Se da un lato l’Unione Europea ha recentemente delineato un’architettura normativa per il mercato unico del digitale, culminata nel Regolamento 2024/1689 (c.d. AI Act), dall’altro sembrerebbe ravvisabile un’asimmetria regolatoria nel settore penale. L’approccio europeo, incentrato principalmente sulla compliance commerciale e su sanzioni di natura amministrativa, lascia infatti irrisolti i conflitti più acuti con il sistema multilivello dei diritti sanciti dalla CEDU e dalla Carta dei Diritti Fondamentali dell’Unione Europea (CDFUE).

Pertanto, nonostante il diritto dell’UE sia già intervenuto e passi avanti siano osservabili anche sul fronte del diritto internazionale (a seguito dell’adozione della Convenzione quadro sull’intelligenza artificiale da parte del Consiglio d’Europa), la strada verso un adeguato livello di garanzia dei diritti fondamentali nel campo dell’AI sembrerebbe ancora tortuosa.

Specificamente, in materia di tutela e repressione penale dei crimini commessi con l’utilizzo dell’intelligenza artificiale, emergono numerosi aspetti meritevoli di attenzione sia dal punto di vista del diritto sostanziale che, ancor di più, da quello processuale. È necessario partire dall’assunto che, di fronte alla pervasività dell’AI, le due dimensioni sopracitate costituiscano le facce di una medesima medaglia, ovverosia la difesa delle garanzie fondamentali.

Le difficoltà non sono banali; infatti, l’ordinamento eurounitario vive oggi quello che si potrebbe definire un “paradosso sistemico”. Da un lato, appare disarmato di fronte al problema diffuso dei nuovi crimini transnazionali commessi dai privati tramite AI; dall’altro, rischia importanti derive tecno-autoritarie quando è l’autorità pubblica a impiegare tali sistemi per finalità di indagine e controllo, mettendo in discussione lo Stato di Diritto e alterando gli equilibri costituzionali.

L’armonizzazione punitiva eurounitaria incontra importanti difficoltà di fronte all’opacità algoritmica (c.d. black box) e all’autonomia dei sistemi di machine learning, caratteristiche congenite dell’intelligenza artificiale. Difatti, la competenza in materia penale nell’architettura giuridica dell’Unione Europea è regolata in via generale dall’articolo 83 del TFUE (Trattato sul Funzionamento dell’Unione Europea), il quale consente all’UE di armonizzare le legislazioni penali degli Stati membri nei settori di criminalità più grave con dimensione transnazionale, permettendo così alle istituzioni europee di stabilire norme minime su reati e sanzioni. Gli ambiti di operatività dell’art. 83 TFUE sono però limitati a specifiche fattispecie: terrorismo, tratta di esseri umani e sfruttamento sessuale di donne e bambini, traffico illecito di stupefacenti e armi, riciclaggio di denaro, corruzione, contraffazione di mezzi di pagamento, criminalità informatica e criminalità organizzata. Di conseguenza, l’utilizzo criminale dell’AI non sempre potrebbe rientrare in tali settori.

A fronte della natura intrinsecamente transnazionale dell’AI e dell’enorme offensività dei crimini derivanti da un suo impiego illegittimo, la frammentata risposta dei singoli Stati membri appare inadeguata. Fenomeni criminali di questo genere — quali, ad esempio, le frodi deepfake su vasta scala o le manipolazioni neuro-cognitive volte a influenzare il libero e corretto esercizio della democrazia rappresentativa — evidenziano l’urgenza di una maggiore omogeneità e linearità nella risposta penale. In quest’ottica, l’attivazione dell’articolo 83, par. 1, del TFUE come base giuridica per perseguire una più coraggiosa integrazione penale europea sul tema della regolamentazione dell’intelligenza artificiale, sarebbe sicuramente una direzione da prendere in considerazione.

Uno dei settori più esposti ad abusi è senz’altro quello del law enforcement, espressione inglese che sottende l’insieme dei poteri, delle attività e degli organi statali incaricati di far rispettare le leggi, prevenire e reprimere i reati, e mantenere l’ordine pubblico. Infatti, analizzando il contenuto dell’AI Act, emergono importanti criticità: il Regolamento, pur vietando alcune pratiche estreme, prevede ampie deroghe securitarie per l’uso di sistemi biometrici (come il riconoscimento facciale in tempo reale) e disciplina in modo ambiguo i software di predictive policing(giustizia predittiva) e i risk assessment tools per la valutazione della pericolosità sociale quando vengono utilizzati dal potere pubblico. L’eventuale ingresso nel processo di prove “opache” derivanti dall’utilizzo dell’AI in tali contesti potrebbe comportare il rischio di svuotare il principio della presunzione d’innocenza, il diritto al contraddittorio, il giusto processo e la parità delle armi, oltre a minacciare irrimediabilmente la sfera della privacy (art. 8 CEDU e art. 8 CDFUE). È cruciale, quindi, muoversi con grande cautela, al fine di garantire la massima protezione dei diritti fondamentali ogni volta che vengano coinvolti sistemi digitali algoritmici nell’esercizio del potere statale.

Nelle aule dei tribunali ed in dottrina il dibattito è già consolidato. Questa discussione prosegue oggi ricca di perplessità, soprattutto riguardo al livello di influenza “sopportabile” dei sistemi digitali sulle garanzie giudiziarie, alla luce degli effetti concreti dell’utilizzo dell’AI in materia penale. Basti ricordare la storica sentenza State v. Loomis, pronuncia emessa nel 2016 dalla Corte Suprema del Wisconsin (Stati Uniti) e divenuta un vero e proprio punto di riferimento globale sull’uso degli algoritmi all’interno del sistema penale. Nel 2013, Eric Loomis fu condannato a sei anni di carcere per essere stato alla guida di un’auto coinvolta in una sparatoria e per aver tentato la fuga dalle forze dell’ordine. Durante la determinazione della pena, il giudice decise di consultare un rapporto generato da COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), un software utilizzato per valutare il rischio di recidiva di un imputato. L’algoritmo classificò Loomis come un soggetto ad “alto rischio” per la comunità e la condanna fu convalidata.

La difesa presentò appello lamentando che l’uso di COMPAS avesse violato il diritto al giusto processo, fondando le argomentazioni su due criticità fondamentali: a) l’opacità dell’algoritmo, poiché essendo il funzionamento del software protetto da segreto commerciale dall’azienda sviluppatrice, risultava impossibile esaminare o contestare la logica matematica, i pesi assegnati alle variabili o il codice sorgente con cui la macchina aveva calcolato il punteggio di rischio; b) rischio di bias, sollevando dubbi sull’affidabilità scientifica di COMPAS e sulla possibilità che includesse pregiudizi legati al genere o ad altri fattori demografici.

La Corte Suprema del Wisconsin respinse il ricorso legittimando l’impiego di sistemi predittivi, ma specificò che l’output algoritmico dovesse avere valenza meramente sussidiaria, senza determinare in via esclusiva la condanna o la quantificazione della pena. Inoltre, da quel momento, i giudici avrebbero dovuto essere adeguatamente edotti sulle criticità dei software utilizzati, quali l’opacità del codice proprietario e il rischio di bias discriminatori, garantendo così che la decisione finale resti un’esclusiva prerogativa umana.

Nonostante le pronunce della giurisprudenza e gli adeguamenti delle leggi, rimangono ferme le perplessità sulla legittimità di siffatti impieghi dell’AI e degli algoritmi, che se pur formalmente non dovrebbero essere determinanti, potrebbero di fatto influenzare le scelte e le decisioni di giudici ed autorità.

L’Intelligenza Artificiale, pertanto, impone un radicale cambio di paradigma, con l’adattamento di una giustizia penale europea funzionale all’era digitale e che funga da garante dei diritti fondamentali dell’uomo in questa epoca di innovazione e rivoluzione. Sarà centrale, a parere di chi scrive, superare le resistenze legate alla sovranità nazionale e la frammentarietà delle risposte punitive, delineando un punto di equilibrio avanzato tra l’efficienza investigativa delle nuove tecnologie, la repressione unitaria delle minacce algoritmiche e l’inderogabile tutela della dignità umana, dei diritti fondamentali e della Rule of Law.

A cura del Dott. Edoardo Giulio Rossi

Image by Brian Penny from Pixabay: https://pixabay.com/illustrations/ai-generated-robot-hand-brain-8540913/