The Pulse
La Commissione giuridica dell’Ontario propone 29 misure di tutela per l’IA nel sistema penale
La Commissione giuridica dell’Ontario ha proposto 29 raccomandazioni per regolamentare l’IA utilizzata da polizia, pubblici ministeri e tribunali. Il piano prevede una legge provinciale, obblighi di trasparenza e valutazioni dei rischi, nuo
AI.info Team · Scritto con l’IA · verificato ·
Le 29 raccomandazioni della Commissione giuridica dell’Ontario sottoporrebbero polizia, pubblici ministeri e tribunali a un sistema provinciale di regole sull’intelligenza artificiale, con obblighi di trasparenza, valutazioni d’impatto e verifiche periodiche. La commissione ha pubblicato il suo rapporto definitivo il 22 ottobre, proponendo una legge e misure di tutela per l’uso dell’IA nelle indagini penali e nei procedimenti giudiziari. Le raccomandazioni sono proposte, non norme già in vigore.
Quattro categorie di rischio definirebbero le regole
La commissione chiede all’Ontario di modificare l’Enhancing Digital Security and Trust Act, 2024, o di approvare una legge complementare sull’IA nella giustizia penale. Propone quattro categorie — uso vietato, ad alto rischio, limitato e a basso rischio — con obblighi commisurati all’impiego del sistema e ai potenziali danni. La provincia consulterebbe il pubblico sui criteri e su quali impieghi far rientrare in ciascuna categoria.
Secondo il piano, gli organismi della giustizia penale dovrebbero rendere noti i sistemi di IA in un registro pubblico, valutarne gli effetti ed esaminarne affidabilità, validità e distorsioni. I sistemi sarebbero sottoposti a verifiche continue, mentre la proposta di pubblicare rapporti assegnerebbe all’ispettore generale della polizia e all’agenzia per i reclami contro le forze dell’ordine dell’Ontario un ruolo nel monitoraggio dell’uso dell’IA da parte della polizia. Il rapporto raccomanda inoltre un’autorità provinciale di vigilanza dedicata e revisioni della legislazione ogni due anni.
La commissione afferma che i rischi non sono distribuiti in modo uniforme. «Questi rischi colpiscono più duramente le comunità razzializzate e quelle a basso reddito», scrivono gli autori del rapporto Ryan Fritsch e Nye Thomas. Il rapporto individua potenziali danni per i diritti, la privacy, l’equità procedurale e l’accesso alla giustizia, pur riconoscendo che l’IA può essere d’aiuto nelle indagini e nei procedimenti giudiziari.
Alcuni impieghi da parte della polizia e dei tribunali potrebbero essere vietati
La categoria degli usi vietati proposta dalla commissione potrebbe comprendere la sorveglianza biometrica a distanza in tempo reale, le previsioni individuali sulla commissione di reati — comprese le valutazioni legate alla libertà su cauzione — e i sistemi che prevedono dove si verificheranno reati. Il rapporto elenca inoltre il riconoscimento delle emozioni, alcune forme di categorizzazione biometrica, l’attribuzione di punteggi sociali e l’uso dell’IA per decidere i casi penali tra le pratiche che potrebbero essere vietate. Le presenta come possibili divieti su cui svolgere una consultazione, non come un elenco definitivo da inserire nella legge.
Altri impieghi sarebbero soggetti a un regime per gli usi ad alto rischio, anziché a un divieto automatico. Le raccomandazioni riguardano l’identificazione biometrica, i lettori automatici di targhe, la sorveglianza, le analisi forensi, i rapporti di polizia generati dall’IA e le prove basate sull’IA utilizzate in procedimenti come le udienze sulla libertà su cauzione. Tra le misure di tutela suggerite figurano test documentati in condizioni reali, registri di controllo, obblighi di divulgazione e una verifica umana dei risultati.
Il quadro proposto va oltre i dipartimenti di polizia. Riguarderebbe l’IA utilizzata dai pubblici ministeri, dagli avvocati della difesa e dai tribunali, compresi gli strumenti che aiutano a preparare documenti giuridici. Il rapporto raccomanda regole per gli acquisti che impongano di fornire informazioni sulle capacità e sulle prestazioni dei sistemi, oltre a tutele per l’indipendenza della magistratura e per la riservatezza delle indagini delle forze dell’ordine.
Procedure specifiche per le prove basate sull’IA
Per le prove create o alterate con l’IA, la commissione raccomanda un comitato congiunto federale-provinciale che elabori garanzie minime, oltre a un lavoro specifico dell’Ontario sulle regole relative alle prove nei procedimenti penali. Propone inoltre procedure di divulgazione e certificazione per le prove basate sull’IA che potrebbero essere esaminate nelle udienze sulla libertà su cauzione. Il ministero del Procuratore generale modificherebbe il Crown Prosecution Manual per mettere in pratica le relative politiche.
Le raccomandazioni affrontano lo squilibrio che una persona imputata potrebbe incontrare nel contestare prove prodotte o analizzate con sistemi tecnici. La commissione esorta l’Ontario ad aumentare i finanziamenti e le risorse per Legal Aid Ontario e chiede a Legal Aid di istituire un AI Centre of Excellence per la formazione, la ricerca giuridica e il sostegno a casi pilota individuali e sistemici. Raccomanda inoltre che il Centre of Forensic Sciences sviluppi un programma per aiutare gli avvocati della difesa a ottenere pareri di esperti sull’affidabilità, la validità e le distorsioni delle prove basate sull’IA e degli strumenti investigativi.
Le scelte legislative spettano all’Ontario
La commissione afferma che le sue raccomandazioni si basano su ricerche e consultazioni che hanno coinvolto più di 1.400 partecipanti in oltre 30 tra discussioni pubbliche, workshop, conferenze e lezioni. Descrive il rapporto come il primo studio completo sugli usi dell’IA, sui suoi rischi e sulle questioni di riforma nell’intero sistema di giustizia penale canadese. Dall’esame della commissione è emerso che, al momento della pubblicazione, nessun governo canadese aveva approvato leggi o regolamenti specifici sull’uso dell’IA da parte della polizia o dei tribunali penali.
L’Ontario dovrebbe ancora decidere se legiferare, quali sistemi inserire in ciascuna categoria di rischio e quali limiti imporre dopo la consultazione pubblica. Il rapporto delinea un percorso proposto; di per sé non cambia le regole che disciplinano le indagini di polizia, le udienze sulla libertà su cauzione o i processi.