I vantaggi della trasparenza degli algoritmi nella giustizia penale

Illustrazione: Alex Castro / The Verge

Due legislatori democratici cercano di fornire agli imputati più informazioni sugli algoritmi utilizzati contro di loro in un processo penale. La proposta di legge “Justice in Forensic Algorithms Act” presentata dagli onorevoli Mark Takano (D-CA) e Dwight Evans (D-PA) consentirebbe agli imputati di accedere al codice sorgente del software utilizzato per analizzare le prove nel loro processo penale. Inoltre, la legge richiederebbe all’Istituto Nazionale di Standard e Tecnologia (NIST) di creare standard di test per gli algoritmi forensi, che il software utilizzato dagli organi investigativi federali dovrà rispettare.

La proposta di legge agirebbe come un controllo sui risultati non voluti che potrebbero essere creati utilizzando la tecnologia per aiutare a risolvere i crimini. I ricercatori accademici hanno evidenziato i modi in cui i pregiudizi umani possono essere incorporati nel software e come i sistemi di riconoscimento facciale spesso faticano a differenziare i volti neri, in particolare. L’uso degli algoritmi per prendere decisioni conseguenti in molti settori diversi, inclusi la risoluzione dei crimini e l’assistenza sanitaria, ha destato preoccupazione tra i consumatori e gli attivisti come risultato di tali ricerche.

Questo esempio dimostra perché il sistema di giustizia penale deve essere consapevole delle “possibilità e limiti di questa tecnologia”, ha dichiarato Takano in un’intervista telefonica. Gli avvocati della difesa e gli imputati stessi “dovrebbero poter mettere in discussione la tecnologia e la tecnologia non dovrebbe essere considerata… infallibile”, ha aggiunto. Sebbene l’industria possa avere problemi con l’impatto della legge sulla loro proprietà intellettuale, Takano ha dichiarato di non ritenere che “i diritti di profitto proprietari superino i diritti di processo equo degli imputati penali”.

Takano ha riconosciuto che ottenere o assumere l’esperienza necessaria per analizzare il codice sorgente potrebbe non essere possibile per ogni imputato. Tuttavia, richiedere al NIST di creare standard per gli strumenti potrebbe almeno fornire loro un punto di partenza per capire se un programma soddisfa gli standard di base.

Sebbene la legge non abbia ancora il sostegno dei repubblicani, Takano è ottimista che la questione possa superare le divisioni di partito. Ha fatto riferimento alla preoccupazione bipartisan per il conferimento di poteri eccessivi alle agenzie di applicazione della legge, sollevata dal dibattito sulla riautorizzazione della sezione 702 dell’Act sulla sorveglianza delle informazioni straniere.

“Ci sono elettori di entrambi i partiti che sostengono questa causa”, ha detto Takano. “Ne sono convinto”.

Domande frequenti:

Domanda: Cos’è la proposta di legge “Justice in Forensic Algorithms Act”?
Risposta: La proposta di legge “Justice in Forensic Algorithms Act” è un’iniziativa presentata dai legislatori democratici Mark Takano e Dwight Evans. Essa mira a dare agli imputati accesso al codice sorgente del software utilizzato per analizzare le prove nel loro processo penale, fornendo così un controllo sui risultati non voluti creati utilizzando la tecnologia per risolvere i crimini. La legge richiederebbe anche all’Istituto Nazionale di Standard e Tecnologia (NIST) di creare standard di test per gli algoritmi forensi utilizzati dagli organismi investigativi federali.

Domanda: Qual è lo scopo della proposta di legge?
Risposta: Lo scopo della proposta di legge è quello di garantire che gli imputati abbiano il diritto di comprendere e mettere in discussione il software e gli algoritmi utilizzati contro di loro nel processo penale. Essa mira anche a evidenziare i modi in cui i pregiudizi umani possono influenzare i risultati degli algoritmi e come tali tecnologie possano sollevare preoccupazioni tra i consumatori e gli attivisti.

Domanda: Cosa si intende per algoritmi forensi?
Risposta: Gli algoritmi forensi sono software utilizzati dalle agenzie investigative per analizzare le prove nel contesto di un processo penale. Questi algoritmi possono essere utilizzati, ad esempio, per l’elaborazione delle immagini, l’analisi del riconoscimento facciale o per fornire supporto alle indagini.

Domanda: Cosa sono i standard di test per gli algoritmi forensi?
Risposta: I standard di test per gli algoritmi forensi sono linee guida create dall’Istituto Nazionale di Standard e Tecnologia (NIST) per stabilire i criteri che il software utilizzato dagli organismi investigativi federali deve rispettare. Questi standard mirano a garantire la qualità e l’affidabilità delle analisi forensi effettuate.

Domanda: Quali potrebbero essere le preoccupazioni riguardo a questa proposta di legge?
Risposta: Alcuni potrebbero essere preoccupati per l’impatto sulla proprietà intellettuale dell’industria, dato che la legge richiederebbe l’accesso al codice sorgente del software utilizzato. Tuttavia, secondo Takano, i diritti di un processo equo degli imputati penali dovrebbero essere messi al di sopra dei diritti di profitto proprietari.

Domanda: Qual è la posizione dei repubblicani riguardo a questa proposta di legge?
Risposta: Al momento, la proposta di legge non ha ancora il sostegno dei repubblicani. Tuttavia, Mark Takano è ottimista sul fatto che la questione possa superare le divisioni di partito, visto il sostegno bipartisan per la limitazione dei poteri delle agenzie di applicazione della legge in altri contesti.