Chatbot.it

Errori di riconoscimento facciale e rischi di arresto per le minoranze

Fonte: The Guardian AI · · AI *

Un rapporto ufficiale pubblicato mercoledì dall'ente di controllo della polizia His Majesty’s Inspectorate of Constabulary ha evidenziato che gli agenti di polizia rischiano di arrestare persone innocenti, in particolare appartenenti a minoranze etniche, se trattano i dati inaccurati del riconoscimento facciale retrospettivo come prove concrete. Secondo il documento, alcuni investigatori non sanno che i risultati del riconoscimento facciale retrospettivo costituiscono intelligence e non prove, e richiedono ulteriori verifiche prima di intraprendere azioni esecutive.

Il rapporto rileva la presenza di errori e distorsioni negli algoritmi, inclusa una maggiore probabilità di segnalare erroneamente come sospetti i membri di minoranze etniche. Gli auditor hanno inoltre riscontrato casi in cui gli utenti hanno caricato immagini di scarsa qualità o non idonee, come immagini sfocate o con più volti, riducendo l'affidabilità del sistema, oltre al mantenimento di immagini segnaletiche che avrebbero dovuto essere eliminate.

Il capo dell'ispettorato Kathryn Stone ha dichiarato che il continuo supporto pubblico dipende dalla dimostrazione di un utilizzo corretto della tecnologia, sottolineando la necessità di garanzie adeguate, gestione dei rischi legati ai pregiudizi e giudizio umano. Jasleen Chaggar, rappresentante di Big Brother Watch, ha definito allarmante l'approccio degli agenti che trattano i risultati come punteggi di probabilità anziché come prove certe, mentre Ben Russell, responsabile del riconoscimento facciale per il National Police Chiefs’ Council, ha ribadito l'impegno della polizia verso un utilizzo etico e proporzionato della tecnologia. Il professore Pete Fussey dell'University of Southampton ha ricordato che il controllo umano significativo dei sistemi di intelligenza artificiale è un requisito legale.

* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.

Fonte originale: Leggi l'articolo completo su The Guardian AI

Titolo originale: Facial recognition errors put ethnic minorities at risk of wrongful arrest, police watchdog warns