Studenti del Maryland fanno causa dopo che l'AI scambia patatine per un'arma
Fonte: The Guardian AI · · AI *
Quattro studenti ed ex studenti di una scuola superiore del Maryland hanno intentato una causa legale un anno dopo che la polizia armata li aveva fermati a causa di un falso allarme generato da un sistema di intelligenza artificiale che aveva scambiato un sacchetto di Doritos per un'arma da fuoco. L'incidente ha lasciato i giovani « temendo per la loro vita » dopo che sei volanti della polizia sono intervenute, ordinando loro di mettersi in ginocchio, ammanettandoli e perquisendoli la sera del 20 ottobre dello scorso anno, mentre erano fuori vicino ai tavoli da picnic dopo un allenamento di football a consumare snack offerti dall'allenatore.
La denuncia è stata mossa contro Omnilert, l'azienda produttrice del sistema di rilevamento di armi basato su intelligenza artificiale, la polizia della contea di Baltimora, il consiglio di istruzione, singoli agenti e il preside della scuola, per detenzione e perquisizione illegali dovute a errori tecnologici e umani. Il sistema Omnilert Gun Detect aveva segnalato il sacchetto di patatine come un'arma da fuoco con una confidenza del 90% e l'allarme era continuato nonostante il personale scolastico e la polizia avessero verificato l'errore. La causa cita un ufficio dell'ispettore generale per l'istruzione del Maryland secondo cui oltre il 99% degli allarmi generati da Omnilert Gun Detect nelle scuole pubbliche della contea di Baltimora erano falsi positivi che non richiedevano l'intervento della polizia.
I legali e le famiglie denunciano il profondo trauma emotivo e lo shock vissuto dai ragazzi, come raccontato da Taki Allen e Freida Winfield, mentre i portavoce delle parti coinvolte hanno risposto con la revisione della causa e l'assenza di commenti immediati sul contenzioso pendente. L'azione legale include anche messaggi in cui il preside minimizzava l'accaduto con emoji divertite, mentre gli agenti stessi criticavano sul posto la tecnologia con espressioni come « Stupide telecamere AI ».
* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.
Fonte originale: Leggi l'articolo completo su The Guardian AI
Titolo originale: Four Maryland high school students sue after AI mistakes Doritos bag for gun