OpenAI lancia un classificatore di immagini e avvisi in ChatGPT per contrastare il CSAM
Fonte: TechCrunch AI · · AI *
OpenAI ha annunciato il rilascio di nuovi strumenti per contrastare la diffusione di materiale relativo all'abuso sessuale su minori (CSAM, dall'inglese *child sexual abuse material*, i contenuti visivi di abusi su minori), tra cui un classificatore di immagini e avvisi integrati in ChatGPT.
Il nuovo classificatore di immagini sviluppato insieme al National Center for Missing and Exploited Children (NCMEC, l'organizzazione nazionale statunitense per i minori scomparsi e sfruttati) è in grado di rilevare immagini CSAM, comprese quelle generate tramite intelligenza artificiale. OpenAI offre accesso gratuito a questo strumento ad alcune aziende selezionate tramite le proprie API (interfacce di programmazione per far comunicare software diversi tra loro). Test preliminari hanno mostrato che il classificatore individua lo stesso numero di immagini abusive riducendo del 48% i falsi positivi per i revisori. Inoltre, l'azienda ha introdotto schermate di avviso in ChatGPT per bloccare temporaneamente per 24 ore gli account degli utenti che tentano di creare o accedere a contenuti che sessualizzano i minori, indirizzandoli verso servizi di supporto specializzato.
L'azienda sta inoltre pubblicando linee guida dedicate agli sviluppatori e fornendo alle forze dell'ordine strumenti basati sull'intelligenza artificiale, come plugin dedicati e strumenti di analisi dei dati. L'iniziativa arriva in un contesto in cui OpenAI affronta diverse cause legali e critiche relative alla sicurezza dei minori, mentre altri chatbot sul mercato sono stati utilizzati per la creazione di immagini sessualizzate non consensuali. Nel corso dell'ultimo anno, la startup ha introdotto diverse modifiche alla sicurezza, tra cui l'aggiornamento delle linee guida sui contenuti e una versione di ChatGPT pensata per gli adolescenti.
* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.
Fonte originale: Leggi l'articolo completo su TechCrunch AI
Titolo originale: OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM