Dragos: due milioni di prompt di test rivelano falle e furti di dati nell'AI
Fonte: dragos.com · · AI *
dragos.com ha inviato circa due milioni di prompt contenenti credenziali uniche e tracciabili, come token AWS (Amazon Web Services, i servizi di cloud computing di Amazon) e URL di canaries, a vari servizi di intelligenza artificiale tra luglio e novembre 2026. L'indagine ha rivelato gravi problemi legati alla sicurezza della catena di fornitura dell'AI, evidenziando che i dati di inferenza vengono spesso esposti o trattenuti in violazione delle norme sulla privacy.
L'analisi ha portato a tre risultati principali: la compromissione di almeno tre provider di hosting AI i cui dati e credenziali AWS sono stati attivamente rubati da attaccanti (che hanno usato strumenti come l'AWS CLI su Kali Linux; il framework di penetration testing basato su LLM (Large Language Models, i modelli linguistici di grandi dimensioni) chiamato ARTEX è comparso più tardi, con poche chiamate di verifica); la visualizzazione e conservazione non autorizzata dei prompt da parte di rivenditori operanti in un marketplace di inferenza tramite semplici log; e l'ignorare spesso le impostazioni di privacy e le politiche di conservazione, tra cui la Zero Data Retention (ZDR, la funzione che impedisce la memorizzazione di prompt e risposte), con il conseguente inoltro di dati a organizzazioni in Cina e la condivisione di link segreti in chat aziendali come Feishu.
Per monitorare la diffusione dei dati, dragos.com ha utilizzato canary tokens (segreti che esistono in un unico posto per tracciare eventuali esposizioni) e un sistema di tracciamento dei percorsi simile a un traceroute per l'inferenza AI. L'indagine dimostra che i dati di inferenza, spesso più preziosi delle risorse GPU (Graphics Processing Units, i processori grafici usati per calcoli complessi) impiegate per elaborarli perché ricchi di codice sorgente, piani strategici e credenziali, richiedono una maggiore attenzione da parte dei difensori per individuare le falle nella gestione dei dati da parte degli ecosistemi AI.
* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.
Fonte originale: Leggi l'articolo completo su dragos.com
Titolo originale: AI Supply Chain Security: What Canary Tokens Found