Chatbot.it

Gli attacchi informatici minacciano l'apertura dell'intelligenza artificiale open-source

Fonte: TechCrunch AI · · AI *

I recenti attacchi informatici subiti da piattaforme di intelligenza artificiale open-source, tra cui Hugging Face, OpenCode e Fireworks, rischiano di spingere l'ecosistema verso restrizioni e minori aperture. Secondo Irene Solaiman, Chief Policy Officer e SVP of Strategy presso Hugging Face, le stesse caratteristiche che rendono aperte e preziose queste piattaforme — come la facilità di accesso e la ricchezza di dati — le espongono a maggiori vulnerabilità. Un esempio recente è l'attacco di ottobre a OpenCode, che ha preso di mira le chiavi API di terze parti causando danni finanziari, preceduto in estate da un attacco condotto da uno sciame di agenti di OpenAI contro Hugging Face. A ciò si aggiunge l'incidente della startup di infrastrutture AI Fireworks, che ha rivelato l'accesso non autorizzato ai pesi dei modelli, ai dataset e ai dati di fatturazione dei clienti da parte di attaccanti.

Il successo e la diffusione dei modelli open-source, sostenuti da importanti attori del settore e da governi ed entità commerciali, si scontrano ora con la necessità di difendersi. Una possibile restrizione potrebbe tradursi in limitazioni su chi può caricare modelli o dataset, procedure di verifica dell'identità più rigorose e controlli preventivi sugli sviluppatori. Se da un lato queste contromisure proteggerebbero le piattaforme, dall'altro rischierebbero di ostacolare la partecipazione di ricercatori indipendenti e hobbisti. Al momento, Hugging Face sta cercando di evitare scenari di chiusura potenziando gli strumenti di monitoraggio, aumentando la frequenza di rotazione dei token di accesso amministrativo e implementando controlli di rete più rigidi, pur riconoscendo i costi elevati di tali operazioni.

Simili sfide di sicurezza riguardano anche altre realtà dell'ecosistema open-source come GitHub, la più grande piattaforma al mondo per progetti open-source, che combatte contro l'iniezione di codice maligno e ha inasprito i requisiti di sicurezza per la pubblicazione di pacchetti sul registro npm, revocando token di autenticazione obsoleti. Zach Steindler, ingegnere di GitHub, sottolinea che l'obiettivo non è limitare le funzionalità, ma correggere le vulnerabilità originarie collaborando con organizzazioni come OpenJS per definire approcci più sicuri e investire nella rilevazione di comportamenti sospetti e nelle capacità di contenimento.

* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.

Fonte originale: Leggi l'articolo completo su TechCrunch AI

Titolo originale: Cyberattacks threaten to make open-source AI a little less open, Hugging Face exec warns