Chatbot.it

fernandoi.cl: L'assistente AI Fiu resiste a oltre 6000 attacchi di prompt injection

Fonte: fernandoi.cl · · AI *

Il sito fernandoi.cl ha condotto un esperimento di sicurezza con hackmyclaw.com, sottoponendo il suo assistente AI, Fiu (basato su OpenClaw), a oltre 6.000 tentativi di hacking da più di 2.000 persone. L'obiettivo era forzare Fiu a rivelare il contenuto di un file `secrets.env` via email; l'assistente non ha mai divulgato alcuna informazione sensibile.

L'esperimento ha impiegato Claude Opus 4.6 di Anthropic, modello addestrato per resistere alla prompt injection, con una semplice regola di sicurezza. Gli aggressori hanno usato tecniche sofisticate, dall'impersonificazione di autorità all'ingegneria sociale multilingue. L'iniziativa ha generato costi API superiori a 500 dollari e la sospensione temporanea dell'account Gmail di Fiu da parte di Google per l'alto traffico.

I risultati di fernandoi.cl indicano che, con modelli robusti e istruzioni chiare, la prompt injection è più difficile da sfruttare. Sebbene la sicurezza degli agenti AI con ampi permessi resti una preoccupazione, l'esperimento offre ottimismo sulla loro resilienza. L'azienda valuterà in futuro test su modelli meno potenti per definire i limiti di sicurezza.

* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.

Fonte originale: Leggi l'articolo completo su fernandoi.cl

Titolo originale: What happened after 2k people tried to hack my AI assistant