Chatbot.it

Google crea una Mirror Dimension per testare i Chrome AI agents

Fonte: Wired AI · · AI *

Google ha realizzato un ecosistema web alternativo e isolato chiamato Mirror Dimension, controllato interamente dal team Chrome, con l'obiettivo di testare in sicurezza i propri Chrome AI agents, assistenti di navigazione basati sull'intelligenza artificiale. L'ambiente riproduce una vasta gamma di siti web e piattaforme reali, tra cui social media, siti di shopping e dashboard bancarie, consentendo agli agenti di interagire, completare compiti ed essere sottoposti a test di resistenza contro attacchi come le injection di prompt nascoste, senza correre il rischio di operare sull'internet aperto prima di aver sviluppato adeguate capacità di giudizio.

Per popolare rapidamente il Mirror Dimension e raggiungere le dimensioni e la varietà del web reale, il team Chrome ha impiegato gruppi di agenti dedicati allo sviluppo di siti e applicazioni web, guidati da un sistema di supporto in intelligenza artificiale progettato appositamente per generare servizi web e flussi di dati realistici. Per permettere agli agenti di utilizzare il browser Chrome reale durante l'addestramento, i ricercatori hanno dovuto aggirare alcune protezioni del browser, ricorrendo a passaggi complessi come la creazione di certificati web falsificati per i controlli di validità. Charles Qian, ingegnere software del team di sicurezza Chrome AI, sottolinea che l'esplorazione di questo spazio web ostile è fondamentale per consentire agli agenti di sviluppare un senso di giudizio maturo e capire quando è necessario chiedere una conferma all'utente.

Google ha intenzione di rendere disponibile il Mirror Dimension ad altri team interni per ampliare l'accesso a questo ambiente di test sicuro e controllato. Doug Turner, direttore dell'ingegneria di Google, spiega che la condivisione di questo approccio punta a spingere altri team, sia interni che esterni, a considerare metodi simili, con l'obiettivo di continuare a investire nello sviluppo e nel perfezionamento di questo ambiente man mano che i modelli diventeranno più sofisticati.

* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.

Fonte originale: Leggi l'articolo completo su Wired AI

Titolo originale: Google Built a Giant ‘Mirror Dimension’ Internet to Test Its Chrome AI Agents