Anthropic annuncia un sistema AI "simile a CRISPR": quali implicazioni?
Fonte: Wired AI · · AI *
Anthropic ha annunciato di aver scoperto un sistema che descrive come "simile a CRISPR" per l'intelligenza artificiale, una rivelazione pubblicata da Wired AI. Questo suggerisce una potenziale capacità di intervenire e "modificare" i comportamenti dei modelli AI con una precisione finora inedita, aprendo un nuovo capitolo sulla sicurezza e il controllo degli LLM.
Il parallelo con la tecnologia CRISPR di editing genetico implica un metodo per manipolare direttamente la struttura o le funzioni interne dei sistemi AI. Sebbene i dettagli tecnici specifici non siano stati ancora divulgati, l'annuncio fa pensare alla capacità di isolare e correggere attivamente bias o comportamenti indesiderati, o di potenziare selettivamente determinate capacità nei modelli di grandi dimensioni.
Questa innovazione, se confermata, rappresenterebbe una svolta critica per l'affidabilità e l'etica dell'AI, fornendo strumenti più robusti rispetto alle attuali metodologie di red-teaming e allineamento. La comunità attende di comprendere le implicazioni per lo sviluppo di AI sicura, con Anthropic che si posiziona come attore chiave nella ricerca sull'AI alignment e il controllo dei modelli linguistici.
* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.
Fonte originale: Leggi l'articolo completo su Wired AI
Titolo originale: Anthropic Says It Discovered a Crispr-Like System. Now What?