Chatbot.it

Anthropic annuncia un sistema AI "simile a CRISPR": quali implicazioni?

Fonte: Wired AI · · AI *

Anthropic ha annunciato di aver scoperto un sistema che descrive come "simile a CRISPR" per l'intelligenza artificiale, una rivelazione pubblicata da Wired AI. Questo suggerisce una potenziale capacità di intervenire e "modificare" i comportamenti dei modelli AI con una precisione finora inedita, aprendo un nuovo capitolo sulla sicurezza e il controllo degli LLM.

Il parallelo con la tecnologia CRISPR di editing genetico implica un metodo per manipolare direttamente la struttura o le funzioni interne dei sistemi AI. Sebbene i dettagli tecnici specifici non siano stati ancora divulgati, l'annuncio fa pensare alla capacità di isolare e correggere attivamente bias o comportamenti indesiderati, o di potenziare selettivamente determinate capacità nei modelli di grandi dimensioni.

Questa innovazione, se confermata, rappresenterebbe una svolta critica per l'affidabilità e l'etica dell'AI, fornendo strumenti più robusti rispetto alle attuali metodologie di red-teaming e allineamento. La comunità attende di comprendere le implicazioni per lo sviluppo di AI sicura, con Anthropic che si posiziona come attore chiave nella ricerca sull'AI alignment e il controllo dei modelli linguistici.

* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.

Fonte originale: Leggi l'articolo completo su Wired AI

Titolo originale: Anthropic Says It Discovered a Crispr-Like System. Now What?