OpenAI avvia la prima fase di valutazioni integrate con enti di sicurezza esterni
Fonte: OpenAI Blog · · AI *
OpenAI ha avviato la prima fase di valutazioni integrate, affidando a Apollo Research, METR, Transluce e Goodfire il compito di valutare in modo indipendente l'allineamento dei modelli, i sistemi di sicurezza e i sistemi di monitoraggio.
Le organizzazioni esterne coinvolte esaminano direttamente il comportamento e le misure di protezione dei sistemi di intelligenza artificiale sviluppati da OpenAI, così da garantire un controllo rigoroso e trasparente sugli standard di sicurezza.
Questa iniziativa rappresenta un passo importante verso verifiche indipendenti più strutturate, volte a mitigare i rischi legati allo sviluppo di modelli avanzati prima del loro rilascio su più vasta scala.
* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.
Fonte originale: Leggi l'articolo completo su OpenAI Blog
Titolo originale: Our first phase of embedded assessments