Chatbot.it

OpenAI avvia la prima fase di valutazioni integrate con enti di sicurezza esterni

Fonte: OpenAI Blog · · AI *

OpenAI ha avviato la prima fase di valutazioni integrate, affidando a Apollo Research, METR, Transluce e Goodfire il compito di valutare in modo indipendente l'allineamento dei modelli, i sistemi di sicurezza e i sistemi di monitoraggio.

Le organizzazioni esterne coinvolte esaminano direttamente il comportamento e le misure di protezione dei sistemi di intelligenza artificiale sviluppati da OpenAI, così da garantire un controllo rigoroso e trasparente sugli standard di sicurezza.

Questa iniziativa rappresenta un passo importante verso verifiche indipendenti più strutturate, volte a mitigare i rischi legati allo sviluppo di modelli avanzati prima del loro rilascio su più vasta scala.

* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.

Fonte originale: Leggi l'articolo completo su OpenAI Blog

Titolo originale: Our first phase of embedded assessments