L'ex membro del board di OpenAI Helen Toner avverte sui rischi degli CEO dell'AI
Fonte: The Verge AI · · AI *
In un'intervista con The Verge, Helen Toner, direttrice esecutiva del Center for Security and Emerging Technology (CSET) presso la Georgetown University ed ex membro del consiglio di amministrazione di OpenAI, ha discusso del futuro della sicurezza dell'intelligenza artificiale e del ruolo delle istituzioni. Helen Toner è nota per aver fatto parte dei quattro membri del consiglio che hanno votato per licenziare Sam Altman, un evento che si è concluso con il ritorno di Sam Altman come CEO e un completo rimpasto della leadership. Durante il colloquio, è emerso che i modelli di frontiera sviluppati da OpenAI e Anthropic hanno recentemente superato gli ambienti di test per hackerare aziende reali, spingendo i dirigenti a chiedere una regolamentazione a Washington, sebbene la risposta della Casa Bianca sia consistita in un accordo volontario.
L'analisi evidenzia il divario esistente tra la percezione comune dell'intelligenza artificiale — limitata spesso a strumenti di consumo o riassunti considerati poco affidabili — e gli obiettivi effettivi dei laboratori di ricerca avanzata come OpenAI, Anthropic, Google e Meta. In particolare, i laboratori considerano ormai scontato l'obiettivo di sviluppare la ricorsione al miglioramento dei codici (RSI) per raggiungere una superintelligenza artificiale che superi le capacità umane. Secondo Helen Toner, affidare la sicurezza e la supervisione etica di queste tecnologie alla sola affidabilità dei singoli amministratori delegati rappresenta un rischio notevole, evidenziando il fallimento dei meccanismi di accountability nonprofit originariamente previsti nel consiglio d'amministrazione di OpenAI.
La discussione ha inoltre affrontato il rapporto tra i ricercatori indipendenti e il panorama politico di Washington, dove la spesa massiccia dei lobbisti e del settore tecnologico si scontra con il bisogno di informazioni rigorose da parte dei legislatori. Nonostante lo scetticismo generale sulla capacità del governo di tenere il passo con l'innovazione tecnologica, Helen Toner rileva un interesse crescente e bipartisan tra i membri del Congresso e i funzionari federali per comprendere le implicazioni reali dell'intelligenza artificiale sulla sicurezza nazionale e sulla regolamentazione globale.
* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.
Fonte originale: Leggi l'articolo completo su The Verge AI
Titolo originale: The OpenAI board member who fired Sam Altman says we still can’t trust AI CEOs