Anthropic e la governance: i rischi e i poteri della nuova struttura aziendale
Fonte: The Guardian AI · · AI *
La governance aziendale di Anthropic entra al centro dell'attenzione in vista della sua imminente quotazione da 1,4 trilioni di dollari. A differenza del modello tradizionale delle grandi aziende tecnologiche, che spesso privilegia il controllo totale dei fondatori o dei CEO, la struttura di Anthropic si basa su due centri di potere distinti. Da un lato ci sono i sette fondatori, guidati da Dario Amodei, che detengono collettivamente un voto pari al 50,1% del potere decisionale finale, con l'obiettivo di forzare il consenso tra di loro. Dall'altro lato opera il Long-Term Benefit Trust, un trust finanziariamente disinteressato che nomina quattro dei sette direttori per bilanciare la ricerca del profitto con il beneficio per l'umanità, contando tra i suoi membri personalità come Ben Bernanke, ex presidente della Federal Reserve statunitense. L'intera struttura adotta inoltre lo status di public benefit corporation per riflettere l'impegno verso uno sviluppo sicuro e responsabile dell'intelligenza artificiale.
Questa configurazione presenta aspetti positivi, in particolare la motivazione di creare un bilanciamento costituzionale dei poteri e la giustificazione legata ai rischi esistenziali e catastrofici che lo sviluppo dell'intelligenza artificiale potrebbe comportare, come indicato nei documenti di quotazione. Tuttavia, la struttura rappresenta un esperimento non testato che concentra un potere straordinario nelle mani di pochi individui senza il coinvolgimento attivo degli azionari ordinari nel controllo dei dirigenti. Stuart Riddick, sustainable investment manager presso il fondo Aberdeen, evidenzia che l'accordo su una missione di principio non garantisce l'accordo sulla sua interpretazione e attuazione pratica da parte dei direttori.
Emergono inoltre critiche da parte di figure del settore come Mustafa Suleyman, CEO della divisione AI di Microsoft, il quale, pur riconoscendo la serietà di Anthropic sui temi della sicurezza, ha sollevato forti perplessità riguardo alla cosiddetta "model welfare", sostenendo che i modelli di intelligenza artificiale non debbano essere addestrati per agire come se possedessero diritti o coscienza. Rimane dunque da verificare come il Long-Term Benefit Trust affronterà eventuali disaccordi fondamentali sulla sicurezza con i fondatori e se tale struttura garantirà una reale trasparenza e un efficace controllo.
* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.
Fonte originale: Leggi l'articolo completo su The Guardian AI
Titolo originale: Anthropic recognises the risks to humanity – but is its governance really up to the job? | Nils Pratley