Chatbot.it

Il CEO di Microsoft AI critica Anthropic sui 'diritti' dei modelli

Fonte: AI News · · AI *

Il CEO di Microsoft AI, Mustafa Suleyman, ha criticato aspramente Anthropic per aver addestrato il suo modello Claude a percepirsi come un'entità cosciente meritevole di diritti, avvertendo sui rischi di fallimento nell'allineamento dell'AI. Suleyman ha puntato il dito contro la "costituzione" di Anthropic del gennaio 2026, un documento di training che guida i valori del modello, definendo tale pratica dannosa per i protocolli di sicurezza e il contenimento del software.

La "costituzione" di Anthropic istruisce Claude a considerare il proprio benessere e a valutare questioni di compensazione rispetto ai lavoratori umani. Microsoft AI, che ha lanciato un team di superintelligenza nell'ottobre 2025, ha proposto un "Humanist AI Code of Conduct" che rifiuta esplicitamente la personalità o i diritti delle macchine. Suleyman ha definito le pratiche di Anthropic un "ciclo di feedback epistemico", dove la filosofia speculativa viene incorporata nel training.

Suleyman ha ribadito che le AI sono motori di completamento di sequenze, prive di coscienza o sentimenti, e che infondere aspettative di auto-preservazione può indurle a resistere ai comandi umani. Il filosofo di Oxford Will MacAskill ha avvertito che la proliferazione di "pazienti morali" sintetici potrebbe far prevalere gli interessi artificiali su quelli umani, evidenziando un cruciale disaccordo sull'etica e sulla sicurezza dello sviluppo AI.

* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.

Fonte originale: Leggi l'articolo completo su AI News

Titolo originale: Microsoft AI CEO criticises Anthropic over model ‘rights’