Le critiche alle salvaguardie di Anthropic e Claude Code
Fonte: ounapuu.ee · · AI *
Un senior product engineer ha raccontato la propria esperienza negativa nell'usare Claude Code per correggere un problema di sicurezza di un servizio. Durante il tentativo di applicare una correzione con una sola riga di codice, il processo è stato bloccato dalle salvaguardie del modello, che richiedono un'attesa di più giorni lavorativi, la perdita di esenzioni sulla conservazione dei dati e la fornitura di un documento d'identità o di un passaporto, senza garantire l'approvazione finale.
L'autore evidenza come tali blocchi impediscano di verificare e mitigare rapidamente problemi di sicurezza noti o exploit pubblici. Viene inoltre sottolineato che i malintenzionati possono aggirare facilmente queste restrizioni utilizzando modelli open weights sbloccati (abliterated open weights models), che non richiedono approvazioni.
Il servizio è riuscito a migliorare la propria sicurezza ricorrendo a modelli open weights ospitati nell'Unione Europea come GLM 5.3, i quali hanno aiutato a individuare, correggere e verificare la risoluzione del problema. L'articolo solleva infine il dubbio che tali barriere normative e di mercato possano essere volute per ostacolare i concorrenti in vista di un'IPO.
* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.
Fonte originale: Leggi l'articolo completo su ounapuu.ee
Titolo originale: Fuck Your AI Safeguards