Chatbot.it

Le filigrane AI per il testo saranno sempre facili da rimuovere

Fonte: seangoedecke.com · · AI *

seangoedecke.com argomenta che le filigrane AI per il testo saranno sempre facilmente rimovibili, un problema significativo data l'imminente applicazione dell'Articolo 50 dell'EU AI Act ad agosto 2026. Tale normativa impone ai fornitori di LLM di rendere gli output "rilevabili come generati artificialmente" tramite filigrane, essenziale per operare nell'UE.

Vengono esaminati due metodi: SynthID di Google, che altera il campionamento dei token, e l'uso di omoglifi Unicode da parte di OpenAI e Anthropic. Il sito seangoedecke.com evidenzia come le filigrane siano difficili da integrare senza compromettere la qualità del testo e possano essere rimosse tramite semplice parafrasi o sostituzione di caratteri. L'articolo esclude le C2PA Content Credentials come soluzione per il testo non "containerizzato".

La facilità di rimozione delle filigrane solleva dubbi sull'efficacia dell'EU AI Act nel garantire la trasparenza dei contenuti AI. Se i metodi di filigranatura dovessero essere pubblici per l'interoperabilità, la loro sicurezza sarebbe ulteriormente compromessa. Questo implica che gli utenti, tecnici e non, potranno eludere facilmente i requisiti di identificazione, ponendo sfide significative per l'affidabilità delle informazioni generate dall'AI e la conformità normativa.

* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.

Fonte originale: Leggi l'articolo completo su seangoedecke.com

Titolo originale: Text AI watermarks will always be trivial to remove