Il watermarking dei testi generati dall'AI è destinato a fallire, almeno secondo gli esperti di sicurezza informatica che analizzano la fattibilità tecnica del metodo. La direttiva europea, entrata in vigore il 2 agosto e con obbligo pieno al 2 dicembre, richiede ai provider di integrare firme invisibili nei contenuti sintetici per contrastare la disinformazione e garantire trasparenza. Tuttavia, a differenza delle immagini o dei video — dove i watermark si basano su dati densi e multistrato — il testo presenta una struttura troppo povera per supportare un'impronta robusta.

Aggiungi AlexTech.ai comeFonte Preferita su Google

La fragilità del pattern statistico

I modelli linguistici generano frasi scegliendo la parola statisticamente più probabile. Per inserire un watermark, i sistemi variano questa selezione (ad esempio alternando la prima e la seconda opzione più probabile) creando un pattern matematicamente rilevabile. Il problema è che questa manipolazione agisce su parole spesso irrilevanti per il senso della frase. Come chiarito da Anthropic, una revisione leggera non rimuove la firma, ma una riscrittura completa — dove ogni parola viene sostituita — ne cancella le tracce, rendendo il testo indistinguibile da uno umano. Inoltre, in contesti con poche opzioni lessicali come codice sorgente, citazioni o elenchi puntati, la capacità di embeddare il watermark crolla drasticamente.

Il paradosso normativo e la rimozione facile

L'AI Act esonera i sistemi usati solo per editing standard, creando un vuoto: se Claude corregge la grammatica di un testo umano, il watermark non è obbligatorio. Ma se genera contenuto originale, la firma deve essere presente. Questo confine sottile rende l'implementazione complessa e poco coerente. A complicare il quadro, esistono già tool online dedicati alla rimozione di questi pattern invisibili, rendendo la protezione un gatto e topo tecnologico. La comunità open source ha già risposto con strumenti di rimozione, come riportato in precedenti analisi sul watermarking nell'AI Act.

Oltre la firma: il vero problema è la fiducia

Il watermarking non risolve le sfide poste dai contenuti generati dall'AI, né risponde alle domande sul ruolo appropriato di queste tecnologie nella società. Come sottolineato da Access Now, nessuna quantità di watermarking può sostituire la necessità di un quadro etico e normativo più ampio. La vera sfida non è tecnica, ma sociale: come costruire fiducia in un ecosistema dove la provenienza del contenuto è sempre più opaca. Il watermarking resta una misura di trasparenza utile, ma non una soluzione definitiva.