L'impegno di Microsoft per la trasparenza dei contenuti generati dall'AI va oltre i requisiti minimi dell'UE: un nuovo studio di reverse engineering condotto da Xusheng Li, sviluppatore presso Vector 35, ha rivelato che le applicazioni Paint e Photos per Windows incorporano un identificativo globale (GUID) invisibile direttamente nei pixel di ogni immagine creata localmente. Questo meccanismo, che Microsoft aveva solo accennato nella documentazione ufficiale senza fornire dettagli tecnici, collega ogni output al prompt specifico che lo ha generato.

Aggiungi AlexTech.ai comeFonte Preferita su Google

Il GUID remoto nei pixel locali

La scoperta più rilevante riguarda il fatto che, sebbene la generazione delle immagini avvenga interamente in locale su PC dotati di NPU (Copilot+), il prompt viene comunque inviato a un server remoto per la moderazione. Il server restituisce quindi il prompt filtrato insieme a un GUID che viene successivamente incorporato nell'immagine finale. Questo significa che anche in assenza di una connessione per la generazione, esiste un punto di contatto con i server Microsoft necessario per l'identificazione del contenuto.

Come funziona il watermark invisibile

L'analisi ha evidenziato la presenza di una libreria dedicata, Watermarker.dll, che gestisce un watermark invisibile distinto da quello visibile (il logo Copilot). Il GUID di 16 byte viene trasformato in un payload di 18 byte includendo una somma di controllo, per poi essere espanso in 144 bit. L'algoritmo utilizza tecniche di quantizzazione su blocchi dell'immagine, richiedendo dimensioni minime di 192x192 pixel per garantire la capacità necessaria a posizionare ogni bit almeno tre volte. In un test su un'immagine sintetica di 512x512 pixel, il processo ha modificato oltre il 70% dei pixel totali.

Implicazioni per la privacy e l'AI Act

Questa implementazione si inserisce nel contesto del Code of Practice europeo sulla trasparenza dei contenuti AI, che richiede la marcatura in formato leggibile dalle macchine. Microsoft ha scelto di andare oltre i requisiti, collegando l'identificativo all'utente e al prompt. Sebbene il watermark invisibile non possa essere disattivato tramite le impostazioni standard (che controllano solo il logo visibile), la sua presenza solleva interrogativi sulla tracciabilità degli utilizzi locali. Come già evidenziato in precedenti analisi sul watermarking nell'AI Act, la robustezza di queste tecniche rimane un tema dibattuto tra gli esperti, ma l'approccio di Microsoft rappresenta uno dei casi più avanzati di integrazione tra identificazione remota e generazione locale.