La lotta all'impersonificazione sintetica si sposta sul fronte della protezione dell'identità digitale. TikTok ha avviato la fase di test per un nuovo strumento opzionale progettato per scansionare l'intera piattaforma alla ricerca di contenuti generati dall'intelligenza artificiale che utilizzino le sembianze dei creator senza il loro consenso. L'iniziativa mira a fornire agli autori di contenuti un meccanismo diretto per identificare e segnalare i deepfake che ne compromettono l'immagine.

Verifica dell'identità e sicurezza dei dati

Per accedere a questa funzionalità, i creator coinvolti nel test — attualmente limitato a un gruppo selezionato di utenti negli Stati Uniti — devono superare un rigoroso processo di autenticazione. La procedura è gestita tramite Jumio, un servizio esterno che richiede l'invio di un documento d'identità e la realizzazione di una scansione selfie in tempo reale. Secondo Zachary Kizer, portavoce di TikTok US, l'azienda non conserva i documenti d'identità né le informazioni facciali utilizzate per la verifica, sottolineando l'approccio orientato alla privacy nonostante la natura sensibile dei dati richiesti.

Una strategia di difesa a più livelli

Il sistema di rilevamento delle sembianze non è un intervento isolato, ma si inserisce in una strategia più ampia per contrastare la disinformazione e lo spam sintetico. TikTok sta infatti implementando diverse misure di sicurezza:

  • Contrasto allo spam AI: la piattaforma sta testando sistemi potenziati per individuare account dedicati esclusivamente alla produzione massiva di contenuti AI, specialmente in ambiti critici come la politica e l'attualità.
  • Standard di provenienza: per migliorare la trasparenza, TikTok supporta i C2PA Content Credentials, metadati crittografati che permettono di leggere automaticamente l'origine di un file multimediale al momento del caricamento.
  • Alfabetizzazione digitale: è in fase di lancio un hub educativo e una guida interna per insegnare agli utenti come distinguere i contenuti reali da quelli sintetici.

La corsa tra le piattaforme social

TikTok non è sola in questa sfida. YouTube ha già implementato una tecnologia simile, rendendola disponibile per tutti gli utenti adulti e permettendo loro di ricevere avvisi quando il proprio volto appare in video generati dall'AI. Entrambe le aziende stanno cercando di risolvere un problema strutturale: mentre i sistemi proprietari di etichettatura (come quelli che hanno già classificato 3 miliardi di video su TikTok) sono efficaci per i contenuti creati internamente, rimangono vulnerabili ai file caricati da piattaforme esterne.

Questa evoluzione riflette una tendenza globale verso la formalizzazione dell'identità digitale, richiamando proposte come il DNSid per l'identità degli agenti AI per garantire che ogni entità sintetica sia tracciabile e verificabile in modo sicuro.