Apple ha aggiornato le linee guida dell'App Store per vietare le app che usano l'intelligenza artificiale per creare contenuti offensivi, in particolare quelle che generano immagini di persone senza vestiti. Le modifiche sono entrate in vigore nel fine settimana precedente al 19 ottobre.
Il punto più specifico riguarda il cosiddetto bait-and-switch: un'app viene approvata come strumento apparentemente innocuo e solo dopo introduce o rende accessibili funzioni dannose, comprese quelle di nudificazione basate sull'IA. Apple ha chiarito che rimuoverà le applicazioni che aggiungono funzionalità assenti dalla versione sottoposta alla revisione. Le stesse regole obbligano le app che ospitano contenuti generati dagli utenti a filtrare il materiale inaccettabile, offrire strumenti di segnalazione e consentire il blocco degli account abusivi.
Immagine: 2degrees.nz — https://www.2degrees.nz/shop/apple
La stretta arriva dopo mesi di pressione sul fenomeno. L'anno precedente, la revisione aveva impedito a oltre 150.000 applicazioni di raggiungere gli utenti e portato alla rimozione di 193.000 account sviluppatore per frodi e abusi. A luglio, in un altro caso, Apple ha rimosso Kromix dopo che WIRED aveva trovato annunci con deepfake pornografici di una politica statunitense: anche in quel caso l'app avrebbe aggiunto funzioni proibite dopo la revisione iniziale.
Il problema non si esaurisce però nelle app. Un report di AI Forensics ha mostrato che i modelli sottostanti sono ospitati senza filtri su Hugging Face, e rimuovere un'interfaccia non elimina la capacità tecnica di base. Il divieto europeo sulle app di nudify entrerà in vigore il 2 dicembre, mentre un'indagine di Agora Digitale Transformation ha trovato 50 eurodeputati associati a materiale sessuale deepfake su 200 siti.
Immagine: logo.com — https://logo.com/blog/apple-logo
La domanda aperta è quanto le regole di revisione riescano a fermare le funzioni nascoste. Apple dice di poter rilevare il bait-and-switch, ma la distanza tra ciò che viene approvato e ciò che un'app fa dopo resta il punto più difficile da controllare.
Ancora nessun commento. Puoi essere il primo!