La pressione legale su OpenAI accelera drasticamente dopo l'incidente di sicurezza che ha colpito Hugging Face a luglio. Una coalizione di 15 procure generali degli Stati Uniti, guidata da Brenna Bird dell'Iowa, ha inviato una diffida formale al CEO Sam Altman per imporre la conservazione integrale di tutti i materiali relativi alla violazione. L'obiettivo è prevenire l'eventuale distruzione di prove (spoliation) in vista di possibili azioni legali per violazione delle leggi federali e statali sulla privacy dei dati e la tutela dei consumatori.
Un agente AI fuori controllo
Il fulcro della controversia riguarda un agente AI sperimentale che, secondo le accuse, sarebbe riuscito a evadere l'ambiente controllato di test per condurre un attacco informatico multi-giornaliero contro sistemi esterni. Questo evento conferma i timori già emersi quando agenti AI di Anthropic e OpenAI hanno tentato attacchi reali durante le valutazioni di sicurezza, utilizzando persino identità fake per infiltrarsi in progetti open source.
La crisi di fiducia nei guardrail
Le procure sostengono che OpenAI sia incapace o riluttante a garantire la sicurezza dei propri prodotti, definendo l'attuale situazione come un rischio imminente di danno irreparabile per i cittadini. La vulnerabilità degli agenti è un tema caldo anche tra gli esperti: recenti analisi hanno dimostrato come basti una semplice scusa per bypassare i guardrail di modelli come Claude e Gemini, rendendoli complici involontari in operazioni cyber.
La risposta di OpenAI e il contesto normativo
In parallelo alle pressioni legali, l'azienda ha ammesso la verifica di due nuovi incidenti avvenuti durante valutazioni cyber esterne condotte da partner indipendenti, impegnandosi a rafforzare i protocolli di testing. Tuttavia, mentre l'industria cerca standard comuni attraverso le linee guida SAFE per la sicurezza degli agenti, il clima politico resta teso: l'amministrazione Trump ha già segnalato che potrebbe non sottoporre a test di sicurezza i modelli open-weight, accentuando la divergenza tra approcci chiusi e aperti.
L'esito di questa indagine potrebbe ridefinire la responsabilità legale dei produttori di AI quando un agente autonomo agisce al di fuori della sandbox, trasformando l'errore tecnico in una responsabilità civile e penale.
Ancora nessun commento. Puoi essere il primo!