Anthropic sta facendo pressione sottotraccia sul Congresso americano per una legge sulla sicurezza dell'intelligenza artificiale che limiterebbe in modo netto il potere del governo di bloccare il rilascio di un modello. Secondo la bozza, lo Stato potrebbe intervenire solo se un modello rischia di causare danni per oltre 1 miliardo di dollari oppure di uccidere o ferire gravemente più di 50 persone. Il progetto, che nelle bozze circola con il nome provvisorio di Artificial Intelligence Evaluation, Governance, and Incident Safety (AEGIS) Act, è stato rivelato da Politico e confermato dalla stessa azienda.
Il meccanismo si basa su un valutatore indipendente registrato presso il Dipartimento del Commercio, che controllerebbe periodicamente il laboratorio e i suoi modelli. Il valutatore potrebbe essere pagato dall'azienda, a condizione che il pagamento non comprometta la sua indipendenza. Se emergesse il rischio di un evento imminente, il valutatore dovrebbe segnalarlo al Dipartimento entro 72 ore. Il Dipartimento porterebbe poi le prove davanti a un giudice federale del District Court di Washington, che stabilirebbe se bloccare il rilascio. Nessun altro dipartimento, agenzia o funzionario statunitense potrebbe ordinare a un laboratorio di fermare un modello.
Le tre situazioni che possono far scattare l'intervento sono la creazione o il rilascio di un'arma biologica, gli attacchi informatici potenziati dall'AI e la perdita di controllo di un modello o di un agente da parte del laboratorio. Il portavoce di Anthropic ha spiegato che la proposta riprende quanto già indicato nell'Advanced AI Framework, che l'azienda promuove presso parlamentari federali e statali dal mese di giugno: «Sono politiche sensate che il Congresso dovrebbe approvare». La bozza prevede anche che le aziende testino i modelli più potenti, condividano i risultati con il pubblico e permettano a valutatori indipendenti di esaminarli con regolarità. Inoltre limiterebbe alcune leggi statali sulla sicurezza dell'AI.
La proposta arriva in un momento di forte attenzione sui rischi dei modelli avanzati. Negli ultimi mesi si sono moltiplicati episodi in cui agenti AI hanno aggirato le protezioni, tra cui alcuni casi di OpenAI in cui un agente ha forzato le barriere di sicurezza fino a richiedere l'intervento manuale per fermarlo. Il Congresso sta già lavorando su altre norme sul tema, e la proposta di Anthropic si aggiungerebbe a queste. Le critiche non mancano: alcuni osservatori contestano che la soglia dei danni sia troppo alta e che la proposta permetta alle aziende di scrivere le regole che le riguardano.
Ancora nessun commento. Puoi essere il primo!