Una commissione della Camera dei Comuni britannica vuole che l'intelligenza artificiale non venga più lasciata al giudizio delle sole aziende che la costruiscono. Nel rapporto «Guardrails for Growth», il Business, Innovation, Science and Trade Committee propone una legge sulla sicurezza e la protezione dell'AI che istituisca un regolatore con poteri di intervento già durante la fase di sviluppo dei modelli.
Il punto centrale è questo: il regolatore potrebbe bloccare addestramenti e test ad alto rischio, impedire il rilascio di un sistema e sospendere i servizi se i pericoli non possono essere contenuti. Il motivo, spiegano i parlamentari, è tecnico prima ancora che politico. I grandi modelli linguistici apprendono da miliardi di parametri, quindi chi li sviluppa non può sempre prevedere come si comporteranno in ogni situazione.
Le audizioni e le promesse delle aziende
La commissione ha ascoltato ricercatori, ex dipendenti del settore e rappresentanti di OpenAI, Google DeepMind, Anthropic e Meta. Tutte e quattro le aziende hanno assicurato che non rilascerebbero modelli giudicati non sicuri. Il problema, secondo il rapporto, è che ciascuna usa criteri propri per definire la sicurezza, e che la legge britannica non impone oggi una valutazione indipendente prima del rilascio.
Liam Byrne, presidente della commissione, ha usato parole dure: «Non possiamo lasciare ai leader di oggi una libertà illimitata di comportarsi come moderni dottor Frankenstein, creando pericoli che sfuggono a ogni controllo». Per Byrne, la sicurezza va garantita mentre i sistemi vengono costruiti e testati, perché una volta rilasciati non è affidabile richiamarli.
Dieci lacune e il ruolo dell'istituto britannico
Il rapporto individua dieci falle nell'approccio britannico. Tra queste l'assenza di un obbligo di segnalazione degli incidenti, l'accesso limitato per i valutatori indipendenti e la protezione insufficiente per chi denuncia problemi dall'interno.
Il Regno Unito dispone già di un AI Security Institute, noto per i test su alcuni dei modelli più potenti. Tuttavia il suo lavoro si basa sulla collaborazione volontaria e non ha il potere di impedire il rilascio di un sistema che solleva dubbi sulla sicurezza. La commissione vuole che l'istituto prosegua i test, affiancato da un regolatore distinto incaricato di far rispettare le regole. Gli sviluppatori di sistemi ad alto rischio dovrebbero fornire prove a sostegno delle proprie affermazioni sulla sicurezza e consentire ai ricercatori indipendenti di esaminarle. Ogni modifica rilevante alle capacità o alle protezioni di un modello farebbe scattare nuovi controlli.
Il silenzio come rischio
Gli ex dipendenti hanno riferito alla commissione che segnalare un problema può avere un costo. Clausole contrattuali restrittive, pressioni commerciali e disincentivi economici possono scoraggiare chi lavora nel settore dal parlarne. Per questo i parlamentari chiedono tutele legali più forti per i segnalatori e l'obbligo di comunicare incidenti e quasi-incidenti.
Il conto economico
La posta in gioco è anche economica. Usando stime di produttività dell'OCSE, la commissione calcola che l'AI potrebbe far crescere l'economia britannica fino a 400 miliardi di sterline nel prossimo decennio. Un sistema di garanzie solide, sostiene il rapporto, potrebbe spingere le imprese, soprattutto le più piccole, ad adottare la tecnologia. Il Regno Unito potrebbe inoltre guadagnare dai test indipendenti sui modelli, sfruttando le competenze già maturate nell'istituto.
Byrne sintetizza così la posizione: le aziende devono dimostrare le proprie affermazioni sulla sicurezza, gli esperti indipendenti devono poterle verificare e il regolatore deve poter intervenire quando i rischi non sono sotto controllo. Spetta poi ai ministri, responsabili davanti al Parlamento, decidere quali rischi chiedere ai cittadini di accettare.
La commissione vuole che la nuova legge sia approvata nella prossima sessione parlamentare e che il Regno Unito, presidente del G20 nel 2027, spinga gli altri Paesi verso regole più severe su test, segnalazione degli incidenti e rilascio dei modelli rischiosi.
Resta però una questione aperta. Le raccomandazioni non sono vincolanti e il governo non ha ancora deciso se sostenere la proposta legislativa, né se affidare a un regolatore il potere di fermare lo sviluppo dell'AI.

Ancora nessun commento. Puoi essere il primo!