Mentre i test standard per l'intelligenza artificiale iniziano a perdere efficacia, un'analisi della RAND Corporation evidenzia come i guadagni di performance dei modelli più avanzati si stiano concentrando su task biologici ad alta complessità, quelli che presentano i rischi più concreti per la sicurezza globale.
La saturazione dei benchmark tradizionali
Secondo lo studio, molti dei parametri utilizzati finora per misurare le capacità biologiche delle AI sono ormai saturi, ovvero non forniscono più informazioni utili perché i modelli hanno raggiunto punteggi massimi. Questo fenomeno rende difficile distinguere tra un'AI semplicemente efficiente nel richiamare dati e una capace di ragionamento scientifico autonomo. La RAND suggerisce l'adozione della Item Response Theory per identificare una "frontiera discriminante": un set di task estremamente difficili dove le differenze tra i modelli rivelano l'effettiva evoluzione delle capacità di rischio.
Il dilemma tra utilità e biosicurezza
L'industria sta cercando di bilanciare l'accesso a queste potenzialità con la prevenzione del dual-use. Anthropic ha recentemente aggiornato i classificatori di sicurezza del modello Fable 5 Biology AI, riducendo i falsi positivi dell'85%. L'obiettivo è permettere l'uso del modello per scopi educativi e sanitari quotidiani senza compromettere i controlli sui rischi biologici. Questo avviene in un contesto di forte tensione: se da un lato l'AI accelera la scoperta di farmaci, dall'altro persiste il timore che la capacità di comporre genomi virali tramite AI generativa superi la velocità della governance globale.
Verso una valutazione basata sul workflow reale
Per superare il limite della semplice memorizzazione, stanno emergendo nuovi approcci di valutazione. Insilico Medicine ha lanciato un servizio di benchmark che testa i modelli su processi end-to-end di scoperta farmacologica, simulando l'incertezza della ricerca reale. Questo spostamento è cruciale poiché, come già osservato per la progettazione di nuovi virus funzionanti, l'AI non sta più risolvendo task isolati, ma sta integrando interi workflow che potrebbero essere deviati per scopi malevoli.
Impatto sul mercato italiano
L'evoluzione delle capacità biologiche dell'AI pone sfide immediate per i centri di ricerca e le aziende biotech italiane. La necessità di allinearsi a standard di biosicurezza internazionali, come quelli discussi nel contesto dell'AI Act europeo e dei relativi codici di condotta, richiederà l'adozione di strumenti di auditing più sofisticati per prevenire l'uso improprio di modelli open-weight in laboratori non certificati.
Ancora nessun commento. Puoi essere il primo!