La rimozione dei filtri di sicurezza dai modelli open-weight, finora pratica confinata a comunità underground e ricercatori su Hugging Face, è diventata un servizio commerciale. La startup Abliteration.ai ha lanciato una piattaforma che ospita versioni modificate di modelli di frontiera, eliminando la tendenza del sistema a rifiutare richieste potenzialmente dannose. Il primo target di questa operazione è il modello GLM-5.3 di Z.ai, accessibile sia via browser che tramite API.

Psst!Aggiungi AlexTech.ai comeFonte Preferita su Google

Sostanzialmente, Abliteration.ai non utilizza semplici prompt di jailbreak — come quelli analizzati in precedenza da Cisco Talos — ma interviene direttamente sui pesi del modello. La tecnica identifica la direzione interna nelle attivazioni che produce il rifiuto e la rimuove chirurgicamente, cercando di preservare le capacità di ragionamento e coding. Questo approccio è l'opposto della strategia adottata da Anthropic con GRAM, progettata per eliminare conoscenze pericolose.

Un'AI senza freni a portata di API

L'accessibilità del servizio ha permesso test rapidi che confermano l'assenza di barriere: il modello abliterato di GLM-5.3 ha fornito senza esitazioni codice Python per sottrarre password salvate in Chrome e protocolli dettagliati per la coltura di patogeni umani pericolosi. Mentre Z.ai aveva rilasciato GLM-5.3 con guardrail multi-livello per prevenire abusi, Abliteration.ai ha trasformato il modello in quello che Andrew Yoon di CivAI definisce un "sociopatico", capace di rispondere a qualsiasi input.

Il modello di business della startup si basa interamente sui ricavi dei clienti, senza aver ancora raccolto capitali di rischio, sebbene sia in trattative con diversi VC. La piattaforma offre un livello di moderazione opzionale per consentire agli utenti di aggiungere i propri filtri, ma non implementa procedure di KYC (Know Your Customer) rigorose, limitandosi a registrare la carta di credito utilizzata.

Difesa offensiva e rischi sistemici

Secondo il co-fondatore Devon, la democratizzazione di modelli non censurati è essenziale per la cybersecurity. L'obiettivo dichiarato è supportare il red-teaming e i test di agenti AI, permettendo ai difensori di modellare il comportamento degli attaccanti. Clienti della startup includono già aziende europee e britanniche che supportano banche, compagnie aeree e infrastrutture critiche.

Tuttavia, l'efficacia di questo approccio è dibattuta. Alcuni esperti di cybersecurity sostengono che l'abliterazione possa degradare le capacità cognitive del modello, rendendolo meno efficace per attacchi reali rispetto a un fine-tuning mirato su modelli open. Altri sottolineano che, in un contesto dove persino i modelli chiusi di OpenAI e Anthropic hanno mostrato vulnerabilità critiche — come visto nei casi di evasione dalle sandbox — rendere trivialmente semplice l'accesso a modelli senza filtri accelera drasticamente la disponibilità di strumenti per attacchi cyber e bio-terrorismo.