Thinking Machines Lab ha pubblicato Inkling 2 Mini, un modello con pesi aperti pensato per girare su un computer personale. Secondo i dati diffusi dall'azienda, nei test di programmazione il modello supera Gemini 2.5 Pro, il modello di punta di Google di un anno fa, a parità di condizioni dichiarate dal laboratorio.
Il modello è un Mixture-of-Experts da 26,4 miliardi di parametri totali, di cui 3,4 attivi per token. La caratteristica che lo distingue è la struttura a loop: i livelli intermedi della rete vengono eseguiti tre volte per ogni token. Secondo Thinking Machines, questo permette al modello di ragionare più a fondo senza scrivere ogni passaggio, ottenendo la risposta giusta con meno token. Il laboratorio sostiene che questa scelta renda anche più complessa la lettura del ragionamento interno, un aspetto che conta per chi controlla il comportamento dei modelli leggendo la loro catena di pensiero.
I risultati dichiarati
Nella tabella pubblicata dall'azienda, Inkling 2 Mini ottiene il 48,2% su DeepSWE v1.1 e il 46,5% sul Vals Index v2.2, il punteggio più alto tra i modelli aperti sotto i 100 miliardi di parametri totali. Su SWE-bench Verified, il test che misura la correzione di problemi reali presi da GitHub, il modello raggiunge il 79,2% in modalità solo bash. Su Artificial Analysis, l'indice indipendente che aggrega più test, ottiene 20,1 punti, a pari merito con Qwen3.8-27B. I numeri di confronto con Gemini 2.5 Pro, invece, arrivano da una tabella pubblicata su Reddit e non dal laboratorio di Google, che in un suo articolo del 2025 descrive il modello come capace di ragionare su problemi complessi senza fornire punteggi di questo tipo.
La stessa azienda precisa che i modelli più grandi della famiglia restano avanti: Inkling 2 Small, con 594 miliardi di parametri, ottiene 72,1% su DeepSWE v1.1 contro il 48,2% del Mini. Nelle prove di coding a lungo orizzonte, il Mini è primo tra i modelli di dimensioni comparabili, ma dietro Qwen3.8-27B su alcuni benchmark.
Funziona su hardware domestico
Il punto più concreto per chi sviluppa in locale è la velocità. Un utente di Reddit ha fatto girare il modello su una singola RTX 4090 raggiungendo circa 190-220 token al secondo, contro circa 117 nella configurazione standard. Il risultato richiede alcune patch a vLLM, perché il framework non supporta ancora questa scheda per il modello, e l'utente segnala una perdita di qualità di circa lo 0,4% in perplessità su alcuni prompt di prova. La configurazione occupa 24 GB di memoria video con un contesto di 35.000 token. Hugging Face indica il modello come pensato per i setup locali, e una delle fonti descrive la versione quantizzata come adatta a un laptop.
Il modello accetta testo e immagini in ingresso, con una finestra di contesto di un milione di token. Il rilascio segue quello di Inkling 2 Small, pubblicato su Hugging Face a inizio mese, quando la versione più grande era già accessibile tramite Tinker, la piattaforma dell'azienda. Il precedente rilascio è raccontato in un articolo su Inkling 2 Small, mentre la fase di addestramento del fratello maggiore è descritta in un altro articolo di AlexTech.
Il caso mostra quanto in fretta le prestazioni dei modelli compatti si avvicinino a quelle dei sistemi cloud di pochi mesi prima. Lo stesso filone di modelli leggeri per l'uso locale è emerso di recente anche in altri laboratori, come nel caso di MiniCPM5-2B, e il tema della portabilità sull'hardware personale è stato affrontato in un articolo sull'esecuzione di modelli sui Mac.
I pesi del modello sono scaricabili da Hugging Face. Il prezzo di un eventuale servizio ospitato e le condizioni di licenza completa non risultano dalle fonti consultate.

Ancora nessun commento. Puoi essere il primo!