Chi possiede GPU per l'intelligenza artificiale ha un problema ricorrente: anche i cluster ben gestiti restano fermi tra una prenotazione e l'altra. Shadeform, marketplace di cloud GPU, prova a trasformare questo tempo morto in ricavi con Spot, un nuovo servizio lanciato durante la sua settimana di annunci dal 19 al 23 ottobre.

Psst!Aggiungi AlexTech.ai comeFonte Preferita su Google

Il meccanismo è semplice. Una volta registrato un nodo, il fornitore può metterlo in vendita su Shadeform a un prezzo scontato ogni volta che non è in uso, e riprenderlo quando serve. L'iscrizione richiede un singolo script e si appoggia a Flex VM, il servizio che trasforma i nodi GPU bare-metal in macchine virtuali single-tenant. Secondo Shadeform, compensare i tempi di inattività con i ricavi di Spot riduce in media del 29% il costo totale contrattuale dell'infrastruttura posseduta.

Cosa ottengono gli acquirenti

Dal lato dei clienti, Spot offre istanze GPU dedicate a un prezzo inferiore rispetto alle tariffe on-demand, con un compromesso: l'istanza può essere interrotta. Il servizio è pensato per lavori che tollerano le interruzioni, come l'addestramento con checkpoint, l'inferenza in batch, il rendering e gli esperimenti su larga scala. I team scelgono Spot dalla console di Shadeform oppure tramite API e CLI, e ricevono un preavviso prima che l'istanza venga ritirata.

Il prezzo Spot è fissato per tipo di istanza e per fornitore, con uno sconto significativo rispetto alle tariffe standard on-demand di Shadeform. Secondo l'azienda, la capacità disponibile crescerà man mano che altri fornitori registreranno i propri nodi.

Il contesto: GPU sempre più care

L'annuncio arriva mentre i prezzi dell'hardware e del noleggio salgono e i contratti minimi si sono moltiplicati. Shadeform presenta Spot come un modo per recuperare parte di quel costo, in un mercato dove già da tempo i fornitori di calcolo faticano a far tornare i conti. Lo stesso marketplace aveva presentato in parallelo Flex VM, che secondo l'azienda permette di registrare un nodo in circa 30 minuti una volta approvato, con un utilizzo superiore al 95% sulle GPU delle serie Blackwell e Hopper presenti in piattaforma.

Come riportato da Shadeform, Spot è un'iniziativa che sposta parte del rischio sul fornitore dell'hardware, facendo leva sull'idea che ogni ora di GPU ferma sia un ricavo perso. Il servizio, al momento, è presentato come un'opzione facoltativa: il fornitore decide se mettere in vendita il proprio nodo o tenerlo riservato ai propri carichi di lavoro.