Perplexity ha lanciato l'Orchestrator API, un unico punto di accesso a modelli proprietari e a modelli aperti, cioè i cui pesi sono disponibili per il download. Per chi costruisce software significa poter collegare più fornitori senza gestire più integrazioni né più fatture.
Cos'è e come si collega
L'Orchestrator è un gateway di inferenza ospitato: risponde a un solo indirizzo di base e instrada le richieste verso il modello scelto. Nel catalogo ci sono i modelli di OpenAI, Anthropic, Google e xAI, affiancati da famiglie aperte come GLM, Kimi e DeepSeek, eseguite da Perplexity o da partner specializzati nell'inferenza. Il servizio accetta le richieste nei formati di OpenAI Chat Completions, OpenAI Responses e Anthropic Messages, quindi nella maggior parte dei casi basta cambiare la chiave e l'indirizzo. Perplexity usa lo stesso livello anche per le proprie applicazioni interne, che coprono oltre 85 modelli e più di una dozzina di fornitori.
Cosa succede quando un fornitore va in crisi

Immagine: Perplexity — https://docs.perplexity.ai/docs/getting-started/overview
Il failover mantiene fisso il modello e cambia l'infrastruttura che lo serve. Una richiesta Claude che fallisce presso Anthropic può quindi essere evasa da AWS Bedrock, restando una richiesta Claude. Il passaggio scatta con errori del fornitore, limiti di frequenza superati o timeout. Le richieste malformate o troppo lunghe ricevono un errore 400 e non vengono ritentate; se tutte le infrastrutture falliscono, la risposta è un 429 con l'indicazione di quando riprovare. Le richieste che cadono prima di produrre output non vengono fatturate, e lo sviluppatore non può scegliere da solo l'infrastruttura. Le soglie di tempo per il primo token e per la durata totale non sono pubblicate.
I numeri sull'affidabilità
Perplexity sostiene di aver misurato il traffico reale dal 4 ottobre al 2 novembre: le richieste verso Claude e GPT sono riuscite più spesso rispetto a qualsiasi singolo fornitore osservato, e il tasso giornaliero è variato meno durante i disservizi. Il post non riporta percentuali precise, né la metodologia o i fornitori confrontati, e il dato non è stato verificato da terzi. Anche la velocità cambia da un fornitore all'altro: per Claude Opus 5.5, Anthropic è stata la più rapida in 15 giorni su 30 e AWS Bedrock nei restanti 15; sul modello GPT-5.6 Sol la mediana di Azure risulta il 27% più veloce di quella di OpenAI. Instradare in base alla velocità è ancora in sviluppo.
Il routing automatico, in anteprima
La modalità più ambiziosa è perplexity/auto, ancora in anteprima. Lo sviluppatore indica un modello di default e una serie di rotte, ciascuna con nome, descrizione e modello associato. Un modello decisionale legge la conversazione e le descrizioni delle rotte, ma non vede i nomi tecnici né gli identificativi dei modelli. Se nessuna rotta corrisponde, oppure il decisore fallisce o va in timeout, risponde il modello di default, che vale anche per gli input multimediali. Le intestazioni della risposta dicono quale percorso è stato scelto e con quale sicurezza. La politica predefinita manda il traffico a GPT-6.1 Sol e le richieste semplici a GPT-6 Luna; sono inoltre disponibili profili preimpostati a basso costo, bilanciato e ad alta qualità.
Il routing può aggirare i rifiuti dei modelli?
Perplexity ha provato la strategia su 63 attività di sicurezza informatica e scienze della vita eseguite in Claude Code. Con il solo Claude Fable 5.2 ne sono riuscite 38; aggiungendo rotte verso GPT-6.1 Sol o GPT-6 Astra ne sono riuscite 41. L'azienda sostiene che le protezioni di Fable blocchino anche lavori legittimi, ma il guadagno è di tre attività, con un costo stimato più alto per attività, e Perplexity stessa parla di confronto aggiustato: i risultati variano a seconda del carico di lavoro.
Prezzi e accesso
Ogni richiesta è fatturata alla tariffa per token pubblicata del modello che risponde, e il passaggio a un altro fornitore non la modifica. Perplexity dichiara che la piattaforma non aggiunge una commissione, mentre altri servizi del settore applicano una percentuale sulle ricariche. L'uso attinge a crediti API prepagati, acquistabili anche tramite AWS Marketplace. L'accesso dipende dal livello: il primo comprende Google, xAI e i modelli aperti; il secondo, da 50 dollari, include OpenAI e la maggior parte dei modelli Anthropic; il terzo, da 250 dollari, dà accesso a Claude Opus 5, Opus 5.5 e ai modelli Fable.
Il confronto con OpenRouter e Vercel
OpenRouter, che dichiara oltre 400 modelli e più di 70 fornitori, e il gateway di Vercel offrono un servizio simile. Il primo applica una commissione del 5,5% sulle ricariche nel piano standard e dell'8% in quello business; il secondo non prevede costi di piattaforma né sovrapprezzo sui token. Perplexity non dichiara il numero esatto dei modelli disponibili.
La novità si inserisce in un filone già seguito dalla redazione: Cloudflare ha messo in beta un router che sceglie il modello per ogni richiesta, e Architect ha portato le aste tra fornitori sulla singola richiesta. Anche le aziende statunitensi stanno diversificando i modelli per contenere i costi, e AnonRouter promette di instradare senza leggere i prompt.
Per chi integra questi servizi, il punto da verificare è se l'affidabilità dichiarata regga sul proprio traffico e se il routing automatico mantenga le promesse sulla qualità, dato che le prove pubblicate sono quelle del fornitore.

Ancora nessun commento. Puoi essere il primo!