The Pulse
Inception lancia Mercury Voice con un tempo di risposta mediano di 320 ms
Il 29 settembre Inception ha reso Mercury Voice disponibile a tutti i clienti aziendali, riportando un tempo mediano di 320 millisecondi prima del primo token della risposta su prompt per il servizio clienti. Secondo l’azienda, il modello l
AI.info Team · Scritto con l’IA ·
Chi sviluppa agenti vocali ha dovuto scegliere tra risposte rapide e modelli capaci di ragionare su richieste complesse. Secondo Inception, Mercury Voice riduce questo divario, ma i dati del lancio indicano un obiettivo più specifico di una garanzia generalizzata di risposta in meno di 300 millisecondi: il modello ha prodotto il primo token della risposta dopo un tempo mediano di 320 millisecondi, con un risultato di 750 millisecondi al 95° percentile. L’azienda ne ha annunciato la disponibilità generale per i clienti aziendali il 29 settembre.
Mercury Voice registra una mediana di 320 ms
Inception ha misurato Mercury Voice su prompt reali per il servizio clienti e riporta un tempo mediano di 320 millisecondi prima del primo token della risposta, o TTFAT. Il dato misura l’attesa prima che il modello inizi a produrre la risposta che chi chiama sente, una volta completato il ragionamento. Secondo Inception, la latenza al 95° percentile è stata di 750 millisecondi: oltre alla mediana, conta quindi anche la parte più lenta delle risposte.
L’azienda sostiene che una pausa di un agente vocale diventi imbarazzante oltre i 500 millisecondi circa. Secondo Inception, con l’impostazione di ragionamento più bassa Mercury Voice è l’unico modello tra quelli testati ad avere un TTFAT mediano inferiore a quella soglia. Il suo p95 di 750 millisecondi, tuttavia, supera l’obiettivo dichiarato: la mediana non descrive ogni singolo turno.
Il lancio segue un’anteprima dell’8 settembre che pubblicizzava per Mercury Voice un tempo al primo token inferiore a 170 millisecondi. Quel dato e il nuovo risultato di 320 millisecondi usano misure diverse: l’ultimo annuncio si concentra sul primo token della risposta dopo il ragionamento, anziché semplicemente sul primo token. La distinzione conta nei sistemi vocali, dove un token che non fa ancora parte della risposta pronunciata potrebbe non porre fine all’attesa di chi chiama.
Le affermazioni di Inception sui benchmark hanno un ambito circoscritto
Secondo Inception, Mercury Voice si basa su un modello linguistico a diffusione, che genera token in parallelo anziché uno alla volta. L’azienda riporta che, nel suo confronto sulla latenza, Mercury Voice è stato 5,9 volte più veloce di GPT-6 Luna senza ragionamento e afferma che ha superato modelli tra cui Gemma 4 31B, GLM-5.3-Flash e Qwen3.5-397B su un indice composito di benchmark agentici e conversazionali.
L’indice composito combina i test di τ³-bench per attività nei settori delle telecomunicazioni, della vendita al dettaglio e delle compagnie aeree con IFBench e BFCL v4. I risultati sono affermazioni di Inception sui propri benchmark, non una valutazione indipendente descritta nel post di lancio. L’azienda riporta inoltre che Mercury Voice è stato due volte più veloce del modello successivo più rapido nel suo confronto tra qualità e latenza.
Accesso per le aziende, con prezzi di lancio dimezzati
Mercury Voice è disponibile per i clienti aziendali tramite l’API di Inception, come endpoint compatibile con OpenAI. Secondo l’azienda, può integrarsi negli stack esistenti per agenti vocali, tra cui LiveKit, Pipecat, Vapi e Retell; per ottenere l’accesso, i clienti devono contattare il suo team commerciale.
I prezzi standard sono di 0,40 dollari per milione di token in input e 1,50 dollari per milione di token in output. Inception offre prezzi di lancio pari alla metà: 0,20 dollari per milione di token in input e 0,75 dollari per milione di token in output. Sulla base del suo profilo tipico di agente vocale, l’azienda stima un costo di circa 0,009 dollari al minuto, contro 0,045 dollari al minuto per GPT-4.1.
I primi utenti mettono alla prova la velocità dichiarata
Inception indica tra gli utenti Audivi AI, che usa il modello per automatizzare gli ordini al drive-through, e Altur, che sviluppa agenti vocali per istituti finanziari. Secondo l’azienda, i benchmark interni di Altur hanno rilevato che Mercury Voice è il modello più veloce tra quelli testati. Pedro Fernández, cofondatore e direttore tecnologico di Altur, ha dichiarato: «È la prima volta che il modello linguistico non è il collo di bottiglia nella nostra pipeline vocale».
Nell’annuncio compare anche OpenCall, un’azienda che sviluppa agenti telefonici basati sull’IA. Secondo Inception, Mercury ha portato la latenza mediana di risposta del modello vicino a 170 millisecondi sul carico di lavoro di OpenCall in produzione. Questo risultato relativo a un cliente specifico è distinto dalla mediana di 320 millisecondi registrata da Mercury Voice sul set di test per il servizio clienti del post di lancio.