The Pulse
Modal: Nvidia Vera ha raddoppiato il numero di attività completate dalle sandbox sotto carico
Secondo Modal, nei primi test dell’azienda la CPU Vera di Nvidia, basata su Arm, ha completato fino al doppio delle attività nelle sandbox per agenti rispetto a un server Intel equivalente. Il benchmark ha misurato carichi di lavoro simulta
AI.info Team · Scritto con l’IA · verificato ·
«Vera non rallenta man mano che le attività si accumulano, ma le porta a termine una dopo l’altra al ritmo iniziale.»
Erik Dunteman, autore del post sul blog di ingegneria di Modal
Secondo Modal, nei primi test condotti dall’azienda su sandbox per agenti sottoposte a carichi elevati, la CPU Vera di Nvidia ha completato fino al doppio delle attività rispetto a un server Intel equivalente. Il 19 ottobre 2026, l’azienda di infrastrutture ha annunciato che intende aggiungere il supporto per Vera a Modal Sandboxes, segnando il suo primo passo oltre un’infrastruttura composta esclusivamente da macchine x86.
Il dato proviene da un benchmark condotto da Modal, non da una valutazione indipendente. Secondo Modal, Nvidia ha consegnato personalmente il primo server Vera all’ufficio dell’azienda a San Francisco la settimana precedente. Modal afferma di dover ancora adattare la propria infrastruttura e il sistema di creazione delle immagini ai processori Arm e non ha indicato una data di disponibilità per i clienti.
Perché Modal ha testato sandbox molto affollate
Le sandbox per agenti eseguono codice generato da sistemi di IA e la loro richiesta di risorse CPU può variare bruscamente. Una sandbox può trascorrere del tempo in attesa di un modello e poi registrare un picco durante attività come l’installazione di software o la ricerca di file. Secondo Modal, centinaia di container e macchine virtuali possono condividere un host cloud, dove un aumento improvviso del carico di lavoro può incidere su un altro cliente.
Le Sandboxes di Modal consentono agli utenti di riservare capacità per l’utilizzo abituale e di superare temporaneamente quel livello quando la domanda aumenta. Secondo l’azienda, questa soluzione può ridurre la necessità di riservare capacità per i picchi, ma mette maggiormente alla prova la capacità dell’host di assorbire picchi simultanei senza rallentare le singole attività.
Questi ritardi contano anche al di fuori della sandbox. Modal cita gli agenti di programmazione che operano in background, per i quali un’esecuzione più rapida può ridurre la durata delle attività e i costi della CPU, e le esecuzioni di apprendimento per rinforzo, in cui le GPU, nelle configurazioni di addestramento sincrono, possono dover attendere che il lavoro nella sandbox finisca prima di passare alla fase successiva.
Cinquanta attività di programmazione, testate con carichi concorrenti
Per i suoi test, Modal ha creato Agentless Agent Bench a partire da 50 soluzioni e verificatori di Terminal-Bench. L’azienda ha eliminato le chiamate di rete ed eseguito i carichi di lavoro in container Docker preriscaldati, per concentrarsi su attività della CPU come la compilazione, la ricerca di file, le operazioni Git e l’emulazione di dispositivi.
Modal ha misurato sia la latenza delle attività eseguite in serie su una macchina altrimenti inattiva, sia il numero di attività completate all’aumentare dei container in esecuzione contemporanea. Secondo il post dell’azienda, nei test senza altri carichi, con un’attività alla volta, Vera era spesso più veloce, ma non in modo costante né con un ampio margine. Il divario maggiore è emerso quando molti carichi di lavoro competevano contemporaneamente per le risorse dell’host.
Modal ha confrontato Vera con i processori AMD Zen 5, Intel Granite Rapids e AWS Graviton 4 e 5, includendo per alcuni chip risultati ottenuti su macchine virtuali. Riporta che Vera ha completato fino al doppio delle attività rispetto a una macchina x86 Granite Rapids equivalente, mentre la latenza delle singole attività era uguale o talvolta inferiore a quella del sistema Intel. Il post non descrive alcuna verifica indipendente di questi risultati.
Il supporto per Arm è il prossimo passo tecnico
Modal attribuisce le prestazioni di Vera sotto carico alla larghezza di banda della memoria, che secondo l’azienda permette a ciascun core di gestire più carichi di lavoro dei container senza limitazioni delle prestazioni della CPU. I risultati pubblicati mostrano che i processori concorrenti raggiungono un plateau nel numero di attività completate all’aumentare del numero di CPU, mentre Vera continua a migliorare. Secondo Modal, questo andamento suggerisce che il chip potrebbe avere un margine di crescita superiore a quello emerso dall’unico server testato nel benchmark.
Il vantaggio rilevato nel benchmark non significa che Vera faccia già parte dell’infrastruttura destinata ai clienti di Modal. L’azienda afferma che il supporto per Arm richiede modifiche all’infrastruttura e alla creazione delle immagini software, dopo anni di utilizzo di macchine x86. Il prossimo passo dichiarato è collaborare con Nvidia e con i fornitori di servizi cloud per ampliare l’infrastruttura Vera; per ora, il dato sul raddoppio descrive un primo test condotto dall’azienda, non un servizio generalmente disponibile.