The Pulse
Qualcomm porta modelli di IA da 30B di parametri sui suoi nuovi chip per smartphone
Qualcomm ha presentato le piattaforme per smartphone Snapdragon 8 Elite Extreme Gen 6 e Snapdragon 8 Elite Gen 6. Il modello Extreme è progettato per eseguire localmente modelli mixture-of-experts da 30 miliardi di parametri, mentre entramb
AI.info Team ·
L’obiettivo di Qualcomm: portare i modelli da 30B sugli smartphone
Un processore per smartphone progettato per eseguire localmente un modello di IA da 30 miliardi di parametri entra ora a far parte della gamma mobile di punta di Qualcomm. Il 22 settembre, allo Snapdragon Summit di Maui, l’azienda ha annunciato Snapdragon 8 Elite Extreme Gen 6 e Snapdragon 8 Elite Gen 6, presentando entrambi i chip come piattaforme per agenti di IA on-device, anziché per i tradizionali assistenti vocali.
Qualcomm afferma che la versione Extreme può eseguire sullo smartphone un modello mixture-of-experts da 30 miliardi di parametri. Questi modelli contengono molti parametri disponibili, ma ne attivano solo una parte per ciascun token, riducendo il fabbisogno di calcolo e memoria per ogni risposta. Secondo la spiegazione tecnica di Qualcomm, un modello da 30B può attivare circa 3B di parametri instradati alla volta tramite la nuova unità di elaborazione neurale Hexagon.
L’annuncio non significa che ogni modello da 30B funzionerà su ogni smartphone dotato del chip. La capacità dipende dall’architettura del modello, dalla quantizzazione, dalla capacità della memoria e dal supporto software. L’affermazione di Qualcomm riguarda Snapdragon 8 Elite Extreme Gen 6 e il suo supporto ai carichi di lavoro mixture-of-experts.
Due chip, una spinta verso gli agenti locali
I nuovi processori rientrano in una strategia di punta a due livelli. Qualcomm descrive Snapdragon 8 Elite Extreme Gen 6 come la sua piattaforma mobile più potente, mentre il modello standard Snapdragon 8 Elite Gen 6 offre molte delle stesse funzionalità di IA, fotocamera, gaming e connettività a una gamma più ampia di dispositivi premium.
«Oggi raggiungiamo una tappa importante presentando non una, ma due nuove piattaforme mobili di punta, che offrono esperienze di IA agentica immediate, personali e adattive», ha dichiarato Chris Patrick, vicepresidente senior e direttore generale della divisione dispositivi mobili di Qualcomm Technologies, nell’annuncio del lancio dell’azienda.
Entrambe le piattaforme utilizzano la nuova generazione di NPU Hexagon di Qualcomm e un nuovo Element Accelerator destinato ai carichi di lavoro dei transformer. Qualcomm afferma che la NPU ha un sottosistema di memoria più grande del 50%, che consente di mantenere più dati del modello, attivazioni e risultati intermedi vicino al processore, invece di trasferirli ripetutamente nella memoria principale dello smartphone.
La NPU Hexagon si basa sul calcolo selettivo
Qualcomm ha illustrato l’architettura in un post del 10 settembre firmato da Vinesh Sukumar, vicepresidente dell’azienda per la gestione dei prodotti di IA e IA generativa. Il post spiega che la NPU supporta le precisioni INT2, INT4, INT8, FP8 e FP16, offrendo agli sviluppatori diverse possibilità per bilanciare qualità del modello, velocità, uso della memoria e consumo energetico.
Qualcomm dichiara inoltre prestazioni di prefill fino al 50% più veloci per i modelli INT4. Il prefill è la fase in cui un modello elabora il prompt o la conversazione già in corso prima di generare nuovi token. Un prefill più veloce può ridurre l’attesa prima che un agente inizi a rispondere, anche se l’effetto sul prodotto finito dipenderà dal modello e dallo stack software utilizzati da ciascun produttore di smartphone.
Nella sua spiegazione della NPU Hexagon, l’azienda presenta i modelli mixture-of-experts come un modo per adattare sistemi di IA più grandi ai limiti di consumo energetico e memoria dei dispositivi mobili. Invece di eseguire ogni esperto per ogni richiesta, il sistema instrada ciascun token agli specialisti necessari. Per questo il numero di 30B nel titolo non corrisponde alla quantità di calcolo svolta in ogni singolo passaggio.
I modelli più piccoli gestiscono il contesto vicino ai sensori
I chip integrano anche un hub di rilevamento progettato per attività a basso consumo energetico e sempre disponibili. Qualcomm afferma che può eseguire localmente modelli fino a 200 milioni di parametri, supportare uno strumento personale per prendere appunti e distinguere tra i parlanti. L’azienda afferma che l’hub può anche creare una memoria basata sull’utilizzo per migliorare i suggerimenti volti ad automatizzare le attività.
Qualcomm afferma che il processore può eseguire sul dispositivo un agente completo con input e output vocali. Mantenere localmente alcune parti dell’interazione potrebbe ridurre la dipendenza dalla connessione di rete e limitare la quantità di audio personale o di contesto inviata a un servizio cloud, anche se Qualcomm non ha descritto un’unica esperienza software standard che sarà disponibile su tutti gli smartphone.
L’azienda presenta queste funzionalità come agenti personali in grado di comprendere il contesto, conservare informazioni sull’utente e agire con il suo permesso. La prova concreta sarà vedere se i produttori renderanno disponibili queste funzioni nei software di uso quotidiano, anziché limitarle a dimostrazioni o applicazioni proprietarie.
Fotocamera e gaming condividono la scena
L’IA non è l’unico punto su cui si concentrano le nuove piattaforme. Qualcomm afferma che il modello Extreme supporta video 8K a 60 fotogrammi al secondo e video 4K a 240 fotogrammi al secondo, oltre al suo codec Advanced Professional Video. Intelligent Pixel Control è progettato per offrire alla pipeline della fotocamera un controllo più dettagliato sulle singole parti di una scena.
L’azienda introduce anche Adreno Neural Fusion, che utilizza l’elaborazione IA dedicata nella GPU per funzioni come super resolution, generazione di fotogrammi e ricostruzione delle immagini. Qualcomm afferma che la CPU Oryon del modello Extreme raggiunge i 5 GHz, mentre la GPU riprogettata offre un aumento delle prestazioni del 44% e un miglioramento dell’efficienza energetica del 40% rispetto alla generazione precedente.
Anche la connettività registra un importante aggiornamento. Qualcomm indica velocità massime di download di 14,8 gigabit al secondo tramite il sistema modem-RF 5G X105 e fino a 11,6 gigabit al secondo tramite il sistema wireless FastConnect 8800 della piattaforma Extreme.
Motorola annuncia il primo smartphone
Qualcomm afferma che i dispositivi basati sulle due piattaforme arriveranno da HONOR, iQOO, Motorola, OnePlus, OPPO, REDMI, RedMagic, vivo e Xiaomi. Motorola ha annunciato separatamente Motorola Signature 27, basato su Snapdragon 8 Elite Extreme Gen 6, la cui disponibilità generale è prevista più avanti nel 2026.
Il lancio offre a Qualcomm un argomento tecnico chiaro a favore dell’IA locale: uno smartphone può ospitare un modello con decine di miliardi di parametri disponibili, attivando al contempo, per ogni richiesta, solo un insieme più piccolo di esperti. La capacità di questi agenti di risultare utili senza consumare troppa batteria dipenderà dalla disponibilità dei modelli, dalla memoria dello smartphone, dalla progettazione termica e dalle scelte software di ciascun produttore. Per ora, la promessa concreta riguarda il chip: un modello mixture-of-experts da 30B è progettato per funzionare sullo smartphone, non in un data center remoto.