The Pulse
Qualcomm porta modelli di IA da 30 miliardi di parametri sui suoi nuovi chip per smartphone
Qualcomm ha presentato le piattaforme per smartphone Snapdragon 8 Elite Extreme Gen 6 e Snapdragon 8 Elite Gen 6. Il modello Extreme è progettato per eseguire localmente modelli mixture-of-experts da 30 miliardi di parametri, mentre entramb

AI.info Team · Scritto con l’IA · verificato ·
L’obiettivo di Qualcomm: modelli da 30 miliardi di parametri sul telefono
Un processore per smartphone progettato per eseguire localmente un modello di IA da 30 miliardi di parametri fa ora parte della gamma mobile di punta di Qualcomm. L’azienda ha annunciato Snapdragon 8 Elite Extreme Gen 6 e Snapdragon 8 Elite Gen 6 il 22 settembre allo Snapdragon Summit di Maui, puntando con entrambi i chip sugli agenti di IA eseguiti sul dispositivo anziché sugli assistenti vocali convenzionali.
La versione Extreme può eseguire sul telefono un modello mixture-of-experts da 30 miliardi di parametri. Modelli di questo tipo dispongono di molti parametri, ma ne attivano solo una parte per ogni token, riducendo le risorse di calcolo e memoria necessarie per ogni risposta. Un modello da 30 miliardi può attivare circa 3 miliardi di parametri selezionati dal router alla volta attraverso la nuova unità di elaborazione neurale Hexagon, secondo la spiegazione tecnica di Qualcomm.
L’annuncio non significa che ogni modello da 30 miliardi di parametri funzionerà su ogni telefono che utilizza il chip. La capacità dipende dall’architettura del modello, dalla quantizzazione, dalla capacità di memoria e dal supporto software. Quanto affermato da Qualcomm riguarda Snapdragon 8 Elite Extreme Gen 6 e il suo supporto per i carichi di lavoro mixture-of-experts.
Due chip, un’unica spinta verso gli agenti locali
I nuovi processori delineano una strategia per la fascia alta articolata su due livelli. Qualcomm descrive Snapdragon 8 Elite Extreme Gen 6 come la sua piattaforma mobile più potente, mentre la versione standard Snapdragon 8 Elite Gen 6 porta molte delle stesse funzionalità per IA, fotocamera, gaming e connettività su una gamma più ampia di dispositivi premium.
«Oggi segna una tappa importante: presentiamo non una, ma due nuove piattaforme mobili di punta, che offrono esperienze di IA agentica immediate, personali e adattive», ha dichiarato Chris Patrick, vicepresidente senior e direttore generale della divisione telefoni cellulari di Qualcomm Technologies, nell’annuncio di lancio dell’azienda.
Entrambe le piattaforme utilizzano la NPU Hexagon di nuova generazione di Qualcomm e un nuovo Element Accelerator destinato ai carichi di lavoro dei transformer. La NPU dispone di un sottosistema di memoria più grande del 50%, che consente a una maggiore quantità di dati del modello, attivazioni e risultati intermedi di rimanere vicino al processore, anziché transitare ripetutamente nella memoria principale del telefono.
La NPU Hexagon è progettata attorno al calcolo selettivo
Qualcomm ha illustrato l’architettura in un articolo del 10 settembre di Vinesh Sukumar, vicepresidente della gestione dei prodotti per l’IA e l’IA generativa dell’azienda. La NPU supporta i livelli di precisione INT2, INT4, INT8, FP8 e FP16, offrendo agli sviluppatori diverse possibilità di bilanciare qualità del modello, velocità, uso della memoria e consumo energetico.
Secondo Qualcomm, il prefill dei modelli INT4 è fino al 50% più veloce. Il prefill è la fase in cui un modello elabora il prompt o la conversazione già esistente dell’utente prima di generare nuovi token. Un prefill più veloce può ridurre l’attesa prima che un agente inizi a rispondere, anche se l’effetto sul prodotto finale dipenderà dal modello e dallo stack software utilizzati da ciascun produttore di telefoni.
La spiegazione della NPU Hexagon fornita dall’azienda presenta i modelli mixture-of-experts come un modo per far rientrare sistemi di IA più grandi nei limiti di consumo energetico e memoria dei dispositivi mobili. Invece di eseguire ogni esperto per ogni richiesta, il sistema instrada ciascun token verso gli specialisti necessari. Il dato di 30 miliardi di parametri messo in evidenza è quindi diverso dalla quantità di calcolo eseguita in ogni singolo passaggio.
Piccoli modelli gestiscono il contesto vicino ai sensori
I chip introducono anche un sensing hub progettato per attività a minor consumo energetico e sempre disponibili. L’hub può eseguire localmente modelli fino a 200 milioni di parametri, supportare un assistente personale per la trascrizione e distinguere le persone che parlano. Può anche costruire una memoria basata sull’utilizzo per migliorare i suggerimenti sull’automazione delle attività.
Il processore può eseguire sul dispositivo un agente completo che riceve e fornisce risposte vocali. Mantenere localmente parte di questa interazione potrebbe ridurre la dipendenza da una connessione di rete e limitare la quantità di audio personale o di informazioni contestuali inviata a un servizio cloud, anche se Qualcomm non ha descritto un’unica esperienza software standard che sarà presente su tutti i telefoni.
L’azienda presenta queste capacità sotto forma di agenti personali in grado di comprendere il contesto, conservare informazioni sull’utente e agire con il suo consenso. La prova pratica sarà vedere se i produttori renderanno disponibili queste funzioni nei software di uso quotidiano, anziché limitarle a dimostrazioni o applicazioni proprietarie.
In primo piano anche l’hardware per fotocamera e gaming
L’IA non è l’unico ambito su cui si concentrano le nuove piattaforme. Il modello Extreme supporta video 8K a 60 fotogrammi al secondo e video 4K a 240 fotogrammi al secondo, oltre al suo codec Advanced Professional Video. Intelligent Pixel Control è pensato per offrire alla pipeline della fotocamera un controllo più dettagliato sulle singole parti di una scena.
L’azienda introduce anche Adreno Neural Fusion, che utilizza un’elaborazione IA dedicata nella GPU per funzioni come la super risoluzione, la generazione di fotogrammi e la ricostruzione delle immagini. La CPU Oryon del modello Extreme raggiunge i 5 GHz, mentre la GPU riprogettata offre, secondo Qualcomm, un aumento delle prestazioni del 44% e un miglioramento dell’efficienza energetica del 40% rispetto alla generazione precedente.
Anche la connettività riceve un importante aggiornamento. Qualcomm indica velocità di download di picco di 14,8 gigabit al secondo attraverso il sistema modem-RF X105 5G e fino a 11,6 gigabit al secondo attraverso il sistema wireless FastConnect 8800 sulla piattaforma Extreme.
Motorola presenta il primo telefono annunciato
I dispositivi che utilizzano le due piattaforme arriveranno da HONOR, iQOO, Motorola, OnePlus, OPPO, REDMI, RedMagic, vivo e Xiaomi. Motorola ha annunciato separatamente il Motorola Signature 27, basato su Snapdragon 8 Elite Extreme Gen 6, con disponibilità generale prevista più avanti nel 2026.
Il lancio offre a Qualcomm un chiaro argomento tecnico a favore dell’IA locale: un telefono può ospitare un modello con decine di miliardi di parametri disponibili, attivando solo un insieme più ristretto di esperti per ogni richiesta. La possibilità che questo produca agenti utili e rispettosi della batteria dipenderà dalla disponibilità dei modelli, dalla memoria del telefono, dalla progettazione termica e dalle scelte software di ciascun produttore. Per ora, la promessa concreta è definita dal chip: un modello mixture-of-experts da 30 miliardi di parametri è destinato a funzionare sul telefono, non in un data center remoto.
Fonte
Notizie correlate
- Google lancia Gemini 3.8 Flash TTS per creare voci personalizzate
- OpenAI porta i flussi di lavoro controllati dalla voce su ChatGPT per dispositivi mobili
- Google apre i preordini di Googlebook a 899 dollari con Gemini integrato
- Stripe apre Checkout agli agenti di IA tramite gli strumenti browser WebMCP
- Tokenizers v1 di Hugging Face codifica fino a 30 volte più velocemente