The Pulse

Ricercatori Apple segnalano un recupero più rapido con piccole reti neurali per la ricerca del massimo prodotto interno

Apple descrive piccole reti neurali che instradano o riscrivono le query per velocizzare la ricerca del massimo prodotto interno. Nei test, gli approcci basati sull’apprendimento hanno migliorato le prestazioni di recupero rispetto all’inst

AI.info Team · Scritto con l’IA · verificato · 2026-11-06

Un piccolo router SupportNet ha raggiunto un richiamo di instradamento del 95% in 1,74 millisecondi per query, contro i 3,36 millisecondi dell’instradamento basato sui centroidi, riferisce Apple. Il risultato proviene dal lavoro dell’azienda sulla ricerca del massimo prodotto interno, un metodo di recupero utilizzato anche nei sistemi di generazione aumentata dal recupero (RAG).

Apple Machine Learning Research ha pubblicato i risultati il 5 novembre 2026, descrivendo un metodo che addestra offline piccole reti neurali per un database fisso di chiavi. La pagina segnala uno studio intitolato «Amortizing Maximum Inner Product Search with Learned Support Functions», presentato a ICML 2026.

Perché l’instradamento basato sui centroidi può non trovare la chiave migliore

La ricerca del massimo prodotto interno, o MIPS, trova il vettore chiave con il prodotto interno più elevato rispetto a un vettore di query. Nella RAG, il documento associato alla chiave che offre la migliore corrispondenza viene tipicamente anteposto alla domanda dell’utente.

Un modo comune per ridurre i costi di ricerca consiste nel dividere le chiavi in cluster e confrontare una query con il centroide di ciascun cluster. Il sistema esegue quindi la ricerca nel cluster scelto. Ma l’instradamento basato sui centroidi può non individuare una buona corrispondenza quando una chiave si trova lontano dal centroide del suo cluster.

La ricerca descrive una proprietà matematica della MIPS: la funzione che restituisce il massimo prodotto interno tra una query e una qualsiasi chiave di un insieme è la funzione di supporto di quell’insieme. La funzione è convessa e il suo gradiente in corrispondenza di una query restituisce la chiave che offre la migliore corrispondenza.

SupportNet assegna un punteggio ai cluster per ogni query

SupportNet impara a stimare le funzioni di supporto dei cluster, contribuendo a instradare una query in base alla corrispondenza con una qualsiasi chiave del cluster, non solo alla vicinanza del suo centroide. I ricercatori hanno addestrato modelli di quattro dimensioni su Natural Questions, un benchmark di recupero che abbina domande a passaggi tratti da un database di documenti; la configurazione descritta contiene circa 2,6 milioni di passaggi unici suddivisi in 128 cluster.

A parità di porzione di database esaminata, i router addestrati hanno trovato la partizione corretta più spesso rispetto al riferimento basato sui centroidi. Esaminando il 5% del database, i modelli hanno individuato la partizione corretta in circa il 90–93% dei casi, fino al 92,6% per il modello di dimensioni intermedie, contro l’87,5% dell’instradamento basato sui centroidi.

Il confronto della latenza include il calcolo aggiuntivo necessario per eseguire le reti neurali. Il piccolo SupportNet ha raggiunto un richiamo di instradamento del 95% circa 1,9 volte più rapidamente dell’instradamento basato sui centroidi, mentre il modello grande ha raggiunto il 97% in 1,74 millisecondi.

KeyNet reindirizza le query verso un indice IVF

KeyNet prevede il vettore chiave che offre la migliore corrispondenza e fornisce tale previsione come query riscritta a un indice a file invertito esistente, o indice IVF. I ricercatori hanno valutato i modelli KeyNet con un indice IVF di FAISS sul dataset Natural Questions.

Con il modello KeyNet più grande, il raggiungimento di un richiamo del 99% ha richiesto 0,23 millisecondi, contro 1,8 millisecondi per la query non elaborata. Quando l’indice ha esaminato lo 0,001% del database, le query mappate da KeyNet hanno recuperato la chiave corretta nell’89–97% dei casi; il modello più grande ha raggiunto fino al 96,7%, contro l’86% della query non elaborata.

Per raggiungere l’obiettivo di un richiamo del 99%, con KeyNet è stato necessario esaminare fino a circa 11 volte meno chiavi: lo 0,009% del database, contro lo 0,10% per la query non elaborata. Gli esempi utilizzano Natural Questions tramite FAISS e la pagina afferma che la stessa tendenza è emersa su altri dataset.

Le due reti hanno ruoli diversi

La pagina raccomanda KeyNet quando la velocità di inferenza è il collo di bottiglia e il sistema necessita solo di un’approssimazione della chiave migliore. SupportNet può fornire un punteggio calibrato per il riordinamento, l’applicazione di soglie o l’uso nelle fasi successive e rimane competitivo con modelli di piccole dimensioni quando la capacità di calcolo è limitata.

Per un sistema MIPS su scala molto ampia, con un insieme enorme di chiavi, la pagina descrive l’uso di entrambi: un router SupportNet su tutti i cluster, seguito da un KeyNet per ciascun cluster, per aiutare il relativo indice a cercare la chiave migliore.