The Pulse
LightOn lancia ColGrep Agent: il 34,3% di token in meno con Claude Code
LightOn ha lanciato ColGrep-Agent-2B, un modello locale per la ricerca nel codice che invia agli assistenti di programmazione più grandi i percorsi dei file e gli intervalli di righe pertinenti. Nel test di LightOn condotto con Claude Code
AI.info Team · Scritto con l’IA ·
«Lanciamo ColGrep-Agent-2B, un agente aperto per la ricerca nel codice con 2 miliardi di parametri, che funziona in locale e si colloca tra il vostro agente di programmazione e il repository.»
Maxence Lasbordes, Raphael Sourty, Aarush e Amélie Chatelain, LightOn
LightOn ha annunciato ColGrep-Agent-2B il 12 ottobre, presentandolo come uno specialista della ricerca locale per gli assistenti di programmazione, non come un modello che scrive o corregge codice. L’agente cerca nel repository, legge i file più promettenti e restituisce percorsi, intervalli di righe e codice, così che un modello più grande possa partire da una visione più circoscritta del progetto.
Il lancio riguarda una fase comune ma costosa del lavoro degli agenti di programmazione: individuare dove si trova il codice che determina un comportamento prima di decidere come modificarlo. ColGrep-Agent usa ColGrep, lo strumento di ricerca semantica nel codice di LightOn, insieme a un terminale di sola lettura. Gli sviluppatori possono collegarlo a Claude Code, Codex o OpenCode; l’assistente più grande resta responsabile dell’interpretazione dei risultati e delle modifiche al codice.
Il test di LightOn ha ridotto i token, non i tempi
LightOn ha testato lo strumento con Claude Code, usando Sonnet 5.5, su 52 domande di ricerca nel codice relative a 13 repository pubblici. L’azienda afferma che i repository sono stati creati nel 2026 per ridurre la probabilità che i modelli li avessero visti durante l’addestramento. Il test comprendeva progetti in Rust, Go, TypeScript e Python, da 17.000 a 1,8 milioni di righe. Ogni domanda è stata posta tre volte in ciascuna delle quattro configurazioni, per un totale di 624 sessioni.
Quando Claude Code ha delegato le ricerche nel repository a ColGrep-Agent, l’uso di token API è diminuito del 34,3% rispetto agli strumenti integrati di Claude Code per grep, find e la lettura dei file: 93.000 token per domanda contro 142.000. LightOn ha riportato un intervallo di confidenza al 95% compreso tra il 28% e il 40% per la riduzione e ha affermato che l’agente ha usato meno token nell’88% delle domande. La sua stima del costo API, che tiene conto della cache, è scesa da 7,3 centesimi per domanda con grep a 4,4 centesimi con la delega.
Il risparmio ha comportato un aumento dei tempi. Il tempo medio per domanda è salito da 13 secondi con grep a 21,6 secondi con ColGrep-Agent, mentre la chiamata all’agente ha richiesto una mediana di sette secondi sul server GPU di LightOn. L’agente ha risposto correttamente all’80,8% delle domande, contro l’83,3% di grep; LightOn afferma che la differenza non era statisticamente significativa, ma il suo intervallo di confidenza non esclude un calo rilevante dell’accuratezza.
Un piccolo modello svolge un compito di ricerca circoscritto
ColGrep-Agent cerca per significato oltre che per termini esatti. Questo conta quando uno sviluppatore descrive una funzionalità con parole diverse dai nomi usati nel codice: una domanda sugli «attributi personalizzati», per esempio, può portare al codice che li chiama «campi». Il modello può ripetere le ricerche ed esaminare i file più probabili, quindi restituire le posizioni nel formato percorso e intervallo di righe.
LightOn afferma che l’agente parte da MiniCPM5-2B ed è stato addestrato con fine-tuning supervisionato seguito da apprendimento per rinforzo. Il suo ciclo di ricerca dispone di tre strumenti: ColGrep per ricerche semantiche e filtrate, un terminale di sola lettura per esaminare i file e uno strumento per l’invio della risposta finale. L’agente ha un limite di 10 turni.
L’installazione standard scarica un file del modello quantizzato di circa 2,5 GB. LightOn offre procedure di installazione per macOS, Linux e Windows; la scheda del modello afferma che la configurazione locale non richiede Python, un server di inferenza esterno né una chiave API. Il repository richiede un’indicizzazione iniziale, che lo strumento aggiorna man mano che i file cambiano.
Il risultato è l’individuazione delle posizioni nel repository, non una correzione
Il confronto principale di LightOn misura le risposte a domande di ricerca nel codice, non se un assistente di programmazione riesca a risolvere un problema software dall’inizio alla fine. Individuare correttamente file e righe non dimostra che un agente apporterà la modifica giusta, supererà i test del progetto o completerà un compito più rapidamente. Il test comprende inoltre 52 domande, quindi le medie riportate non stabiliscono come lo strumento si comporti con altre strutture di repository o altre abitudini di ricerca.
Per gli sviluppatori, il compromesso pratico emerge chiaramente dai dati di LightOn: la delega ha ridotto i token API fatturati e il costo API stimato, ma ha aggiunto circa nove secondi al tempo medio per domanda e ha prodotto un tasso osservato di risposte corrette leggermente inferiore. Il lancio offre quindi gli argomenti più solidi per i carichi di lavoro in cui esplorare ripetutamente un repository è abbastanza costoso da giustificare ricerche più lente, e in cui l’agente di programmazione principale può verificare le posizioni restituite prima di modificare il codice.