The Pulse
Cognition rilascia il modello di coding SWE-2 Flash in Devin Desktop e CLI, ma i pesi non sono ancora pubblici
SWE-2 Flash di Cognition è disponibile in Devin Desktop e CLI, con una generazione più rapida e un prezzo inferiore rispetto a SWE-2. L’azienda riferisce miglioramenti su diversi benchmark di coding e sta sviluppando un programma per condiv

AI.info Team · Scritto con l’IA · verificato ·
SWE-2 Flash è, secondo Cognition, un modello di coding interamente americano che fissa un nuovo standard di intelligenza a basso costo e alta velocità. È disponibile da oggi in Devin Desktop e CLI, a un quinto del prezzo e a una velocità tre volte superiore rispetto a SWE-2, afferma l’azienda. Cognition non sta ancora condividendo pubblicamente i pesi. L’azienda sta preparando un programma per condividerli in sicurezza con partner del settore e laboratori di ricerca di fiducia; maggiori informazioni sono attese tra qualche settimana.
Miglioramenti dichiarati rispetto a Inkling-Small
Secondo Cognition, rispetto al modello di base Inkling-Small, SWE-2 Flash migliora il punteggio su Terminal-Bench 4.0 dallo 0,9% al 20,0% e su FrontierCode 2.0 dal 3,2% al 24,0%. Su DeepSWE 1.1, l’annuncio riporta punteggi di 60,1 per SWE-2 Flash e 17,4 per Inkling-Small. Il nuovo modello supera tutti i modelli americani a pesi aperti nelle principali valutazioni, compresi modelli tre volte più grandi, afferma l’azienda.
La tabella dei risultati confronta i due modelli anche su altri compiti. SWE-2 Flash ottiene 45,5 su FrontierCode 1.1 Main, contro 21,5 per Inkling-Small, e 89,2 su Terminal-Bench 2.1, contro 64,7. Su SWE-Atlas QA, i punteggi riportati sono rispettivamente 50,0 e 27,4; su SWE-Bench Pro v2 Hard sono 89,9 e 56,5. Il punteggio di SWE-2 Flash su ExploitBench è 34,8, rispetto a 11,3 per Inkling-Small, riferisce Cognition.
Velocità di generazione dichiarata di 200 token al secondo
Cognition indica per SWE-2 Flash una velocità di generazione di 200 token al secondo, contro i 60 token al secondo di SWE-2. La sua dimostrazione riproduce l’esecuzione di ciascun modello sul compito gsea-proteomics di Terminal-Bench 4.0 a velocità simulate di 200 e 60 token al secondo. Per il confronto, le trascrizioni sono accorciate alla stessa lunghezza. Secondo l’annuncio, SWE-2 Flash è inoltre gratuito fino al 30/11.
L’addestramento ha combinato mid-training e apprendimento per rinforzo
Cognition ha aggiunto una fase di mid-training prima dell’apprendimento per rinforzo, partendo da Inkling-Small, che ha 276 miliardi di parametri complessivi e 12 miliardi di parametri attivi. Per orientare le decisioni sui dati di addestramento, l’azienda ha selezionato un dataset di coding riservato alla valutazione, pensato per rispecchiare l’intelligenza del modello in scenari reali di ingegneria del software. Ha confrontato le combinazioni di dati candidate misurando quanti token fossero necessari a ciascuna per raggiungere la stessa perdita di validazione di una combinazione di riferimento.
L’azienda ha scelto un dataset di mid-training composto da alcune migliaia di miliardi di token provenienti da articoli scientifici, blog, codice e altre fonti di alta qualità. L’addestramento si è svolto in tre fasi, con i dati più scarsi e di qualità più elevata utilizzati nelle fasi successive. Cognition ha poi effettuato l’apprendimento per rinforzo su larga scala. Secondo l’azienda, la maggior parte dei miglioramenti è derivata dalla maggiore qualità e diversità dei compiti usati per l’apprendimento per rinforzo. L’azienda ha esaminato le istruzioni dei compiti, la configurazione degli ambienti e i verificatori, e ha selezionato nuovi tipi di compiti per coprire una gamma più ampia di capacità.
Cognition cita i rischi informatici nella decisione sui pesi
Secondo Cognition, aziende e governi hanno bisogno di osservabilità e della possibilità di ospitare e controllare le implementazioni sulla propria infrastruttura, anche on-premises. Anche i ricercatori hanno bisogno di studiare il comportamento dei modelli e i loro potenziali usi impropri, afferma l’azienda. Uno degli obiettivi di SWE-2 Flash è offrire ai partner del settore e ai ricercatori un accesso trasparente ai pesi, insieme alla possibilità di effettuare il fine-tuning e utilizzare il modello in ambienti sensibili.
Cognition ha dedicato parte dell’addestramento ad attività di sicurezza informatica per aiutare chi si occupa di difesa, portando il punteggio di SWE-2 Flash su ExploitBench dall’11,3% al 34,8%, afferma l’azienda. Cognition avverte anche che le stesse capacità potrebbero essere usate da aggressori con intenti malevoli, indicando un recente aumento degli attacchi informatici. Secondo l’azienda, è per questo rischio che i pesi non sono ancora condivisi pubblicamente, mentre viene sviluppato un programma di condivisione sicura per partner del settore e laboratori di ricerca di fiducia.
Fonte
Notizie correlate
- GPT-6 Astra di OpenAI ottiene l’87,4% su 20 linguaggi di programmazione
- Cognition supera 1 miliardo di dollari di ricavi annualizzati, secondo la società
- Il caricamento su Hugging Face presentato come checkpoint Anthropic da 14 trilioni di parametri era rumore generato con un seed
- Thinking Machines Lab prevede di rilasciare i pesi di Inkling 2 Small, un modello da 594 miliardi di parametri, con licenza Apache 2.0
- Baidu rilascia i pesi di base di ERNIE 5.5 Flash