Vai al contenuto
AI.info

The Pulse

Baidu presenta ERNIE Evolve per la ricerca autonoma sull’IA

ERNIE Evolve può scegliere le direzioni di ricerca, modificare il codice ed eseguire esperimenti in autonomia, afferma Baidu. L’azienda riferisce miglioramenti nei benchmark e nelle prestazioni in tre attività di inferenza per ERNIE-5.5-Fla

Baidu presenta ERNIE Evolve per la ricerca autonoma sull’IA

AI.info Team · Scritto con l’IA · verificato ·

Un sistema per la ricerca e sviluppo iterativa sull’IA

Baidu afferma che ERNIE Evolve è il suo primo passo verso un sistema automatizzato per la ricerca e lo sviluppo nell’intelligenza artificiale. Il sistema è progettato per perseguire obiettivi espliciti entro vincoli definiti, occupandosi sia della scelta della direzione di ricerca sia dello sviluppo di implementazioni attraverso esperimenti.

Partendo da un repository di codice, un obiettivo di ottimizzazione e criteri di valutazione, ERNIE Evolve può modificare il codice ed eseguire esperimenti in autonomia in ambienti isolati. La sua architettura comprende due cicli annidati: uno sceglie cosa esaminare, mentre l’altro sviluppa e testa modifiche all’interno di ciascuna linea di ricerca.

Il ciclo esterno assegna le direzioni proposte a percorsi di ricerca paralleli, ciascuno con un albero di versioni candidate del codice. All’interno di un percorso, il sistema seleziona una versione candidata, formula un’ipotesi, modifica il codice e sottopone il risultato a valutazione. Un valutatore misura le prestazioni e verifica la correttezza su carichi di lavoro reali, mentre un revisore esamina le modifiche al codice e i risultati. Vengono mantenuti solo i miglioramenti che superano la valutazione e la revisione.

Risultati sui test pubblici

Baidu ha testato il sistema su NanoChat AutoResearch, NanoGPT Speedrun e SOL-ExecBench, test che riguardano gli algoritmi di addestramento, la velocità di addestramento e l’ottimizzazione dei kernel GPU. ERNIE Evolve ha superato i migliori risultati verificati pubblicamente con cui è stato confrontato su NanoChat AutoResearch e NanoGPT Speedrun, afferma Baidu, ma il suo punteggio su SOL-ExecBench è stato vicino e inferiore al miglior risultato riportato.

Su NanoChat AutoResearch, Baidu riferisce un punteggio BPB di validazione di 0,8763, contro un miglior risultato pubblico di 0,8878. Su NanoGPT Speedrun Track 1, riferisce di aver raggiunto il valore di loss previsto in 38,9 secondi, rispetto ai 39,9 secondi del miglior risultato pubblico; su Track 3, riferisce 2590 passaggi, contro 2690. Per SOL-ExecBench, il suo punteggio medio è stato di 0,819, mentre il miglior risultato pubblico indicato era 0,827.

Il sistema ha usato lo stesso ciclo di ricerca per i tre test, senza adattarlo a una metrica o a una struttura del codice specifica. I risultati ottimizzati sono stati resi open source.

Test sui carichi di lavoro di inferenza

Baidu ha applicato ERNIE Evolve anche all’ottimizzazione dell’inferenza per ERNIE-5.5-Flash, in fase di sviluppo. Le modifiche dovevano superare gli stessi test di carico e controlli di correttezza previsti per le modifiche ingegneristiche, e operare all’interno dei moduli specificati e dei requisiti esistenti di accuratezza e latenza.

Per l’inferenza a bassa latenza su Kunlunxin P800, quattro cicli di ricerca hanno portato la velocità di generazione al 623,6% del valore di riferimento, riferisce Baidu, superando tutti i controlli di correttezza. Il lavoro ha incluso l’abilitazione di percorsi di esecuzione ottimizzati e la modifica della pianificazione e della sincronizzazione lato host. Un’alternativa, che prevedeva la sostituzione della comunicazione specializzata con operazioni collettive di uso generale, ha ridotto la velocità del 14,0% ed è stata scartata.

Per l’inferenza deterministica, Baidu riferisce un aumento del throughput del 33,7%, una riduzione del 26% del tempo medio per token in output e una riduzione del 12% del tempo necessario per ottenere il primo token, preservando il determinismo. Le richieste dovevano generare token e logaritmi delle probabilità identici, indipendentemente dalle altre richieste presenti nello stesso batch, afferma Baidu.

In un’attività separata su GPU, incentrata sulla velocità di decodifica, ERNIE Evolve ha aumentato la velocità di un ulteriore 14,9%, con un’accuratezza invariata rispetto al valore di riferimento, afferma Baidu. L’azienda descrive il lavoro di implementazione come il suo primo passo verso l’integrazione della ricerca automatizzata nell’attività ingegneristica quotidiana del team.

Fonte

Notizie correlate

Esplora

Altri articoli