The Pulse
GoTo rilascia un modello Gemma 27B per le lingue dell’Indonesia
GoTo ha rilasciato un modello linguistico da 27 miliardi di parametri adattato all’indonesiano, all’inglese e a quattro lingue regionali. La scheda del modello su Hugging Face indica una finestra di contesto di 128.000 token e richiede circ
AI.info Team · Scritto con l’IA · verificato ·
«L’Indonesia ha saputo sfruttare bene le tecnologie di IA sviluppate all’estero. Tuttavia, dobbiamo anche sviluppare una nostra IA per rispondere alle sfide e alle esigenze locali»
Hans Patuwo, amministratore delegato di GoTo Group
GoTo ha rilasciato un modello linguistico da 27 miliardi di parametri il 19 ottobre, rendendo disponibile il suo più recente checkpoint GoTo-AI tramite Hugging Face. L’azienda ha annunciato il rilascio durante la Bali Tech Week a Sanur, in Indonesia. Il modello, chiamato GoTo-AI-Gemma-3-27B-IT, adatta l’architettura Gemma 3 di Google alla cultura e alle lingue dell’Indonesia, secondo la scheda del modello.
Sei lingue, tra cui il batak toba
La scheda del modello elenca tra le lingue supportate inglese, indonesiano, giavanese, sundanese, batak toba e balinese. GoTo afferma che la più ampia raccolta GoTo-AI è sottoposta a preaddestramento e instruction-tuning per la cultura e le lingue dell’Indonesia e indica AI Singapore come partner di sviluppo. Secondo l’annuncio, il rilascio prosegue il lavoro di GoTo sui modelli aperti, iniziato nel 2024.
GoTo afferma di aver addestrato il modello su testi in lingua indonesiana provenienti da media partner e siti web del settore pubblico, oltre che su dati in lingue regionali. Per il batak, l’azienda ha collaborato con la University of North Sumatra per raccogliere materiale che rispecchiasse l’uso attuale. La scheda del modello cita inoltre università indonesiane, gruppi editoriali e AI Singapore tra i collaboratori che hanno contribuito ad arricchire il più ampio ecosistema GoTo-AI.
GoTo segnala risultati elevati nelle lingue regionali
GoTo afferma che il modello ha ottenuto i punteggi più alti tra i modelli aperti comparabili per ciascuna lingua regionale sottoposta a test. La scheda del modello descrive valutazioni condotte con IndoMMLU per domande legate al contesto locale e SEA-HELM per compiti linguistici generali, tra cui traduzione, risposta a domande e sintesi. Descrive anche test sulla capacità di seguire istruzioni in diverse lingue, con esempi di valutazione tradotti e adattati al contesto locale.
Secondo la scheda, le valutazioni hanno utilizzato prompt nelle lingue native e da 100 a 1.000 campioni per dataset, a seconda del dataset. La scheda non presenta i risultati numerici insieme alla descrizione del modello: rimanda invece i lettori alla classifica di GoTo. La posizione in classifica riportata è quindi un’affermazione dell’azienda, mentre la metodologia descritta nella scheda offre ai potenziali utenti dettagli per capire come sono stati condotti i suoi test.
I pesi sono disponibili secondo i termini di Gemma
GoTo descrive il rilascio come open source, ma la scheda su Hugging Face indica la licenza Gemma di Google. I termini di Google disciplinano l’uso, la modifica e la ridistribuzione, comprese le restrizioni e le condizioni per condividere copie o versioni derivate. Gli sviluppatori che valutano un impiego commerciale dovrebbero esaminare tali termini, anziché considerare i pesi scaricabili come privi di vincoli di licenza.
Secondo la scheda del modello, eseguire il modello 27B in FP16 o BF16 richiede circa 54–60 GB di memoria video. GoTo consiglia una NVIDIA A100 da 80 GB, due GPU L40S o tre RTX 4090: questi requisiti rendono l’inferenza a piena precisione fuori dalla portata di molti comuni computer desktop. La scheda avverte inoltre che il modello può produrre allucinazioni o ragionamenti incoerenti e consiglia agli utenti di aggiungere un proprio fine-tuning per la sicurezza e misure di protezione.
Il rilascio di GoTo offre agli sviluppatori indonesiani un modello adattato al contesto locale che possono scaricare ed eseguire, mentre l’elenco delle sei lingue e le affermazioni sui risultati delle valutazioni delineano la portata a cui punta l’azienda. La prova pratica per i team sarà verificare se il modello funziona bene con i propri dati e flussi di lavoro nelle lingue regionali e se il loro hardware e caso d’uso sono compatibili con la licenza Gemma.