Vai al contenuto
AI.info

The Pulse

IBM pubblica in anteprima il modello LLMON Granite 4.1 3B

IBM ha pubblicato in anteprima un modello Granite da 3 miliardi di parametri, addestrato per usare un formato strutturato di prompt chiamato LLMON. L’azienda afferma che il modello sperimentale è destinato alla valutazione, non alla produzione, e che i confini delle istruzioni non sono garantiti.

IBM pubblica in anteprima il modello LLMON Granite 4.1 3B

La versione in anteprima LLMON di Granite 4.1 3B di IBM è un modello instruction da 3 miliardi di parametri, addestrato per leggere un formato strutturato di prompt invece di un template di chat convenzionale. La scheda del modello indica come data di rilascio il 12 novembre 2026 e come licenza Apache 2.0.

Fonte huggingface.co

IBM ha pubblicato anche una versione sperimentale in anteprima di LLMON da 8B. L’azienda descrive entrambi come modelli destinati alla sperimentazione e alla valutazione, non alla produzione.

Come funziona il formato dei prompt

LLMON, abbreviazione di LLM Object Notation, assegna blocchi indirizzabili singolarmente a componenti quali istruzioni, documenti, dati, definizioni degli strumenti e risultati degli strumenti. Un blocco di esecuzione specifica quale istruzione eseguire, quali input usare e dove collocare l’output.

Il modello include un template di chat che converte i messaggi nel formato, quindi di norma gli sviluppatori non devono scrivere il markup a mano. Il formato usa sei delimitatori riservati, ciascuno rappresentato da un singolo token, mentre gli identificatori dei blocchi distinguono i componenti all’interno di un documento.

IBM afferma che i dati di addestramento includevano istruzioni esca e blocchi di dati che comparivano nel contesto, ma che erano deliberatamente lasciati non associati al blocco di esecuzione. Il processo di addestramento includeva anche cinque fasi sequenziali di reinforcement learning e una fase finale di ottimizzazione diretta delle preferenze. Quest’ultima ha utilizzato mille coppie di preferenze on-policy ricavate dalle risposte del modello stesso ai tentativi di prompt injection.

Risultati e limiti contro la prompt injection

In una valutazione di IBM sul benchmark OPI, le versioni LLMON in anteprima hanno evitato il 47% di attacchi in più rispetto al miglior modello di frontiera testato e il 95% in più rispetto al miglior modello open source testato. Il benchmark inserisce prompt injection indiretti nei dati usati per attività di elaborazione del linguaggio naturale; la misura riportata era la quota di attacchi in cui il modello non eseguiva l’istruzione iniettata.

Questi benchmark testano prompt injection indiretti statici. L’azienda afferma che sta lavorando anche per migliorare le prestazioni contro gli attacchi adattivi che si sviluppano nel corso di molti turni di chat.

IBM avverte che la regola che separa le istruzioni dall’input è un comportamento appreso, non una garanzia imposta: un’istruzione incorporata in un documento, in dati o nel risultato di uno strumento può comunque essere eseguita. L’azienda sconsiglia di considerare il modello come unica difesa per un agente con accesso a sistemi sensibili.

Benchmark e usi previsti

La scheda del modello riporta per la versione in anteprima un punteggio di 68,05 nel benchmark MMLU five-shot, rispetto a 67,02 per il modello instruct Granite 4.1 3B con formattazione convenzionale. Su MMLU-Pro, con una valutazione chain-of-thought five-shot, la versione in anteprima ha ottenuto 46,08, contro 49,83 del modello instruct. Questi test delle capacità generali non misurano se il modello mantiene il confine tra istruzioni e dati quando il contenuto non è associato al blocco di esecuzione o è avversario.

Il modello è destinato a seguire istruzioni di carattere generale, anche come base per assistenti e agenti dotati di capacità di usare strumenti. Tra le capacità elencate figurano la sintesi, la classificazione del testo, l’estrazione, la risposta a domande, la generazione aumentata dal recupero, le attività relative al codice e la chiamata di funzioni.

La scheda indica come lingue supportate l’inglese, il tedesco, lo spagnolo, il francese, il giapponese, il portoghese, l’arabo, il ceco, l’italiano, il coreano, l’olandese e il cinese. Avverte inoltre che i prompt nel formato di chat convenzionale non rientrano nella distribuzione dei dati del modello e ne peggioreranno la qualità; il template incluso converte l’input nel formato previsto.

Come il modello di base, la versione in anteprima può generare contenuti inaccurati, distorti o comunque discutibili, secondo quanto riportato nella scheda. Il formato strutturato dei prompt non elimina questo rischio.

Fonti

Notizie correlate

Esplora

Altri articoli