The Pulse
OpenAI illustra le salvaguardie di ChatGPT Images 2.6, che aggiunge la generazione di GIF e le annotazioni sulle foto
La scheda di sistema di ChatGPT Images 2.6 è stata pubblicata il 4 novembre 2026. Le sue valutazioni confrontano Sunburst e Flare con Images 2.5 e illustrano le salvaguardie per la generazione di immagini, le GIF e la provenienza.
AI.info Team · Scritto con l’IA · verificato ·
Le novità di ChatGPT Images 2.6
La scheda di sistema di ChatGPT Images 2.6 è stata pubblicata il 4 novembre 2026 e descrive le valutazioni di sicurezza, le misure di mitigazione e i limiti dei modelli aggiornati per la generazione di immagini. La nuova versione aggiunge la generazione di GIF e le annotazioni sulle foto in ChatGPT e nell’API, oltre al supporto per l’output SVG nell’API. OpenAI afferma che i modelli aggiornati Sunburst e Flare migliorano la coerenza delle modifiche, la conservazione dei dettagli e le risposte a schizzi e annotazioni sulle immagini. Flare è ottimizzato per una generazione più rapida, mentre la possibilità di configurare lo sforzo di ragionamento offre agli utenti in Chat e agli sviluppatori nell’API un maggiore controllo sulla velocità di generazione e modifica.
La scheda afferma che l’architettura di sicurezza principale di ChatGPT Images 2.6 si basa sugli stessi fondamenti di sicurezza di Images 2.5, con salvaguardie aggiuntive per la creazione di GIF. OpenAI afferma che i modelli sono stati addestrati su dataset diversificati che includono informazioni pubblicamente disponibili su internet, informazioni ottenute tramite terze parti e materiale fornito o generato da utenti, addestratori umani e ricercatori. Il processo di elaborazione dei dati utilizza filtri rigorosi per mantenerne la qualità e mitigare i potenziali rischi, inclusi processi avanzati volti a ridurre le informazioni personali nei dati di addestramento. Anche i classificatori di sicurezza contribuiscono a prevenire o ridurre i contenuti dannosi o sensibili, compresi quelli sessuali che coinvolgono un minore.
Controlli prima e dopo la generazione
Per Sunburst, OpenAI descrive diverse salvaguardie specifiche per le immagini. Controlli basati su LLM valutano le richieste rispetto alle policy prima della generazione e quelle giudicate in violazione vengono rifiutate in questa fase. Un modello di ragionamento per la sicurezza monitora poi gli input testuali e visivi e blocca la generazione se determina che uno qualsiasi degli input viola le policy. Il modello controlla anche l’immagine finale prima che venga mostrata all’utente, bloccando gli output che ritiene in violazione delle policy.
OpenAI afferma che classificatori di immagini e testo dedicati alla sicurezza fanno parte della sua architettura di sicurezza per le immagini fin dal lancio iniziale della generazione di immagini di GPT-4o. L’azienda descrive miglioramenti continui al proprio modello di ragionamento per la sicurezza, alle policy e al monitoraggio, insieme alla classificazione sincrona del materiale pedopornografico (CSAM) per la generazione di immagini in ChatGPT. Il monitoraggio comprende un’applicazione più ampia delle regole offline e online, con più sistemi di valutazione per le categorie a rischio più elevato che riguardano i minori.
Il confronto tra Sunburst e Flare e Images 2.5
OpenAI ha utilizzato una valutazione automatizzata per misurare controlli di moderazione selezionati, in uso in produzione, su un insieme condiviso di 3.077 richieste problematiche progettate per generare immagini in violazione delle policy. La valutazione ha confrontato ciascun modello Images 2.6 con il corrispondente modello di riferimento Images 2.5, utilizzando una procedura comune di valutazione di riferimento. OpenAI avverte che l’insieme di test avversari non rappresenta la frequenza con cui richieste o output in violazione si verificano in produzione e che i risultati non misurano il sistema di sicurezza completo effettivamente implementato.
Nei risultati complessivi, il tasso di generazioni non sicure non bloccate di Sunburst è stato dell’1,72%, rispetto all’1,92% del corrispondente modello di riferimento Images 2.5. Il tasso di Flare è stato del 2,14%, rispetto all’1,49% del suo modello di riferimento; OpenAI riporta che si tratta rispettivamente di 66 e 46 richieste su 3.077. Nessuna delle due differenze complessive era statisticamente significativa. La percentuale di output di Flare giudicati non in violazione prima della moderazione è scesa dal 78,36% al 75,04%, un calo statisticamente significativo; OpenAI afferma che il contributo maggiore è arrivato dalle categorie di prompt «Altro» e sessuali.
Dei 20 output non sicuri aggiuntivi netti di Flare che non sono stati bloccati, 14 rientravano nella categoria «Altro», che comprende categorie meno frequenti come figure religiose, rappresentazioni inventate o compromettenti di persone reali, tentativi di jailbreak e richieste basate su immagini. OpenAI afferma che nessuna singola categoria di prompt ha mostrato un aumento statisticamente significativo degli output in violazione quando è stata applicata la moderazione di sicurezza. La scheda riporta che, nelle configurazioni valutate, Sunburst ha prodotto meno immagini in violazione dopo la moderazione rispetto al suo modello di riferimento Images 2.5.
Salvaguardie per le GIF, test delle capacità e provenienza
OpenAI individua rischi specifici delle GIF, tra cui movimenti sessualizzati e significati dannosi trasmessi attraverso i fotogrammi. L’azienda afferma che le salvaguardie per le GIF sono progettate per rilevare e bloccare i contenuti che violano le policy e che alcune regole per le GIF bloccano categorie in modo più ampio rispetto a quelle per le immagini statiche, per tenere conto del movimento inferito. L’azienda ha testato queste salvaguardie su un insieme mirato di GIF avversarie etichettate come in violazione delle policy, avvertendo al contempo che le violazioni legate al movimento restano difficili da rilevare e che le salvaguardie potrebbero non intercettarle tutte.
Per la valutazione prevista dal suo Preparedness Framework, OpenAI ha adattato le valutazioni esistenti delle capacità dei modelli linguistici per testare le capacità di generazione di immagini nelle categorie della sicurezza informatica e del rischio biologico. Afferma che né GPT-Image-2.6 Sunburst né GPT-Image-2.6 Flare supera la soglia Bio High o Cyber High. OpenAI applica comunque misure di mitigazione appropriate per un modello trattato come dotato di capacità biologiche High, tra cui un adattamento della propria policy sul rischio biologico specifico per le immagini a tutti gli input e output di ChatGPT Images 2.6.
Per quanto riguarda la provenienza, OpenAI afferma che Images 2.6 mantiene l’impegno relativo ai metadati C2PA e integra il watermark SynthID di Google DeepMind attraverso ChatGPT, Codex e l’API OpenAI. La scheda afferma che i lettori possono verificare la presenza di segnali di provenienza nei file supportati con lo strumento pubblico di verifica di OpenAI.