The Pulse
OpenAI inizia ad aggiungere filigrane invisibili ai testi nell’UE
Nelle prossime settimane OpenAI aggiungerà filigrane statistiche invisibili ai testi idonei prodotti da ChatGPT e Codex nell’Unione europea. Consentirà inoltre di attivare, su richiesta, la filigranatura per alcuni modelli API in tutto il m
AI.info Team · Scritto con l’IA ·
«La filigranatura dei testi e il suo rilevamento sono ancora tecnologie agli inizi, con limiti significativi, e le opinioni sui loro benefici e sugli usi responsabili sono tuttora in evoluzione».
OpenAI
Il lancio su ChatGPT è limitato all’UE
OpenAI afferma che nelle prossime settimane inizierà ad aggiungere filigrane invisibili ai testi idonei prodotti dagli utenti di ChatGPT e Codex nell’Unione europea. Il lancio riguarderà gli utenti idonei di tutti i piani, ma inizialmente l’azienda non renderà la filigranatura un’impostazione predefinita di ChatGPT a livello mondiale. OpenAI ha annunciato il piano il 5 ottobre 2026, insieme a modifiche per i clienti API e i ricercatori.
Dal 5 ottobre, i clienti API di tutto il mondo potranno scegliere di attivare la filigranatura dei testi per alcuni modelli; la funzione resterà disattivata per impostazione predefinita. OpenAI afferma inoltre di collaborare con i partner cloud per offrire, nelle prossime settimane, la filigranatura dei suoi modelli accessibili tramite i loro servizi. I ricercatori e le organizzazioni specializzate potranno richiedere l’accesso a un rilevatore, ma l’azienda afferma che valuterà le richieste caso per caso e non renderà lo strumento disponibile al pubblico al momento del lancio.
La decisione arriva dopo che, il 2 agosto 2026, hanno iniziato ad applicarsi gli obblighi di trasparenza dell’AI Act dell’UE. Secondo la Commissione europea, tali obblighi richiedono etichette chiare in casi importanti, tra cui i testi generati o manipolati dall’IA pubblicati su questioni di interesse pubblico. OpenAI presenta il proprio approccio come una risposta alla legge, introducendo però la filigranatura dei testi gradualmente, per area geografica e prodotto, anziché renderla un’impostazione universale di ChatGPT.
textGrain modifica la scelta dei token, non il testo visibile
OpenAI chiama il suo sistema textGrain. Il sistema inserisce un segnale statistico influenzando la scelta delle parole da parte del modello; il segnale è invisibile per chi legge e un rilevatore verifica se è presente in un brano. Il rapporto tecnico dell’azienda descrive un metodo che usa una chiave segreta e il testo precedente per orientare il campionamento dei token, quindi cerca nel brano generato evidenze statistiche di quel segnale.
OpenAI afferma che nelle sue valutazioni il sistema ha eguagliato o superato gli approcci testati, tra cui SynthID per i testi di Google DeepMind, ma avverte che i risultati ottenuti in condizioni di test non garantiscono un rilevamento affidabile nell’uso quotidiano. Con un tasso obiettivo di falsi positivi dell’1%, il rilevatore ha individuato la filigrana in circa l’80% dei brani di 200 token e in circa il 95% di quelli di 400 token per testi su argomenti come la psicologia. Il tasso di rilevamento è calato sensibilmente per la matematica, dove il modello ha meno possibilità di variare la scelta delle parole.
Anche le modifiche possono indebolire il segnale. Nei test su brani di 400 token, sostituire il 10% delle parole con sinonimi ha ridotto il tasso di rilevamento da circa il 92% al 66%; sostituirne il 25% lo ha portato al 17%. OpenAI afferma di voler pubblicare textGrain come open source e che nelle prossime settimane il suo rapporto tecnico sarà arricchito di ulteriori dettagli.
OpenAI rileva poche variazioni nei benchmark dei modelli
L’azienda ha inoltre confrontato gli output con e senza filigrana di Astra, che descrive come il suo più recente modello di frontiera, nei benchmark selezionati. OpenAI afferma di non aver riscontrato differenze significative nelle prestazioni. Nell’Artificial Analysis Intelligence Index, Astra ha ottenuto 49,57 punti senza filigranatura e 49,76 con la filigranatura; su DeepSWE v1.1, i rispettivi punteggi sono stati 72,80 e 71,68.
Questi dati sono i risultati dei benchmark condotti da OpenAI, non una garanzia che ogni output resterà invariato. Il confronto mostra piccole differenze in entrambe le direzioni nei test elencati, mentre i risultati del rilevamento evidenziano un limite distinto: i brani più brevi, vincolati o modificati possono essere più difficili da classificare. L’azienda afferma che queste incertezze contribuiscono a spiegare la decisione di limitare l’accesso al rilevatore mentre valuta la tecnologia.
Una filigrana non può stabilire chi ha scritto un brano
OpenAI afferma che un risultato positivo può indicare che uno dei suoi sistemi ha generato o elaborato una parte del testo, ma non può misurare quanto abbia contribuito una persona. Non identifica l’utente, non stabilisce la titolarità o la responsabilità, né verifica se il brano sia accurato. Un risultato negativo non dimostra che il testo sia stato scritto da una persona: potrebbe essere troppo breve, essere stato modificato o tradotto, provenire da un modello non supportato oppure essere stato prodotto prima dell’introduzione della filigranatura.
Questi limiti rendono la tracciabilità dell’origine dei testi diversa da una semplice etichetta che ne indichi l’autore. Il piano di OpenAI offre un segnale leggibile dalle macchine per alcuni dei suoi output, ma il segnale può indebolirsi quando il testo cambia e non può stabilire chi abbia dato forma al brano finale. Al momento del lancio, l’azienda inserirà filigrane negli output idonei di ChatGPT e Codex nell’UE, manterrà facoltativo l’uso della funzione tramite API e riserverà il rilevatore ai richiedenti autorizzati.