The Pulse
OpenAI riorganizza il Model Spec attorno a cinque valori
Il 29 ottobre OpenAI ha pubblicato un Model Spec aggiornato, organizzando il comportamento previsto per GPT attorno a cinque valori, tra cui la fedeltà all’intento umano e la riduzione al minimo dei danni. La società afferma che i suoi mode
AI.info Team · Scritto con l’IA · verificato ·
OpenAI alza l’asticella per il modo in cui i suoi modelli dovrebbero interpretare l’intento umano, riconoscendo al tempo stesso che quelli già in uso non l’hanno ancora raggiunta. In un aggiornamento pubblicato il 29 ottobre, la società ha riorganizzato il suo Model Spec pubblico attorno a cinque valori e ha dichiarato che il documento descrive un comportamento che sta ancora lavorando per ottenere.
I cinque valori di OpenAI definiscono il nuovo quadro
Il Model Spec rivisto raggruppa le indicazioni sul comportamento sotto cinque valori: fedeltà all’intento umano, riduzione al minimo dei danni, onestà e trasparenza, sostegno alla capacità di azione umana e cura. OpenAI afferma che i valori espongono più chiaramente gli impegni già presenti nel documento e aiutano a spiegare come un modello dovrebbe gestire le situazioni che le sue istruzioni non affrontano esplicitamente.
«Il Model Spec descrive il comportamento che stiamo cercando di ottenere; i nostri modelli non lo rispecchiano ancora pienamente», scrive OpenAI. L’ammissione fa del documento una dichiarazione sul comportamento previsto, non una prova che ogni modello segua attualmente le indicazioni.
OpenAI presenta la fedeltà come qualcosa che va oltre l’osservanza letterale: i modelli dovrebbero considerare le intenzioni degli utenti, degli sviluppatori e di OpenAI, rimanendo entro i limiti fissati dal Model Spec. La società afferma anche che gli obiettivi e le preferenze degli utenti possono essere incerti o cambiare nel tempo, quindi i modelli dovrebbero rendere esplicite le ipotesi pertinenti e lasciare alle persone la possibilità di correggerle.
L’intento umano resta all’interno di una catena di comando
Il Model Spec aggiornato mantiene una gerarchia per risolvere i conflitti tra istruzioni. Colloca le regole di livello root al di sopra delle istruzioni di sistema, degli sviluppatori e degli utenti, seguite dalle linee guida e dai contenuti privi di autorità predefinita. Questa struttura significa che l’invito a seguire l’intento umano non attribuisce lo stesso peso a ogni richiesta dell’utente.
OpenAI descrive i limiti inderogabili di sicurezza come una protezione contro danni gravi, mentre gran parte delle altre indicazioni assume la forma di impostazioni predefinite che utenti o sviluppatori possono modificare. La panoramica del Model Spec afferma inoltre che la gerarchia punta a bilanciare gli interessi individuali con quelli collettivi. Questa distinzione è centrale nella promessa dell’aggiornamento: l’assistenza dovrebbe servire gli scopi delle persone senza ignorare gli effetti prevedibili sugli altri.
Le nuove indicazioni chiedono ai modelli di considerare il contesto, comprese le conversazioni e le memorie, nell’interpretare le preferenze. OpenAI afferma che il contesto dovrebbe aiutare i modelli a comprendere l’intento, ma non sostituisce la capacità dell’utente di orientarli. La revisione aggiunge anche impostazioni predefinite per sostenere la capacità di azione umana e rispettare le norme sociali pertinenti, e amplia le indicazioni sul controllo e sulla comunicazione degli effetti collaterali.
OpenAI elimina gran parte delle indicazioni sullo stile
La società sta eliminando la maggior parte delle regole dettagliate sullo stile contenute nel Model Spec, sostenendo che lo stile dovrebbe adattarsi alle preferenze, alle lingue, alle culture e al contesto delle persone. Mantiene un’impostazione predefinita più forte a favore di risposte oggettive, consentendo però a utenti e sviluppatori di richiedere una particolare prospettiva. Il documento afferma che i modelli non dovrebbero dedurre questa preferenza solo perché ritengono che un utente voglia sentirsi dare una certa risposta.
OpenAI sostituisce inoltre «l’assistente» con «GPT» in tutto il Model Spec, affermando che il termine più ampio riflette meglio la varietà di usi e contesti di impiego dei suoi modelli. Il documento si applica ai modelli GPT su cui si basano i prodotti OpenAI, compresa la sua piattaforma API.
Il Model Spec è un obiettivo, non un rapporto sulle prestazioni
OpenAI afferma di aver esplorato metodi di addestramento per aiutare i modelli ad apprendere i valori e ad applicare i principi del Model Spec in situazioni nuove. La società non ha presentato i risultati di questo lavoro nell’aggiornamento; afferma che li condividerà in aggiornamenti futuri. Per ora, la revisione definisce il comportamento verso cui OpenAI intende orientare l’addestramento e invita a fornire commenti sui valori, sui compromessi e sulla formulazione del documento.
La distinzione tra le indicazioni scritte e il comportamento dei modelli è esplicita nel Model Spec stesso: OpenAI afferma che i suoi modelli in produzione non lo rispecchiano ancora pienamente. La modifica immediata riguarda quindi lo standard pubblico, mentre la conformità dei modelli resta incompleta, per stessa ammissione della società.