Michael JohnsonIl 29 ottobre OpenAI ha aggiornato il Model Spec, la descrizione pubblica di come l’azienda intende addestrare i propri modelli a comportarsi. La nuova revisione riunisce le indicazioni attorno a cinque valori e amplia le regole per le situazioni in cui i modelli utilizzano il contesto e agiscono con strumenti. Per gli sviluppatori, è soprattutto un documento sul comportamento auspicato dei modelli, non l’annuncio di una nuova API o di una funzionalità pronta all’uso.
Il Model Spec aggiornato elenca la fedeltà alle intenzioni umane, la minimizzazione dei danni, l’onestà e la trasparenza, il sostegno all’autonomia dell’utente e l’attenzione. OpenAI afferma che questi principi dovrebbero aiutare i modelli a prendere decisioni più appropriate quando un’istruzione specifica non descrive tutte le circostanze.
Contesto e supervisione entrano a far parte delle regole
Il cambiamento pratico riguarda il modo in cui il modello dovrebbe tenere conto della cronologia dell’interazione e di altre informazioni sull’utente. Come esempio, OpenAI cita il confronto tra offerte di lavoro: il modello può considerare una preferenza espressa in precedenza per orari prevedibili, dichiarare tale supposizione e permettere alla persona di correggerla. Il documento include inoltre indicazioni più esplicite sul controllo umano, sull’autonomia dell’utente e sulle conseguenze delle azioni del modello.
OpenAI descrive la specifica come un insieme di limiti e di valori predefiniti in gran parte modificabili: gli sviluppatori possono definire il comportamento delle proprie applicazioni entro questi limiti, mentre gli utenti possono indirizzare il lavoro del modello. Per i team di prodotto è un riferimento utile nella progettazione delle istruzioni di sistema e dei controlli: occorre stabilire quale contesto sia lecito considerare, come il modello debba comunicare le proprie supposizioni e quando una decisione richieda l’intervento umano.
Meno prescrizioni sullo stile
Nella stessa revisione, OpenAI ha dichiarato di rimuovere la maggior parte delle indicazioni dettagliate sullo stile. L’azienda spiega che lo stile dovrebbe adattarsi alle preferenze delle persone, alle lingue e al contesto; restano più stabili i requisiti di base, come rispondere alle domande in modo obiettivo. La specifica sposta così l’attenzione da un insieme uniforme di regole stilistiche ai valori e ai metodi per risolvere le situazioni ambigue.
OpenAI scrive inoltre che sta studiando metodi di addestramento per aiutare i modelli ad applicare meglio questi principi e promette di condividere i risultati nei futuri aggiornamenti. L’azienda definisce esplicitamente la specifica come una descrizione del comportamento auspicato: i modelli attuali non vi si conformano ancora del tutto. Per l’implementazione nei prodotti, i team dovrebbero quindi usare il documento come base per i requisiti e verificare i singoli scenari con test propri, basati sulle attività, sul contesto e sugli strumenti dell’applicazione.
La principale indicazione pratica per i team è rivedere istruzioni e test non solo per verificare che il modello segua con precisione le richieste, ma anche per valutare come utilizzi il contesto, espliciti le supposizioni e lasci il controllo alla persona. L’aggiornamento è stato pubblicato il 29 ottobre; nell’annuncio OpenAI non ha presentato un nuovo modello né una nuova interfaccia.
