Michael JohnsonOp 29 oktober heeft OpenAI de Model Spec bijgewerkt: de openbare beschrijving van hoe het bedrijf zijn modellen wil trainen om zich te gedragen. De nieuwe versie bundelt richtlijnen rond vijf waarden en breidt de regels uit voor situaties waarin modellen context gebruiken en met hulpmiddelen werken. Voor ontwikkelaars is het vooral een document over het beoogde gedrag van modellen, geen aankondiging van een nieuwe API of kant-en-klare functie.
De bijgewerkte Model Spec noemt trouw aan menselijke intenties, schadebeperking, eerlijkheid en transparantie, ondersteuning van de autonomie van gebruikers en zorg. Volgens OpenAI moeten deze principes modellen helpen om passender beslissingen te nemen wanneer een concrete instructie niet alle omstandigheden beschrijft.
Context en toezicht maken nu deel uit van de regels
De praktische verandering betreft de manier waarop een model rekening moet houden met de gespreksgeschiedenis en andere informatie over de gebruiker. Als voorbeeld noemt OpenAI het vergelijken van vacatures: een model kan rekening houden met een eerder uitgesproken voorkeur voor een voorspelbaar rooster, die aanname expliciet maken en de gebruiker de mogelijkheid bieden haar te corrigeren. Het document bevat ook duidelijkere richtlijnen voor menselijk toezicht, autonomie van gebruikers en de gevolgen van modelacties.
OpenAI beschrijft de specificatie als een reeks grenzen en grotendeels aanpasbare standaardinstellingen: ontwikkelaars kunnen binnen die kaders het gedrag van hun toepassingen bepalen, en gebruikers kunnen de werking van het model sturen. Voor productteams is dit een nuttige leidraad bij het opstellen van systeeminstructies en controles: bepaal welke context mag worden meegewogen, hoe het model aannames meldt en wanneer menselijke tussenkomst nodig is.
Minder voorschriften voor stijl
In dezelfde versie meldt OpenAI dat het de meeste gedetailleerde stijlrichtlijnen schrapt. Het bedrijf legt uit dat de stijl moet aansluiten bij de voorkeuren van mensen, talen en context; meer blijvende eisen zijn basisregels, zoals objectief antwoorden op vragen. Daardoor verschuift de nadruk van de specificatie van één vaste reeks stijlregels naar waarden en manieren om met dubbelzinnige situaties om te gaan.
OpenAI schrijft ook dat het onderzoek doet naar trainingsmethoden die modellen moeten helpen deze principes beter toe te passen, en belooft de resultaten in toekomstige updates te delen. Tegelijkertijd omschrijft het bedrijf de specificatie uitdrukkelijk als een beschrijving van gewenst gedrag: de huidige modellen voldoen er nog niet volledig aan. Daarom kunnen teams het document bij de introductie in een product het best als basis voor eisen gebruiken en concrete scenario's testen met eigen tests voor de taken, context en hulpmiddelen van de toepassing.
De belangrijkste praktische les voor teams is om instructies en tests niet alleen te herzien op nauwkeurige opvolging van verzoeken, maar ook op de manier waarop het model context gebruikt, aannames toelicht en de controle bij de mens laat. De update is op 29 oktober gepubliceerd; OpenAI kondigde daarbij geen afzonderlijke modelrelease of nieuwe interface aan.
