Michael Johnson29. oktober oppdaterte OpenAI Model Spec – en offentlig beskrivelse av hvordan selskapet ønsker å lære opp modellene sine til å opptre. Den nye versjonen samler anbefalingene rundt fem verdier og utvider reglene for situasjoner der modellene bruker kontekst og handler med verktøy. For utviklere er dette først og fremst et dokument om ønsket modellatferd, ikke en kunngjøring av et nytt API eller en ferdig funksjon.
I den oppdaterte Model Spec listes det opp å følge menneskers hensikter, minimere skade, være ærlig og transparent, støtte brukernes selvstendighet og vise omsorg. OpenAI sier at disse prinsippene skal hjelpe modellene med å ta mer passende beslutninger når en konkret instruksjon ikke beskriver alle omstendighetene.
Kontekst og tilsyn blir en del av reglene
Den praktiske endringen gjelder hvordan modellen skal ta hensyn til samtalehistorikk og andre opplysninger om brukeren. Som eksempel viser OpenAI til sammenligning av jobbtilbud: Modellen kan ta hensyn til en tidligere oppgitt preferanse for en forutsigbar arbeidsplan, gjøre denne antakelsen tydelig og gi personen mulighet til å korrigere den. Dokumentet inneholder også tydeligere føringer om menneskelig kontroll, brukernes selvstendighet og konsekvensene av modellens handlinger.
OpenAI beskriver spesifikasjonen som et sett med grenser og standardverdier som stort sett kan overstyres: Utviklere kan angi hvordan appene deres skal oppføre seg innenfor disse rammene, og brukerne kan styre modellens arbeid. For produktteam er dette en nyttig veiledning når de utformer systeminstruksjoner og kontroller: De bør fastslå hvilken kontekst det er tillatt å ta hensyn til, hvordan modellen skal opplyse om antakelser, og når en beslutning krever menneskelig medvirkning.
Færre stilføringer
I samme versjon opplyste OpenAI at selskapet fjerner de fleste detaljerte stilføringene. Begrunnelsen er at stilen bør tilpasses folks preferanser, språk og kontekst, mens mer varige grunnkrav – som å svare objektivt på spørsmål – består. Dermed flyttes spesifikasjonens tyngdepunkt fra ett felles sett med stilregler til verdier og måter å håndtere tvetydige situasjoner på.
OpenAI skriver også at selskapet undersøker treningsmetoder som skal hjelpe modellene med å anvende disse prinsippene bedre, og lover å dele resultater i framtidige oppdateringer. Samtidig beskriver selskapet spesifikasjonen uttrykkelig som en framstilling av ønsket atferd: Dagens modeller følger den ennå ikke fullt ut. Når dokumentet skal tas i bruk i et produkt, bør team derfor bruke det som grunnlag for krav og teste konkrete scenarier med egne tester av oppgaver, kontekst og appens verktøy.
Den viktigste praktiske lærdommen for team er å gå gjennom instruksjoner og tester, ikke bare med tanke på om modellen følger forespørselen nøyaktig, men også på hvordan den bruker kontekst, gjør antakelser tydelige og lar mennesket beholde kontrollen. Oppdateringen ble publisert 29. oktober; OpenAI kunngjorde ikke en egen modellutgivelse eller et nytt grensesnitt.
