Michael JohnsonDen 29 oktober uppdaterade OpenAI Model Spec, en offentlig beskrivning av hur företaget vill träna sina modeller att bete sig. Den nya versionen samlar riktlinjerna kring fem värderingar och utökar reglerna för situationer där modeller använder kontext och verktyg. För utvecklare är dokumentet framför allt en beskrivning av modellernas önskade beteende, inte ett tillkännagivande av ett nytt API eller en färdig funktion.
I den uppdaterade Model Spec listas trohet mot människors avsikter, skadebegränsning, ärlighet och transparens, stöd för användarnas självbestämmande och omsorg. OpenAI säger att principerna ska hjälpa modeller att fatta lämpligare beslut när en specifik instruktion inte täcker alla omständigheter.
Kontext och tillsyn blir en del av reglerna
Den praktiska förändringen gäller hur modellen ska ta hänsyn till interaktionshistorik och annan information om användaren. Som exempel nämner OpenAI en jämförelse mellan jobberbjudanden: modellen kan ta hänsyn till en tidigare uttalad preferens för förutsägbara arbetstider, tydliggöra att den gör detta antagande och låta personen korrigera det. Dokumentet innehåller också tydligare riktlinjer för mänsklig tillsyn, användarnas självbestämmande och konsekvenserna av modellens handlingar.
OpenAI beskriver specifikationen som en uppsättning gränser och standardinställningar som i huvudsak kan åsidosättas: utvecklare kan styra beteendet i sina applikationer inom dessa ramar, och användare kan vägleda modellen. För produktteam är den en användbar vägledning när de utformar systeminstruktioner och kontroller: de bör avgöra vilken kontext modellen får ta hänsyn till, hur den redovisar antaganden och när ett beslut kräver mänsklig medverkan.
Färre stilföreskrifter
I samma version meddelade OpenAI att företaget tar bort merparten av de detaljerade stilriktlinjerna. Företaget förklarar att stilen bör anpassas efter människors preferenser, språk och sammanhang, medan mer grundläggande krav består, till exempel att svara objektivt på frågor. Tyngdpunkten i specifikationen flyttas därmed från en enhetlig uppsättning stilregler till värderingar och sätt att hantera tvetydiga situationer.
OpenAI skriver också att företaget undersöker träningsmetoder som ska hjälpa modeller att tillämpa principerna bättre och lovar att dela resultaten i framtida uppdateringar. Samtidigt beskriver företaget uttryckligen specifikationen som en beskrivning av önskat beteende: dagens modeller uppfyller den ännu inte fullt ut. Team som ska införa modeller i produkter bör därför använda dokumentet som grund för krav och testa konkreta scenarier med egna tester av applikationens uppgifter, kontext och verktyg.
Den viktigaste praktiska slutsatsen för team är att se över instruktioner och tester, inte bara för att kontrollera om modellen följer förfrågningar exakt, utan också hur den använder kontext, redovisar antaganden och låter människan behålla kontrollen. Uppdateringen publicerades den 29 oktober; OpenAI tillkännagav ingen separat modellrelease eller nytt gränssnitt.
