Michael Johnson29. října OpenAI aktualizovala Model Spec – veřejný popis toho, jak chce společnost své modely učit chovat se. Nová verze sdružuje doporučení kolem pěti hodnot a rozšiřuje pravidla pro situace, kdy modely využívají kontext a pracují s nástroji. Pro vývojáře jde především o dokument popisující cílové chování modelů, nikoli o oznámení nového API nebo hotové funkce.
Aktualizovaná Model Spec uvádí věrnost lidským záměrům, minimalizaci škod, poctivost a transparentnost, podporu samostatnosti uživatelů a péči. OpenAI uvádí, že tyto principy mají modelům pomoci rozhodovat se vhodněji, když konkrétní pokyn nepokrývá všechny okolnosti.
Kontext a dohled se stávají součástí pravidel
Praktická změna se týká toho, jak má model zohledňovat historii interakce a další informace o uživateli. OpenAI jako příklad uvádí porovnávání pracovních nabídek: model může vzít v úvahu dříve vyslovenou preferenci předvídatelného rozvrhu, označit tento předpoklad a dát člověku možnost jej opravit. Dokument také přináší výslovnější pokyny týkající se lidského dohledu, samostatnosti uživatelů a důsledků jednání modelu.
OpenAI popisuje specifikaci jako soubor hranic a převážně přepsatelných výchozích hodnot: vývojáři mohou v těchto mezích určovat chování svých aplikací a uživatelé mohou práci modelu usměrňovat. Pro produktové týmy je to užitečné vodítko při navrhování systémových pokynů a kontrol: je třeba určit, jaký kontext lze zohlednit, jak model sděluje své předpoklady a kdy rozhodnutí vyžaduje zásah člověka.
Méně pokynů ke stylu
V téže verzi OpenAI oznámila, že odstraní většinu podrobných pokynů ke stylu. Společnost to vysvětluje tím, že styl se má přizpůsobovat preferencím lidí, jazykům a kontextu; stabilnější zůstávají základní požadavky, například objektivní odpovědi na otázky. Tím se důraz specifikace přesouvá od jednotné sady stylistických pravidel k hodnotám a způsobům řešení nejednoznačných situací.
OpenAI také uvádí, že zkoumá metody trénování, které mají modelům pomoci tyto principy lépe uplatňovat, a slibuje, že se o výsledky podělí v budoucích aktualizacích. Společnost přitom specifikaci výslovně označuje za popis cílového chování: současné modely jí zatím plně neodpovídají. Při zavádění do produktu by proto týmy měly dokument použít jako základ požadavků a konkrétní scénáře ověřovat vlastními testy zaměřenými na úlohy, kontext a nástroje aplikace.
Hlavní praktický závěr pro týmy je, že mají při revizi pokynů a testů sledovat nejen přesné plnění požadavků, ale také to, jak model využívá kontext, odhaluje své předpoklady a zachovává člověku kontrolu. Aktualizace byla zveřejněna 29. října; OpenAI v tomto oznámení nepředstavila samostatné vydání modelu ani nové rozhraní.
