Michael Johnson29 października OpenAI zaktualizowało Model Spec — publiczny opis tego, jak firma chce uczyć swoje modele zachowania. Nowa wersja porządkuje zalecenia wokół pięciu wartości i rozszerza zasady dotyczące sytuacji, w których modele korzystają z kontekstu i narzędzi. Dla programistów jest to przede wszystkim dokument opisujący docelowe zachowanie modeli, a nie zapowiedź nowego API czy gotowej funkcji.
Zaktualizowana Model Spec wymienia wierność ludzkim intencjom, minimalizowanie szkód, uczciwość i przejrzystość, wspieranie samodzielności użytkowników oraz troskę. OpenAI twierdzi, że zasady te mają pomóc modelom podejmować bardziej odpowiednie decyzje, gdy konkretna instrukcja nie uwzględnia wszystkich okoliczności.
Kontekst i nadzór stają się częścią zasad
Praktyczna zmiana dotyczy tego, jak model powinien uwzględniać historię interakcji i inne informacje o użytkowniku. Jako przykład OpenAI podaje porównywanie ofert pracy: model może wziąć pod uwagę wcześniej wyrażoną preferencję dotyczącą przewidywalnego harmonogramu, zaznaczyć to założenie i umożliwić użytkownikowi jego skorygowanie. W dokumencie pojawiły się też wyraźniejsze wskazówki dotyczące ludzkiego nadzoru, samodzielności użytkowników i konsekwencji działań modelu.
OpenAI opisuje specyfikację jako zbiór granic i domyślnych wartości, które w większości można zmieniać: programiści mogą określać zachowanie swoich aplikacji w tych ramach, a użytkownicy — ukierunkowywać pracę modelu. Dla zespołów produktowych jest to przydatna wskazówka podczas projektowania instrukcji systemowych i mechanizmów weryfikacji: należy określić, jaki kontekst można uwzględniać, jak model informuje o założeniach i kiedy decyzja wymaga udziału człowieka.
Mniej nakazów dotyczących stylu
W tej samej wersji OpenAI poinformowało, że usuwa większość szczegółowych wskazówek stylistycznych. Firma wyjaśnia, że styl powinien dostosowywać się do preferencji ludzi, języków i kontekstu; trwalsze pozostają podstawowe wymagania, takie jak obiektywne odpowiadanie na pytania. W efekcie specyfikacja kładzie większy nacisk na wartości i sposoby rozstrzygania niejednoznacznych sytuacji niż na jednolity zestaw reguł stylistycznych.
OpenAI pisze również, że bada metody treningu, które mają pomóc modelom lepiej stosować te zasady, i zapowiada udostępnianie wyników w przyszłych aktualizacjach. Firma wyraźnie zaznacza jednak, że specyfikacja opisuje docelowe zachowanie: obecne modele jeszcze w pełni mu nie odpowiadają. Dlatego przy wdrażaniu produktu zespoły powinny traktować dokument jako podstawę wymagań, a konkretne scenariusze sprawdzać za pomocą własnych testów obejmujących zadania, kontekst i narzędzia aplikacji.
Najważniejszy praktyczny wniosek dla zespołów to konieczność przeglądu instrukcji i testów nie tylko pod kątem dokładnego wykonywania poleceń, lecz także sposobu, w jaki model wykorzystuje kontekst, ujawnia założenia i pozostawia kontrolę człowiekowi. Aktualizację opublikowano 29 października; w tym komunikacie OpenAI nie zapowiedziało osobnego wydania modelu ani nowego interfejsu.
