Michael Johnson29 жовтня OpenAI оновила Model Spec — публічний опис того, як компанія прагне навчати свої моделі поводитися. Нова редакція об’єднує рекомендації навколо п’яти цінностей і розширює правила для ситуацій, коли моделі використовують контекст і працюють з інструментами. Для розробників це передусім документ про цільову поведінку моделей, а не анонс нового API чи готової функції.
В оновленій Model Spec перелічено вірність намірам людини, мінімізацію шкоди, чесність і прозорість, підтримку самостійності користувача та турботу. OpenAI зазначає, що ці принципи мають допомогти моделям ухвалювати доречніші рішення, коли конкретна інструкція не описує всіх обставин.
Контекст і нагляд стають частиною правил
Практична зміна стосується того, як модель має враховувати історію взаємодії та інші відомості про користувача. Як приклад OpenAI наводить порівняння пропозицій роботи: модель може врахувати раніше озвучене побажання щодо передбачуваного графіка, позначити це припущення й дати людині змогу його виправити. У документі також з’явилися чіткіші вказівки щодо людського контролю, самостійності користувача та наслідків дій моделі.
OpenAI описує специфікацію як набір меж і переважно перевизначуваних значень за замовчуванням: розробники можуть задавати поведінку своїх застосунків у цих межах, а користувачі — спрямовувати роботу моделі. Для продуктових команд це корисний орієнтир під час розроблення системних інструкцій і перевірок: варто визначити, який контекст можна враховувати, як модель повідомляє про припущення та коли рішення потребує участі людини.
Менше приписів щодо стилю
У тій самій редакції OpenAI повідомила, що вилучає більшість докладних вказівок зі стилю. Компанія пояснює це тим, що стиль має пристосовуватися до вподобань людей, мов і контексту; незміннішими залишаються базові вимоги, як-от об’єктивні відповіді на запитання. Це зміщує акцент специфікації з єдиного набору стилістичних правил на цінності та способи розв’язання неоднозначних ситуацій.
OpenAI також пише, що досліджує методи навчання, які мають допомогти моделям краще застосовувати ці принципи, і обіцяє ділитися результатами в майбутніх оновленнях. Водночас компанія прямо характеризує специфікацію як опис цільової поведінки: нинішні моделі поки що не повністю їй відповідають. Тому під час упровадження в продукт командам варто використовувати документ як основу вимог, а конкретні сценарії перевіряти власними тестами на завданнях, контексті та інструментах застосунку.
Головний практичний висновок для команд — переглядати інструкції й тести не лише на предмет точного виконання запиту, а й з огляду на те, як модель використовує контекст, розкриває припущення та зберігає контроль за людиною. Оновлення опубліковано 29 жовтня; окремого випуску моделі чи нового інтерфейсу в цьому оголошенні OpenAI не анонсувала.
