Michael Johnson29 октября OpenAI обновила Model Spec — публичное описание того, как компания хочет обучать свои модели вести себя. Новая редакция объединяет рекомендации вокруг пяти ценностей и расширяет правила для ситуаций, когда модели используют контекст и действуют с инструментами. Для разработчиков это прежде всего документ о целевом поведении моделей, а не объявление нового API или готовой функции.
В обновлённой Model Spec перечислены верность намерениям человека, минимизация вреда, честность и прозрачность, поддержка самостоятельности пользователя и забота. OpenAI говорит, что эти принципы должны помочь моделям принимать более уместные решения, когда конкретная инструкция не описывает все обстоятельства.
Контекст и надзор становятся частью правил
Практическая перемена касается того, как модель должна учитывать историю взаимодействия и другие сведения о пользователе. В качестве примера OpenAI приводит сравнение предложений о работе: модель может учесть ранее названное предпочтение предсказуемого графика, обозначить это предположение и дать человеку возможность его исправить. В документе также появились более явные указания о человеческом контроле, самостоятельности пользователя и последствиях действий модели.
OpenAI описывает спецификацию как набор границ и преимущественно переопределяемых значений по умолчанию: разработчики могут задавать поведение своих приложений в этих рамках, а пользователи — направлять работу модели. Для продуктовых команд это полезный ориентир при проектировании системных инструкций и проверок: следует определить, какой контекст допустимо учитывать, как модель сообщает о предположениях и когда решение требует участия человека.
Меньше предписаний о стиле
В той же редакции OpenAI сообщила, что убирает большую часть подробных указаний по стилю. Компания объясняет это тем, что стиль должен подстраиваться под предпочтения людей, языки и контекст; более устойчивыми остаются базовые требования вроде объективного ответа на вопросы. Это переносит акцент спецификации с единого набора стилистических правил на ценности и способы разрешать неоднозначные ситуации.
OpenAI также пишет, что исследует методы обучения, которые должны помочь моделям лучше применять эти принципы, и обещает делиться результатами в будущих обновлениях. При этом компания прямо характеризует спецификацию как описание целевого поведения: нынешние модели пока не полностью ему соответствуют. Поэтому для внедрения в продукт командам стоит использовать документ как основу требований, а конкретные сценарии проверять собственными тестами на задачах, контексте и инструментах приложения.
Главный практический вывод для команд — пересматривать инструкции и тесты не только на предмет точного следования запросу, но и на то, как модель использует контекст, раскрывает предположения и сохраняет контроль за человеком. Обновление опубликовано 29 октября; отдельного выпуска модели или нового интерфейса в этом объявлении OpenAI не анонсировала.
