Michael Johnson10月29日、OpenAIは、モデルをどのように訓練し、振る舞わせたいかを示す公開文書「Model Spec」を更新した。改訂版では、指針を5つの価値観に沿ってまとめ直し、モデルが文脈を利用したり、ツールを使って行動したりする場面のルールを拡充している。開発者にとって、これは主にモデルの目指すべき振る舞いを説明する文書であり、新しいAPIや完成済みの機能の発表ではない。
更新版のModel Specでは、人間の意図への忠実さ、危害の最小化、誠実さと透明性、ユーザーの自律性の支援、思いやりが掲げられている。OpenAIによると、具体的な指示だけでは状況を十分に説明できないとき、これらの原則がモデルのより適切な判断を助ける。
文脈と監督をルールの一部に
実務面での変更は、モデルが過去のやり取りやユーザーに関するその他の情報をどう考慮すべきかに関わる。OpenAIは、求人の比較を例に挙げている。モデルは、規則的な勤務時間を好むという過去の希望を考慮し、その前提を明示したうえで、ユーザーが訂正できるようにする。文書には、人間による監督、ユーザーの自律性、モデルの行動がもたらす影響についても、より明確な指針が加わった。
OpenAIはこの仕様を、境界線と、主として上書き可能なデフォルト設定の集まりとして説明している。その枠内で開発者はアプリの振る舞いを定め、ユーザーはモデルの動作を方向付けられる。プロダクトチームにとっては、システム指示や検証を設計する際の有用な指針となる。どの文脈を考慮してよいのか、モデルが前提をどう伝えるのか、人間の関与がいつ必要なのかを定める必要がある。
スタイルに関する細かな指示を縮小
同じ改訂でOpenAIは、詳細なスタイル指示の大部分を削除すると明らかにした。同社は、スタイルは人々の好み、言語、文脈に応じて変えるべきだと説明している。一方で、質問に客観的に答えるといった基本要件は、より一貫して維持される。これにより仕様の重点は、画一的なスタイル規則から、価値観と曖昧な状況への対処方法へと移る。
OpenAIはまた、モデルがこれらの原則をより適切に適用できるようにする訓練方法を研究しており、今後の更新で成果を共有する予定だとしている。同時に、この仕様は目標とする振る舞いの説明であり、現在のモデルはまだ完全には一致していないと明言している。そのため、製品に導入するチームは、この文書を要件の土台として使いつつ、アプリのタスク、文脈、ツールに即した具体的なシナリオを独自のテストで検証するのがよい。
チームにとって重要な実務上の教訓は、指示に正確に従うかどうかだけでなく、モデルが文脈をどう使い、前提をどう明らかにし、人間の主導権をどう保つかという観点からも、指示とテストを見直すことだ。更新は10月29日に公開された。この発表でOpenAIは、モデルの新バージョンや新しいインターフェースを別途発表してはいない。
