Michael Johnson1日の業務中にAPIを何度も呼び出すエージェントでは、長い指示を繰り返し送信するとコストに影響します。2026年10月20日、OpenAIはResponses APIに12時間のキャッシュ保持期間を選択できる機能を追加しました。共通の指示、ツール、コンテキストを、数時間おきに行われるリクエスト間で再利用できる場合があります。OpenAIによると、書き込み料金は通常の入力トークン料金の2.5倍です。これは書き込みに適用される合計料金であり、通常料金への上乗せではありません。節約効果は、プレフィックスがどれだけ再利用されるか、またキャッシュ読み取りトークンの料金によって変わります。OpenAIの変更履歴での告知の日付は2026年10月20日です。
この保持期間は、たとえばエージェントが朝に文書を分析し、同じ指示やツールを使って後から作業を再開するような、多段階のワークフローを想定しています。12時間の保持期間を有効にするか判断するには、書き込みコストと繰り返し読み込む場合のコストを比べ、同じプレフィックスが実際に何回再利用されるかを考慮します。
キャッシュされるもの
プロンプトキャッシュは、入力の先頭部分が一致すると、その部分を再利用します。後続のリクエストでもその部分を同一に保ち、変化するデータは固定部分の後に配置する必要があります。OpenAIのプロンプトキャッシュガイドによると、GPT‑5.6以降のモデルでは、Responses APIでTTLに`30m`または`12h`を設定できます。12時間とは、キャッシュ読み取りに使える状態でエントリーが保持される最低期間であり、ちょうど12時間後に削除されるという保証ではありません。利用可否や設定はモデルによって異なります。
システム指示、ツール定義、安定した処理ルールは、固定プレフィックスに含めると便利です。現在の質問、タスクID、新しいデータは、その後に追加します。リクエストの前半を変更すると、一致するプレフィックスが短くなり、再利用できるトークンが減る場合があります。
費用対効果の見積もり方
固定プレフィックスのトークン数をP、送信回数をN、通常の入力トークン料金をC、選択したモデルのキャッシュ読み取り料金をRとします。1回書き込みを行い、その後のすべてのリクエストでキャッシュがヒットする場合、このプレフィックスの費用はおよそ2.5PC + (N−1)PRです。キャッシュを使わない場合、送信費用はNPCです。この見積もりの対象は固定プレフィックスのみです。変化するリクエスト部分、キャッシュミス、追加の書き込みは別途考慮してください。読み取り料金はモデルによって異なります。たとえば、ドキュメントではGPT‑6.1 Solは通常の入力トークン料金の0.05倍、GPT‑5.6以降のモデルは0.1倍とされています。
この単純化したモデルでは、2.5C + (N−1)R < NCとなると、再利用されるプレフィックスで節約が始まります。実際の損益分岐点は、実際のキャッシュヒット率、再書き込みの回数、具体的な料金体系によって変わります。リクエストの頻度が低い、指示を頻繁に変更する、またはプレフィックスが毎回異なる場合は、書き込みの追加費用が読み取りによる節約を上回ることがあります。
実際のワークロードで確認する
- 基準となる条件を記録する。代表的なリクエスト、固定プレフィックスの長さ、呼び出し間隔、12時間TTLを使わない場合の費用を確認します。
- 固定部分と可変部分を分ける。共通の指示やツールのスキーマを先頭に置き、ユーザーデータや現在のタスクはその後に配置します。
- 条件をそろえてリクエストを比較する。選択したモデルと保持期間について、書き込み回数、キャッシュされた入力トークン数、総費用を計算します。
- ワークフロー全体を評価する。キャッシュミス、期間終了後の再書き込み、プレフィックスの変更によって再利用できなくなるケースを考慮します。
APIレスポンスのメトリクスを使うと、実際にキャッシュされた入力トークン数や書き込みを確認できます。報告される項目はモデルによって異なります。設定可能な12時間の保持期間は、数時間おきに再利用される大きな固定プレフィックスに適しています。短いリクエストや再利用頻度の低いリクエストでは、まず自分のトラフィックで書き込み、キャッシュヒット、総費用を計測してください。