Michael Johnsonبالنسبة إلى وكيل يستدعي واجهة API عدة مرات خلال يوم العمل، يؤثر إرسال التعليمات الطويلة مرارًا في التكلفة. في 20 أكتوبر 2026، أضافت OpenAI إلى Responses API خيارًا للتخزين المؤقت لمدة 12 ساعة: إذ يمكن أن تظل التعليمات والأدوات والسياقات المشتركة قابلة لإعادة الاستخدام بين الطلبات التي تفصل بينها عدة ساعات. وتحدد OpenAI تكلفة الكتابة بمقدار 2.5 ضعف السعر المعتاد لرموز الإدخال؛ وهذه هي تكلفة الكتابة كاملة، وليست زيادة تُضاف إليها. ويتوقف التوفير على إعادة استخدام البادئة وسعر قراءة الرموز المخزنة مؤقتًا. وقد نُشر الإعلان في سجل تغييرات OpenAI بتاريخ 20 أكتوبر 2026.
صُممت هذه المدة لسير العمل متعدد المراحل؛ فمثلًا، قد يحلل وكيل مستندات في الصباح ثم يتابع المهمة لاحقًا باستخدام التعليمات والأدوات نفسها. ولتحديد ما إذا كان ينبغي تفعيل مدة الاثنتي عشرة ساعة، قارن تكلفة الكتابة بتكلفة القراءات المتكررة، وخذ في الحسبان عدد الطلبات التي تعيد استخدام البادئة نفسها فعلًا.
ما الذي يُخزَّن مؤقتًا؟
تعيد ميزة التخزين المؤقت للمطالبات استخدام الجزء الأول المتطابق من الإدخال. وينبغي أن تحافظ الطلبات اللاحقة على هذا الجزء دون تغيير؛ لذا يُستحسن وضع البيانات المتغيرة بعد الجزء الثابت. ويذكر دليل OpenAI للتخزين المؤقت للمطالبات أنه يمكن ضبط مدة الصلاحية على `30m` أو `12h` في Responses API لنماذج GPT‑5.6 وما بعدها. وتمثل الاثنتا عشرة ساعة الحد الأدنى للمدة التي يُفترض أن يظل فيها الإدخال صالحًا للقراءة من الذاكرة المؤقتة، ولا تعني وعدًا بحذفه فور انقضائها. ويختلف التوافر والإعدادات بحسب النموذج.
يمكن وضع تعليمات النظام وتعريفات الأدوات وقواعد المعالجة الثابتة في البادئة الثابتة. أما السؤال الحالي ومعرّفات المهمة والبيانات الحديثة، فمن الأفضل إضافتها بعدها. وإذا تغيّرت الأجزاء المبكرة من الطلب، قصرت البادئة المتطابقة وقد يقل عدد الرموز التي يمكن إعادة استخدامها.
كيفية تقدير الجدوى الاقتصادية
لنفترض أن البادئة الثابتة تتكون من P رمزًا، وتُرسل N مرة، وأن سعر رمز الإدخال العادي هو C، ومعدل القراءة من الذاكرة المؤقتة للنموذج المختار هو R. عند إجراء كتابة واحدة وتحقيق إصابة في الذاكرة المؤقتة في كل الطلبات اللاحقة، تبلغ تكلفة هذه البادئة نحو 2,5PC + (N−1)PR. أما من دون التخزين المؤقت، فستكلف إعادة إرسالها NPC. يقتصر هذا التقدير على البادئة الثابتة؛ لذا احسب الجزء المتغير من الطلب، وحالات عدم الإصابة في الذاكرة المؤقتة، وعمليات الكتابة الإضافية على حدة. ويعتمد معدل القراءة على النموذج؛ فعلى سبيل المثال، تحدد الوثائق المعدل عند 0,05 من السعر المعتاد لرمز الإدخال في GPT‑6.1 Sol، وعند 0,1 لنماذج GPT‑5.6 وما بعدها.
في هذا النموذج المبسط، يبدأ التخزين المؤقت بتوفير التكلفة على البادئة المعاد استخدامها عندما يتحقق الشرط 2,5C + (N−1)R < NC. وتعتمد نقطة التعادل الفعلية على الإصابات الحقيقية، وعمليات الكتابة المتكررة، والتعرفة المحددة. فإذا كانت الطلبات متباعدة، أو كانت التعليمات تتغير كثيرًا، أو كانت البادئة فريدة في كل مرة، فقد تفوق تكلفة الكتابة الإضافية ما يُوفَّر من القراءة.
الاختبار على حمل العمل الفعلي
- حدّد خط أساس. اختر طلبات نموذجية، وطول البادئة الثابتة، والفواصل الزمنية بين الاستدعاءات، والتكلفة من دون مدة صلاحية قدرها 12 ساعة.
- افصل الثابت عن المتغير. أبقِ التعليمات المشتركة ومخططات الأدوات في البداية، وضع بيانات المستخدم والمهمة الحالية بعدها.
- قارن طلبات قابلة للمقارنة. احسب عمليات الكتابة وحجم رموز الإدخال المخزنة مؤقتًا والتكلفة الإجمالية للنموذج ومدة الاحتفاظ المختارين.
- قيّم دورة العمل كاملة. خذ في الحسبان حالات عدم الإصابة، وعمليات الكتابة المتكررة بعد انتهاء المدة، والحالات التي يمنع فيها تغيير البادئة إعادة استخدامها.
تساعد مقاييس استجابة API على التحقق من الحجم الفعلي لرموز الإدخال المخزنة مؤقتًا وعمليات الكتابة؛ وتختلف تفاصيل التقارير بحسب النموذج. وتناسب مدة التخزين المؤقت القابلة للضبط، والبالغة 12 ساعة، البادئة الكبيرة والثابتة التي يُعاد استخدامها بفواصل زمنية تمتد ساعات. أما الطلبات القصيرة أو النادرة التكرار، فابدأ بقياس عمليات الكتابة والإصابات والتكلفة الإجمالية على حركة المرور الخاصة بك.