دفعات OpenAI بنصف السعر، والطلبات المكتملة تُحاسب بعد انتهاء المهلة

Summary

تعرض OpenAI لواجهة Batch API سعراً يقل 50% عن الاستدعاءات المتزامنة ونافذة إنجاز مدتها 24 ساعة. إذا انتهت المهلة، تُحاسب الرموز التي استهلكتها الطلبات المكتملة.
تُلغى الطلبات التي لم تكتمل وتظهر في ملف الأخطاء تحت batch_expired. يربط custom_id ملف الإدخال بملف النتائج وملف الأخطاء، فيكشف ما سُلّم وما يحتاج إلى إعادة تشغيل.

الخصم رقم واحد. أما الناتج الناقص فيحتاج إلى جرد سطر بسطر.

تستقبل Batch API من OpenAI ملف JSONL يضم طلبات منفصلة وتعالجها في طابور غير متزامن. تعرض الشركة خفضاً في الكلفة بنسبة 50% مقارنة بالواجهات المتزامنة، وحدود معدل منفصلة، ونافذة معالجة من 24 ساعة. هذا مناسب لتقييم مجموعات كبيرة أو تصنيف أرشيف أو إنشاء تضمينات. يدفع العميل أقل مقابل العمل الذي ينجزه النموذج. لكنه قد يكون قد وعد فريقاً آخر بمجموعة كاملة من النتائج، لا بمجرد عدد كبير منها.

تشرح وثائق OpenAI لحظة انفصال الوعدين. تنتقل الدفعة التي لا تنتهي في الوقت إلى الحالة expired. تحتفظ الشركة بالاستجابات المكتملة في ملف النتائج. أما الطلبات التي بقيت بلا تنفيذ فتُلغى ويُسجّل لها الخطأ batch_expired في ملف مستقل. تظل الرموز المستهلكة في الطلبات المنجزة خاضعة للمحاسبة. انتهت الدفعة بوصفها مهمة في النظام، وبقي على العميل عمل لم يُنجز.

قد تكون الفجوة الصغيرة هي أكثر ما يهم المشتري. إذا غابت نتائج سجلات حاسمة من تصنيف، لا تنفع نسبة إنجاز مرتفعة لإرسال مجموعة مكتملة. وإذا نقصت حالات من اختبار تقييم، فقد يصبح المتوسط الناتج مضللاً. لدى المزود مقياس واضح للعمل الذي قام به؛ ولدى العميل معيار مختلف هو اكتمال المادة التي سيستخدمها. التخفيض في السعر لا يحسم هذا الفرق.

تبدأ المحاسبة الدقيقة من ملف الإدخال نفسه. لكل طلب custom_id فريد. وتحذر OpenAI من أن ترتيب أسطر النتائج قد يختلف عن ترتيب أسطر الإدخال. لذلك لا يصلح رقم السطر مفتاحاً للمطابقة. يحتفظ المشغّل بقائمة المعرفات الأصلية، ويقابلها بما ظهر في ملف النتائج وما ظهر في ملف الأخطاء. هكذا تصبح الفجوة قائمة طلبات محددة، لا تعليقاً عاماً بأن «معظم الدفعة نجح».

تمنح واجهة استرجاع الدفعة طبقة ثانية من الإثبات: الحالة، وexpires_at وexpired_at، ومعرّفي ملف النتائج وملف الأخطاء، وأعداد الطلبات الإجمالية والمكتملة والفاشلة في request_counts. وتُعرض أرقام استخدام الرموز للدفعات المؤهلة. تكشف العدادات حجم المشكلة؛ تحدد المعرفات السجلات الناقصة. لا يستطيع فريق الشراء اتخاذ قرار إعادة التشغيل من النسبة الإجمالية وحدها.

إعادة إرسال الملف الأصلي كله تعيد أيضاً الطلبات التي خرجت لها إجابات. أما تكوين ملف جديد بالمعرفات التي ما زالت بلا نتيجة فيحصر الجولة الثانية في الباقي. لا تعرض الوثائق العامة ملفاً منتهياً أو فاتورة تخص عميلاً بعينه. لحساب مبلغ فعلي يلزم سجل ذلك العميل وملفا النتائج والأخطاء وسعر النموذج الذي استخدمه.

إن سعر النصف قاعدة تجارية صريحة. لكن وحدة البيع هنا طلبات نُفذت، بينما وحدة النجاح عند المشتري قد تكون مشروعاً لا يقبل نقص أي سجل. من يوافق على السعر قبل أن يحدد صاحب مسؤولية الفجوة يشتري خصماً ويؤجل قرار التسليم إلى يوم انتهاء المهلة.