پرش به محتوای اصلی
پایداری و مسیریابی

مدل شما هرگز بی‌صدا عوض نمی‌شود.

هر تلاش مجدد فقط پیش از اولین بایت پاسخ و فقط برای همان مدل انجام می‌شود. اگر مسیر سالمی نباشد، خطای استاندارد می‌گیرید؛ نه پاسخ مدل دیگری.

  1. مدل درخواستی همان شناسه‌ای که نوشته‌اید
  2. مسیریابی دات‌هوش بدون تغییر مدل
  3. مسیر همان مدلپاسخ می‌دهد
    مسیر دیگر همان مدل اگر برای آن مدل تعریف شده باشد
  4. پاسخ به شما شناسه درخواست در هدر پاسخ
قواعد

چهار قاعده ثابت مسیریابی

فقط همان مدل

تلاش مجدد فقط روی همان شناسه مدل انجام می‌شود. کیفیت و رفتار خروجی شما بی‌صدا عوض نمی‌شود.

خطای صریح به‌جای جایگزین پنهان

اگر هیچ مسیر سالمی برای مدل نباشد، خطای استاندارد می‌گیرید؛ مثلاً all_same_model_endpoints_unavailable (در مسیر سازگار با OpenAI با وضعیت ۵۰۳). فهرست خطاها در مرجع خطاها.

تلاش مجدد فقط پیش از اولین بایت

بعد از شروع ارسال پاسخ، درخواست دوباره اجرا نمی‌شود. تعداد تلاش برای هر مسیر جداگانه پیکربندی می‌شود.

هزینه فقط برای مصرف اندازه‌گیری‌شده

درخواستی که پیش از رسیدن به ارائه‌دهنده شکست بخورد هزینه ندارد؛ اگر پاسخ نیمه‌کاره قطع شود، فقط همان مقدار مصرف اندازه‌گیری‌شده تسویه می‌شود.

در پاسخ API

آنچه در پاسخ می‌بینید

response headers
# مسیر سازگار با OpenAI
HTTP/1.1 200 OK
x-request-id: <request-id>

# مسیر سازگار با Anthropic
HTTP/1.1 200 OK
request-id: <request-id>
شناسه درخواست
x-request-id در مسیر سازگار با OpenAI و request-id در مسیر سازگار با Anthropic
در پاسخ موفق و در پاسخ خطا هم برمی‌گردد؛ برای پیگیری با پشتیبانی همین شناسه را نگه دارید.
شناسه پاسخ (id)
chatcmpl-…، resp_… یا msg_… بسته به مسیر
فیلد هزینه یا تعداد تلاش در پاسخ
ندارد
هزینه هر درخواست از کیف پول کم می‌شود و مصرف در کنسول به تفکیک پروژه، کلید و مدل دیده می‌شود. تعداد تلاش هر درخواست فقط در لاگ درخواست‌های کنسول ثبت می‌شود.
حداکثر تلاش
برای هر مسیر جداگانه پیکربندی می‌شود
استریم
تلاش مجدد فقط پیش از ارسال اولین بایت پاسخ
رخدادها

تاریخچه وضعیت، بدون پنهان‌کاری

وضعیت زنده و همه رخدادها در صفحه وضعیت منتشر می‌شود.

هیچ رخدادی ثبت نشده است

تاریخچه رخدادها در حال حاضر خالی است. وضعیت زنده را در صفحه وضعیت ببینید.

پرسش‌های متداول

پاسخ به سوالات رایج

سوال دیگری دارید؟ مستندات را مطالعه کنید یا با پشتیبانی در ارتباط باشید.

تعهد سطح خدمات (SLA) دارید؟
در حال حاضر SLA قراردادی ارائه نمی‌شود. ترجیح می‌دهیم ادعایی نکنیم که پشتوانه قراردادی ندارد؛ وضعیت واقعی را در صفحه وضعیت منتشر می‌کنیم.
چرا در زمان اختلال مدل مشابه را جایگزین نمی‌کنید؟
چون خروجی، قیمت و رفتار مدل دیگر متفاوت است و ممکن است محصول شما را بی‌صدا خراب کند. اگر مدل جایگزین می‌خواهید، آن را در کد خود صریحاً مدیریت کنید.

زیرساختی که رفتارش قابل پیش‌بینی است

مدل را انتخاب کنید؛ مسیریابی و خطاهای استاندارد با دات‌هوش.