شروع سریع

دات‌هوش یک gateway برای مدل‌های زبانی است: با همان SDK و همان قالب درخواستی که امروز استفاده می‌کنید به آن وصل می‌شوید، دات‌هوش درخواست را به ارائه‌دهندهٔ بالادست می‌رساند و هزینهٔ آن را از کیف پول پیش‌پرداخت شما به تومان کم می‌کند.

دو دلیل برای استفاده از دات‌هوش

• دسترسی: ارائه‌دهنده‌های بالادست از ایران به‌طور قابل‌اعتماد در دسترس نیستند؛ دات‌هوش هست.
• پرداخت: هزینه را به تومان از کیف پول پیش‌پرداخت می‌پردازید؛ کارت ارزی در کار نیست.

روی سیم، دات‌هوش دو سطح سازگار با ابزارهای موجود ارائه می‌دهد: /v1/* برای کلاینت‌های OpenAI و /anthropic/* برای کلاینت‌های Anthropic.

وضعیت فعلی سرویس

سرویس فعال است. حساب می‌سازید، کیف پول را به تومان شارژ می‌کنید و با کلید خودتان به همین آدرس‌های پایه درخواست می‌فرستید.

اگر سامانه برای نگه‌داری موقتاً در دسترس نباشد، دامنهٔ عمومی از لبهٔ میزبان با خطای کاتالوگ‌شدهٔ maintenance_mode پاسخ می‌دهد:

• روی /v1/* پاسخ 503 با type: "provider_error" و سرآیندهای X-Request-Id و Retry-After: 120
• روی /anthropic/* پاسخ 500 با type: "api_error" و سرآیند Request-Id: req_…

در این حالت بعد از چند دقیقه دوباره تلاش کنید. برای توسعهٔ محلی هم می‌توانید همین کد را روی ترکیب Compose محلی در http://127.0.0.1:58110 اجرا کنید (پورت میزبان با INFERENCE_GATEWAY_PORT قابل تغییر است؛ 8080 پورت داخل کانتینر است).

پیش از اولین درخواست

سه چیز لازم دارید:

1. حساب. ورود با شمارهٔ موبایل و رمز یک‌بارمصرف پیامکی انجام می‌شود؛ روش ورود دیگری وجود ندارد.
2. اعتبار در کیف پول. هر درخواست پیش از اجرا مبلغی را رزرو می‌کند و پس از اندازه‌گیری مصرف تسویه می‌شود. درخواستی که موجودی کافی نداشته باشد پیش از رسیدن به ارائه‌دهنده رد می‌شود و هزینه‌ای ندارد.
3. API key. آن را در کنسول می‌سازید. مقدار secret فقط یک بار، در همان لحظهٔ ساخت نمایش داده می‌شود و بعد از آن قابل بازیابی یا نمایش دوباره نیست.

آدرس پایه

SDK رسمی Anthropic خودش /v1/messages را به آدرس پایه اضافه می‌کند؛ SDK رسمی OpenAI هم /chat/completions را. جزئیات در راهنمای سازگاری با OpenAI و راهنمای سازگاری با Anthropic آمده است.

اولین درخواست

شناسهٔ مدل را حدس نزنید؛ فهرست مدل‌ها برای هر API key جداگانه است. اول بپرسید چه مدل‌هایی مجازید، بعد همان را در model بگذارید:

curl "https://gateway.dothoosh.com/v1/models" \
  -H "Authorization: Bearer $DOTHOOSH_API_KEY"

curl "https://gateway.dothoosh.com/v1/chat/completions" \
  -H "Authorization: Bearer $DOTHOOSH_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR_MODEL",
    "messages": [{ "role": "user", "content": "سلام" }]
  }'

YOUR_MODEL را با یک id واقعی از پاسخ GET /v1/models جایگزین کنید. مدلی که برای این key مجاز نباشد با api_key_model_not_allowed و مدل ناشناخته با model_not_found رد می‌شود.

مسیر یک درخواست

دانستن این چهار مرحله، خطاهایی که می‌بینید را قابل‌فهم می‌کند:

1. کلید احراز هویت و سقف‌های همان key بررسی می‌شود.
2. درخواست با یک نسخهٔ قیمت مشخص قیمت‌گذاری و مبلغی از کیف پول رزرو می‌شود.
3. درخواست به ارائه‌دهندهٔ بالادست می‌رود. اگر آن مسیر شکست بخورد، دات‌هوش همان مدل را روی مسیر دیگری دوباره امتحان می‌کند و هرگز مدل دیگری را جای آن نمی‌گذارد.
4. مصرف اندازه‌گیری‌شده با رزرو تسویه و باقی‌مانده آزاد می‌شود.

مرحله‌های ۲ و ۴ دلیل آن هستند که یک درخواست ناموفق بی‌سروصدا پول کم نمی‌کند.

محتوا و نگهداری داده

دات‌هوش متن درخواست و پاسخ شما را ذخیره نمی‌کند؛ بدنهٔ درخواست و پاسخ فقط عبور می‌کند. آنچه می‌ماند متادیتاست: زمان، مدل، شمار توکن، هزینه و وضعیت. این یک ویژگی طراحی است، نه محدودیت فعلی. جزئیات در حریم خصوصی و سیاست ارائه‌دهنده آمده است.

مطالب مرتبط

• اولین درخواست
• احراز هویت و امنیت کلید
• خطاها و محدودیت‌ها