Documentation Index
Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
Use this file to discover all available pages before exploring further.
أضف fallback للنموذج من خلال الاحتفاظ بقائمة مرتبة صغيرة من model IDs داخل تطبيقك وتجربة النموذج التالي فقط عندما يكون الفشل قابلاً لإعادة المحاولة أو خاصًا بالنموذج. لا تُعِد محاولة الطلبات غير الصحيحة؛ أصلح أخطاء 400 و401 وأخطاء الطلبات غير الصالحة قبل استدعاء نموذج آخر.
تنفيذ fallback مرتب
يوضح مثال Python التالي كيفية تجربة model IDs بالترتيب والتوقف عند الأخطاء غير القابلة لإعادة المحاولة:
import os
import time
from openai import OpenAI, APIError, RateLimitError
client = OpenAI(
api_key=os.environ["COMETAPI_KEY"],
base_url="https://api.cometapi.com/v1",
)
models = ["your-primary-model-id", "your-fallback-model-id"]
for model in models:
try:
completion = client.chat.completions.create(
model=model,
messages=[
{
"role": "user",
"content": "Summarize CometAPI in one sentence.",
}
],
)
print(completion.choices[0].message.content)
break
except RateLimitError:
time.sleep(2)
continue
except APIError as error:
status_code = getattr(error, "status_code", None)
if status_code in {500, 503, 504, 524}:
time.sleep(2)
continue
raise
else:
raise RuntimeError("All configured model fallbacks failed.")
تأتي الاستجابة الناجحة من أول نموذج يُكمل الطلب:
{
"model": "your-fallback-model-id",
"choices": [
{
"message": {
"role": "assistant",
"content": "CometAPI gives developers one API surface for multiple model providers."
}
}
]
}
اختيار نماذج fallback
يعرض الطلب التالي model IDs المتاحة التي يمكنك تقييمها لاستخدامها في fallback:
curl https://api.cometapi.com/api/models
تحتوي الاستجابة على سجلات النماذج:
{
"success": true,
"page": 0,
"page_size": 0,
"total": 301,
"data": [
{
"id": "deepseek-v4-pro",
"provider": "DeepSeek",
"model_type": "text",
"features": [
"text-to-text"
],
"pricing": {
"currency": "USD / M Tokens",
"input": 0.416,
"output": 0.832,
"per_request": null,
"per_second": null
},
"api_doc_url": "https://apidoc.cometapi.com/api/text/chat"
}
]
}
الأخطاء الشائعة
| الخطأ | الحل |
|---|
| يخفي fallback الطلبات غير الصالحة | لا تستخدم fallback مع أخطاء 400 أو 401 أو أخطاء الطلبات غير الصالحة. |
| للنماذج تنسيقات إخراج مختلفة | وحّد تنسيق الاستجابة في تطبيقك قبل إرجاعها إلى المستخدمين. |
| يزيد fallback من التكلفة | قدّر تكلفة كل نموذج قبل إضافته إلى قائمة fallback. |
| عدد كبير جدًا من fallback المتوازية | جرّب fallback بشكل تسلسلي ما لم يكن منتجك يتطلب تسابقًا متوازيًا. |
روابط ذات صلة