Documentation Index
Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
Use this file to discover all available pages before exploring further.
Uygulamanızda model ID’lerinden oluşan küçük, sıralı bir liste tutarak model fallback ekleyin ve yalnızca hata yeniden denenebilir veya modele özgüyse bir sonraki modeli deneyin. Hatalı biçimlendirilmiş istekleri yeniden denemeyin; başka bir modeli çağırmadan önce 400, 401 ve geçersiz istek hatalarını düzeltin.
Sıralı fallback uygulayın
Aşağıdaki Python örneği model ID’lerini sırayla dener ve yeniden denenemeyen hatalarda durur:
import os
import time
from openai import OpenAI, APIError, RateLimitError
client = OpenAI(
api_key=os.environ["COMETAPI_KEY"],
base_url="https://api.cometapi.com/v1",
)
models = ["your-primary-model-id", "your-fallback-model-id"]
for model in models:
try:
completion = client.chat.completions.create(
model=model,
messages=[
{
"role": "user",
"content": "Summarize CometAPI in one sentence.",
}
],
)
print(completion.choices[0].message.content)
break
except RateLimitError:
time.sleep(2)
continue
except APIError as error:
status_code = getattr(error, "status_code", None)
if status_code in {500, 503, 504, 524}:
time.sleep(2)
continue
raise
else:
raise RuntimeError("All configured model fallbacks failed.")
{
"model": "your-fallback-model-id",
"choices": [
{
"message": {
"role": "assistant",
"content": "CometAPI gives developers one API surface for multiple model providers."
}
}
]
}
Fallback modellerini seçin
Aşağıdaki istek, fallback için değerlendirebileceğiniz kullanılabilir model ID’lerini listeler:
curl https://api.cometapi.com/api/models
{
"success": true,
"page": 0,
"page_size": 0,
"total": 301,
"data": [
{
"id": "deepseek-v4-pro",
"provider": "DeepSeek",
"model_type": "text",
"features": [
"text-to-text"
],
"pricing": {
"currency": "USD / M Tokens",
"input": 0.416,
"output": 0.832,
"per_request": null,
"per_second": null
},
"api_doc_url": "https://apidoc.cometapi.com/api/text/chat"
}
]
}
Yaygın hatalar
| Hata | Çözüm |
|---|
| Fallback geçersiz istekleri gizler | 400, 401 veya geçersiz istek hatalarında fallback uygulamayın. |
| Modellerin çıktı biçimleri farklıdır | Kullanıcılara döndürmeden önce uygulamanızda yanıtı normalize edin. |
| Fallback maliyeti artırır | Fallback listesine eklemeden önce her modelin maliyetini tahmin edin. |
| Çok fazla paralel fallback | Ürününüz paralel yarış gerektirmiyorsa fallback’leri sıralı olarak deneyin. |
İlgili bağlantılar
