Documentation Index
Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
Use this file to discover all available pages before exploring further.
Ajoutez un fallback de modèle en conservant une petite liste ordonnée de model ID dans votre application et en essayant le modèle suivant uniquement lorsque l’échec est réessayable ou spécifique au modèle. Ne réessayez pas les requêtes mal formées ; corrigez les erreurs 400, 401 et les erreurs de requête invalide avant d’appeler un autre modèle.
Implémenter un fallback ordonné
L’exemple Python suivant essaie les model ID dans l’ordre et s’arrête sur les erreurs non réessayables :
import os
import time
from openai import OpenAI, APIError, RateLimitError
client = OpenAI(
api_key=os.environ["COMETAPI_KEY"],
base_url="https://api.cometapi.com/v1",
)
models = ["your-primary-model-id", "your-fallback-model-id"]
for model in models:
try:
completion = client.chat.completions.create(
model=model,
messages=[
{
"role": "user",
"content": "Summarize CometAPI in one sentence.",
}
],
)
print(completion.choices[0].message.content)
break
except RateLimitError:
time.sleep(2)
continue
except APIError as error:
status_code = getattr(error, "status_code", None)
if status_code in {500, 503, 504, 524}:
time.sleep(2)
continue
raise
else:
raise RuntimeError("All configured model fallbacks failed.")
{
"model": "your-fallback-model-id",
"choices": [
{
"message": {
"role": "assistant",
"content": "CometAPI gives developers one API surface for multiple model providers."
}
}
]
}
Choisir des modèles de fallback
La requête suivante liste les model ID disponibles que vous pouvez évaluer pour le fallback :
curl https://api.cometapi.com/api/models
{
"success": true,
"page": 0,
"page_size": 0,
"total": 301,
"data": [
{
"id": "deepseek-v4-pro",
"provider": "DeepSeek",
"model_type": "text",
"features": [
"text-to-text"
],
"pricing": {
"currency": "USD / M Tokens",
"input": 0.416,
"output": 0.832,
"per_request": null,
"per_second": null
},
"api_doc_url": "https://apidoc.cometapi.com/api/text/chat"
}
]
}
Erreurs courantes
| Erreur | Correction |
|---|
| Le fallback masque les requêtes invalides | N’utilisez pas le fallback sur les erreurs 400, 401 ou de requête invalide. |
| Les modèles ont des formats de sortie différents | Normalisez la réponse dans votre application avant de la renvoyer aux utilisateurs. |
| Le fallback augmente le coût | Estimez le coût de chaque modèle avant de l’ajouter à la liste de fallback. |
| Trop de fallbacks parallèles | Essayez les fallbacks séquentiellement, sauf si votre produit exige une exécution parallèle. |
Liens associés
