Langfuse fournit l’observabilité des LLM, la gestion des prompts, des playgrounds et des workflows d’évaluation. Configurez une connexion LLM Langfuse avec CometAPI lorsque vous souhaitez que Langfuse Playground ou les évaluations LLM-as-a-Judge appellent des modèles CometAPI.Documentation Index
Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
Use this file to discover all available pages before exploring further.
Prérequis
- Un projet Langfuse Cloud ou une instance Langfuse auto-hébergée
- Un compte CometAPI avec une clé API active — obtenez la vôtre dans le tableau de bord
- Au moins un model ID CometAPI sélectionné depuis la page des modèles CometAPI
Configurer l’intégration
Créer une connexion LLM Langfuse
Dans Langfuse, ouvrez Project Settings → LLM Connections. Lancez le processus d’ajout d’une clé API LLM.
Choisir l’adaptateur OpenAI
Sélectionnez OpenAI comme fournisseur. Langfuse utilise cet adaptateur pour les fournisseurs de modèles qui prennent en charge le schéma d’API OpenAI.
Saisir les identifiants CometAPI
Configurez la connexion avec ces valeurs :
Si Langfuse expose le champ d’URL de base dans Advanced Settings, développez cette section avant d’enregistrer la connexion.
| Field | Value |
|---|---|
| Clé API | Votre clé API CometAPI |
| URL de base | https://api.cometapi.com/v1 |
| Custom model IDs | Un ou plusieurs model IDs depuis la page des modèles CometAPI |
Utiliser CometAPI pour LLM-as-a-Judge
Les évaluateurs LLM-as-a-Judge de Langfuse peuvent utiliser la même connexion LLM. Sélectionnez la connexion CometAPI dans la configuration de l’évaluateur, puis choisissez un model ID qui prend en charge le tool calling si votre prompt de notation nécessite une extraction structurée. Utilisez les options du fournisseur uniquement lorsque le modèle CometAPI sélectionné prend en charge ces champs de requête. Pour découvrir les modèles, utilisez la page des modèles CometAPI ou l’API/v1/models.
Dépannage
Le modèle n’est pas visible dans Langfuse
Le modèle n’est pas visible dans Langfuse
Ajoutez le model ID CometAPI exact à la liste des custom model IDs dans la connexion LLM. Langfuse ne découvre pas automatiquement tous les modèles pour les fournisseurs personnalisés compatibles OpenAI.
La requête utilise le mauvais chemin d’API
La requête utilise le mauvais chemin d’API
Utilisez
https://api.cometapi.com/v1 comme URL de base. Langfuse ajoute le chemin compatible OpenAI pour l’adaptateur sélectionné.Les appels de l’évaluateur échouent
Les appels de l’évaluateur échouent
Confirmez que le modèle sélectionné prend en charge les fonctionnalités de requête utilisées par l’évaluateur, comme le tool calling ou la sortie JSON.