Langfuse proporciona observabilidad de LLM, gestión de prompts, playgrounds y flujos de trabajo de evaluación. Configura una LLM Connection de Langfuse con CometAPI cuando quieras que Langfuse Playground o las evaluaciones de LLM-as-a-Judge llamen a modelos de CometAPI.Documentation Index
Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
Use this file to discover all available pages before exploring further.
Requisitos previos
- Un proyecto de Langfuse Cloud o una instancia autohospedada de Langfuse
- Una cuenta de CometAPI con una API key activa — obtén la tuya en el panel
- Al menos un model ID de CometAPI seleccionado en la página de modelos de CometAPI
Configurar la integración
Create a Langfuse LLM connection
En Langfuse, abre Project Settings → LLM Connections. Inicia el flujo para agregar una API key de LLM.
Choose the OpenAI adapter
Selecciona OpenAI como proveedor. Langfuse usa este adaptador para proveedores de modelos que admiten el esquema de API de OpenAI.
Enter CometAPI credentials
Configura la conexión con estos valores:
Si Langfuse muestra el campo de URL base en Advanced Settings, expande esa sección antes de guardar la conexión.
| Field | Value |
|---|---|
| API key | Tu API key de CometAPI |
| Base URL | https://api.cometapi.com/v1 |
| Custom model IDs | Uno o más model IDs de la página de modelos de CometAPI |
Usar CometAPI para LLM-as-a-Judge
Los evaluadores de LLM-as-a-Judge de Langfuse pueden usar la misma LLM Connection. Selecciona la conexión de CometAPI en la configuración del evaluador y luego elige un model ID que admita tool calling si tu prompt de puntuación requiere extracción estructurada. Usa opciones del proveedor solo cuando el modelo de CometAPI seleccionado admita esos campos de solicitud. Para descubrir modelos, usa la página de modelos de CometAPI o la API/v1/models.
Solución de problemas
The model is not visible in Langfuse
The model is not visible in Langfuse
Agrega el model ID exacto de CometAPI a la lista de custom model IDs en la LLM Connection. Langfuse no detecta automáticamente todos los modelos para proveedores personalizados compatibles con OpenAI.
The request uses the wrong API path
The request uses the wrong API path
Usa
https://api.cometapi.com/v1 como URL base. Langfuse agrega la ruta compatible con OpenAI para el adaptador seleccionado.Evaluator calls fail
Evaluator calls fail
Confirma que el modelo seleccionado admite las funciones de solicitud usadas por el evaluador, como tool calling o salida JSON.