Skip to main content
Langfuse ofrece observabilidad de LLM, gestión de prompts, playgrounds y flujos de trabajo de evaluación. Configura una conexión LLM de Langfuse con CometAPI cuando quieras que Langfuse Playground o las evaluaciones LLM-as-a-Judge llamen a modelos de CometAPI.

​
Requisitos previos

​
Configurar la integración

1

Crear una conexión LLM de Langfuse

En Langfuse, abre Project Settings → LLM Connections. Inicia el flujo para añadir una clave API de LLM.
2

Elegir el adaptador de OpenAI

Selecciona OpenAI como provider. Langfuse usa este adaptador para providers de modelos que admiten el esquema de API de OpenAI.
3

Introducir las credenciales de CometAPI

Configura la conexión con estos valores:Si Langfuse muestra el campo de URL base en Advanced Settings, expande esa sección antes de guardar la conexión.
4

Probar en Playground

En Langfuse Playground, selecciona la conexión LLM de CometAPI y uno de los model ID configurados. Envía un prompt corto para confirmar que Langfuse recibe una respuesta.

​
Usar CometAPI para LLM-as-a-Judge

Los evaluadores LLM-as-a-Judge de Langfuse pueden usar la misma conexión LLM. Selecciona la conexión de CometAPI en la configuración del evaluador y luego elige un model ID que admita tool calling si tu prompt de puntuación requiere extracción estructurada. Usa opciones de provider solo cuando el modelo de CometAPI seleccionado admita esos campos de solicitud. Para descubrir modelos, usa la página de modelos de CometAPI o la API /v1/models.

​
Solución de problemas

Añade el model ID exacto de CometAPI a la lista de custom model IDs en la conexión LLM. Langfuse no descubre automáticamente todos los modelos para providers personalizados compatibles con OpenAI.
Usa https://api.cometapi.com/v1 como URL base. Langfuse añade la ruta compatible con OpenAI para el adaptador seleccionado.
Confirma que el modelo seleccionado admite las funciones de solicitud usadas por el evaluador, como tool calling o salida JSON.

​
Recursos relacionados