Langfuse offre observability per LLM, gestione dei prompt, playground e workflow di valutazione. Configura una LLM Connection di Langfuse con CometAPI quando vuoi che Langfuse Playground o le valutazioni LLM-as-a-Judge chiamino i modelli CometAPI.Documentation Index
Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
Use this file to discover all available pages before exploring further.
Prerequisiti
- Un progetto Langfuse Cloud o un’istanza Langfuse self-hosted
- Un account CometAPI con una API key attiva — ottieni la tua nella dashboard
- Almeno un model ID di CometAPI selezionato dalla pagina Modelli di CometAPI
Configura l’integrazione
Create a Langfuse LLM connection
In Langfuse, apri Project Settings → LLM Connections. Avvia il flusso per aggiungere una API key LLM.
Choose the OpenAI adapter
Seleziona OpenAI come provider. Langfuse usa questo adapter per i provider di modelli che supportano lo schema API di OpenAI.
Enter CometAPI credentials
Configura la connessione con questi valori:
Se Langfuse mostra il campo base URL in Advanced Settings, espandi quella sezione prima di salvare la connessione.
| Field | Value |
|---|---|
| API key | La tua API key CometAPI |
| Base URL | https://api.cometapi.com/v1 |
| Custom model IDs | Uno o più model IDs dalla pagina Modelli di CometAPI |
Usa CometAPI per LLM-as-a-Judge
I valutatori LLM-as-a-Judge di Langfuse possono usare la stessa LLM connection. Seleziona la connessione CometAPI nella configurazione del valutatore, quindi scegli un model ID che supporti il tool calling se il tuo prompt di scoring richiede un’estrazione strutturata. Usa le opzioni del provider solo quando il modello CometAPI selezionato supporta quei campi della richiesta. Per individuare i modelli, usa la pagina Modelli di CometAPI o l’API/v1/models.
Risoluzione dei problemi
The model is not visible in Langfuse
The model is not visible in Langfuse
Aggiungi il model ID esatto di CometAPI all’elenco dei custom model IDs nella LLM connection. Langfuse non rileva automaticamente tutti i modelli per i provider personalizzati compatibili con OpenAI.
The request uses the wrong API path
The request uses the wrong API path
Usa
https://api.cometapi.com/v1 come base URL. Langfuse aggiunge il percorso compatibile con OpenAI per l’adapter selezionato.Evaluator calls fail
Evaluator calls fail
Verifica che il modello selezionato supporti le funzionalità di richiesta usate dal valutatore, come tool calling o output JSON.