Skip to main content
Langfuse offre osservabilità LLM, gestione dei prompt, playground e flussi di lavoro di valutazione. Configura una connessione LLM di Langfuse con CometAPI quando vuoi che Langfuse Playground o le valutazioni LLM-as-a-Judge chiamino i modelli CometAPI.

​
Prerequisiti

​
Configura l’integrazione

1

Crea una connessione LLM di Langfuse

In Langfuse, apri Project Settings → LLM Connections. Avvia la procedura per aggiungere una chiave API LLM.
2

Scegli l'adattatore OpenAI

Seleziona OpenAI come provider. Langfuse usa questo adattatore per i provider di modelli che supportano lo schema API OpenAI.
3

Inserisci le credenziali di CometAPI

Configura la connessione con questi valori:Se Langfuse mostra il campo dell’URL di base in Advanced Settings, espandi quella sezione prima di salvare la connessione.
4

Testa in Playground

In Langfuse Playground, seleziona la connessione LLM di CometAPI e uno dei model ID configurati. Invia un prompt breve per confermare che Langfuse riceva una risposta.

​
Usa CometAPI per LLM-as-a-Judge

I valutatori LLM-as-a-Judge di Langfuse possono usare la stessa connessione LLM. Seleziona la connessione CometAPI nella configurazione del valutatore, quindi scegli un model ID che supporti il tool calling se il tuo prompt di valutazione richiede un’estrazione strutturata. Usa le opzioni del provider solo quando il modello CometAPI selezionato supporta quei campi della richiesta. Per individuare i modelli, usa la pagina dei modelli CometAPI o l’API /v1/models.

​
Risoluzione dei problemi

Aggiungi l’esatto model ID di CometAPI all’elenco dei custom model IDs nella connessione LLM. Langfuse non rileva automaticamente ogni modello per i provider personalizzati compatibili con OpenAI.
Usa https://api.cometapi.com/v1 come URL di base. Langfuse aggiunge il percorso compatibile con OpenAI per l’adattatore selezionato.
Conferma che il modello selezionato supporti le funzionalità di richiesta usate dal valutatore, come tool calling o output JSON.

​
Risorse correlate