Forutsetninger
- Et Langfuse Cloud-prosjekt eller en selvhostet Langfuse-instans
- En CometAPI-konto med en aktiv API-nøkkel — skaff din i dashbordet
- Minst én CometAPI model ID valgt fra CometAPI Models page
Konfigurer integrasjonen
1
Opprett en Langfuse LLM connection
I Langfuse åpner du Project Settings → LLM Connections. Start flyten for å legge til en LLM API-nøkkel.
2
Velg OpenAI-adapteren
Velg OpenAI som leverandør. Langfuse bruker denne adapteren for modelleverandører som støtter OpenAI API-skjemaet.
3
Angi CometAPI-legitimasjon
Konfigurer tilkoblingen med disse verdiene:
Hvis Langfuse viser base URL-feltet under Advanced Settings, utvider du den delen før du lagrer tilkoblingen.
4
Test i Playground
I Langfuse Playground velger du CometAPI LLM connection og en av de konfigurerte model ID-ene. Send en kort prompt for å bekrefte at Langfuse mottar et svar.
Bruk CometAPI for LLM-as-a-Judge
Langfuse LLM-as-a-Judge-evaluatorer kan bruke den samme LLM connection. Velg CometAPI-tilkoblingen i evaluator-konfigurasjonen, og velg deretter en model ID som støtter tool calling hvis scoringsprompten din krever strukturert ekstraksjon. Bruk leverandøralternativer bare når den valgte CometAPI-modellen støtter disse request-feltene. For modelloppdagelse bruker du CometAPI Models page eller/v1/models API-et.
Feilsøking
Modellen er ikke synlig i Langfuse
Modellen er ikke synlig i Langfuse
Legg til den nøyaktige CometAPI model ID-en i listen over tilpassede model IDs i LLM connection. Langfuse oppdager ikke automatisk alle modeller for egendefinerte OpenAI-kompatible leverandører.
Requesten bruker feil API-bane
Requesten bruker feil API-bane
Bruk
https://api.cometapi.com/v1 som base URL. Langfuse legger til den OpenAI-kompatible banen for den valgte adapteren.Evaluator-kall mislykkes
Evaluator-kall mislykkes
Bekreft at den valgte modellen støtter request-funksjonene som brukes av evaluatoren, for eksempel tool calling eller JSON-utdata.