Skip to main content
Langfuse biedt LLM-observability, promptbeheer, playgrounds en evaluatieworkflows. Configureer een Langfuse LLM Connection met CometAPI wanneer je wilt dat Langfuse Playground of LLM-as-a-Judge-evaluaties CometAPI-modellen aanroepen.

​
Vereisten

​
Configureer de integratie

1

Maak een Langfuse LLM connection

Open in Langfuse Project Settings → LLM Connections. Start de flow om een LLM API-sleutel toe te voegen.
2

Kies de OpenAI-adapter

Selecteer OpenAI als provider. Langfuse gebruikt deze adapter voor modelproviders die het OpenAI API-schema ondersteunen.
3

Voer CometAPI-inloggegevens in

Configureer de verbinding met deze waarden:Als Langfuse het veld voor de base URL onder Advanced Settings toont, vouw die sectie dan uit voordat je de verbinding opslaat.
4

Test in Playground

Selecteer in Langfuse Playground de CometAPI LLM connection en een van de geconfigureerde model IDs. Verstuur een korte prompt om te bevestigen dat Langfuse een reactie ontvangt.

​
Gebruik CometAPI voor LLM-as-a-Judge

Langfuse LLM-as-a-Judge-evaluators kunnen dezelfde LLM connection gebruiken. Selecteer de CometAPI-verbinding in de evaluatorconfiguratie en kies vervolgens een model ID dat tool calling ondersteunt als je scoreprompt gestructureerde extractie vereist. Gebruik provideropties alleen wanneer het geselecteerde CometAPI-model die request fields ondersteunt. Gebruik voor modeldetectie de CometAPI Models page of de /v1/models API.

​
Probleemoplossing

Voeg het exacte CometAPI model ID toe aan de lijst met custom model IDs in de LLM connection. Langfuse detecteert niet automatisch elk model voor aangepaste OpenAI-compatible providers.
Gebruik https://api.cometapi.com/v1 als base URL. Langfuse voegt het OpenAI-compatible pad toe voor de geselecteerde adapter.
Controleer of het geselecteerde model de request features ondersteunt die door de evaluator worden gebruikt, zoals tool calling of JSON-output.

​
Gerelateerde bronnen