Naar hoofdinhoud gaan

Documentation Index

Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt

Use this file to discover all available pages before exploring further.

Langfuse biedt LLM-observability, promptbeheer, playgrounds en evaluatieworkflows. Configureer een Langfuse LLM Connection met CometAPI wanneer je wilt dat Langfuse Playground of LLM-as-a-Judge-evaluaties CometAPI-modellen aanroepen.

​
Vereisten

​
Configureer de integratie

1

Create a Langfuse LLM connection

Open in Langfuse Project Settings → LLM Connections. Start de flow voor het toevoegen van een LLM API key.
2

Choose the OpenAI adapter

Selecteer OpenAI als provider. Langfuse gebruikt deze adapter voor modelproviders die het OpenAI API-schema ondersteunen.
3

Enter CometAPI credentials

Configureer de verbinding met deze waarden:
FieldValue
API keyJe CometAPI API key
Base URLhttps://api.cometapi.com/v1
Custom model IDsEen of meer model IDs van de CometAPI Models page
Als Langfuse het veld voor de base URL onder Advanced Settings toont, klap die sectie dan uit voordat je de verbinding opslaat.
4

Test in Playground

Selecteer in Langfuse Playground de CometAPI LLM Connection en een van de geconfigureerde model IDs. Verstuur een korte prompt om te bevestigen dat Langfuse een response ontvangt.

​
Gebruik CometAPI voor LLM-as-a-Judge

Langfuse LLM-as-a-Judge-evaluators kunnen dezelfde LLM Connection gebruiken. Selecteer de CometAPI-verbinding in de evaluatorconfiguratie en kies daarna een model ID dat tool calling ondersteunt als je scoring prompt gestructureerde extractie vereist. Gebruik provideropties alleen wanneer het geselecteerde CometAPI-model die request-velden ondersteunt. Gebruik voor modeldetectie de CometAPI Models page of de /v1/models API.

​
Probleemoplossing

Voeg het exacte CometAPI model ID toe aan de lijst met custom model IDs in de LLM Connection. Langfuse ontdekt niet automatisch elk model voor aangepaste OpenAI-compatible providers.
Gebruik https://api.cometapi.com/v1 als base URL. Langfuse voegt het OpenAI-compatible pad toe voor de geselecteerde adapter.
Controleer of het geselecteerde model de request-features ondersteunt die door de evaluator worden gebruikt, zoals tool calling of JSON-output.

​
Gerelateerde bronnen