Langfuse bietet LLM-Observability, Prompt-Management, Playgrounds und Evaluierungs-Workflows. Konfigurieren Sie eine Langfuse LLM Connection mit CometAPI, wenn Langfuse Playground oder LLM-as-a-Judge-Auswertungen CometAPI-Modelle aufrufen sollen.Documentation Index
Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
Use this file to discover all available pages before exploring further.
Voraussetzungen
- Ein Langfuse Cloud-Projekt oder eine selbst gehostete Langfuse-Instanz
- Ein CometAPI-Konto mit einem aktiven API-Schlüssel — holen Sie sich Ihren im Dashboard
- Mindestens eine CometAPI model ID, ausgewählt auf der CometAPI Models-Seite
Die Integration konfigurieren
Create a Langfuse LLM connection
Öffnen Sie in Langfuse Project Settings → LLM Connections. Starten Sie den Ablauf zum Hinzufügen eines LLM API-Schlüssels.
Choose the OpenAI adapter
Wählen Sie OpenAI als Anbieter aus. Langfuse verwendet diesen Adapter für Modellanbieter, die das OpenAI-API-Schema unterstützen.
Enter CometAPI credentials
Konfigurieren Sie die Verbindung mit diesen Werten:
Wenn Langfuse das Feld für die Base URL unter Advanced Settings anzeigt, erweitern Sie diesen Abschnitt, bevor Sie die Verbindung speichern.
| Field | Value |
|---|---|
| API key | Ihr CometAPI-API-Schlüssel |
| Base URL | https://api.cometapi.com/v1 |
| Custom model IDs | Eine oder mehrere model IDs von der CometAPI Models-Seite |
CometAPI für LLM-as-a-Judge verwenden
Langfuse-LLM-as-a-Judge-Evaluatoren können dieselbe LLM Connection verwenden. Wählen Sie die CometAPI-Verbindung in der Evaluator-Konfiguration aus und dann eine model ID, die tool calling unterstützt, falls Ihr Bewertungs-Prompt eine strukturierte Extraktion erfordert. Verwenden Sie Anbieteroptionen nur, wenn das ausgewählte CometAPI-Modell diese Anforderungsfelder unterstützt. Für die Modellsuche verwenden Sie die CometAPI Models-Seite oder die/v1/models API.
Fehlerbehebung
The model is not visible in Langfuse
The model is not visible in Langfuse
Fügen Sie die exakte CometAPI-model ID zur Liste der benutzerdefinierten model IDs in der LLM Connection hinzu. Langfuse erkennt nicht automatisch jedes Modell bei benutzerdefinierten OpenAI-kompatiblen Anbietern.
The request uses the wrong API path
The request uses the wrong API path
Verwenden Sie
https://api.cometapi.com/v1 als Base URL. Langfuse hängt den OpenAI-kompatiblen Pfad für den ausgewählten Adapter an.Evaluator calls fail
Evaluator calls fail
Bestätigen Sie, dass das ausgewählte Modell die vom Evaluator verwendeten Anforderungsfunktionen unterstützt, etwa tool calling oder JSON-Ausgabe.