Skip to main content
Langfuse bietet LLM-Observability, Prompt-Management, Playgrounds und Evaluierungs-Workflows. Konfigurieren Sie eine Langfuse-LLM-Connection mit CometAPI, wenn Langfuse Playground oder LLM-as-a-Judge-Auswertungen CometAPI-Modelle aufrufen sollen.

​
Voraussetzungen

​
Integration konfigurieren

1

Eine Langfuse-LLM-Connection erstellen

Öffnen Sie in Langfuse Project Settings → LLM Connections. Starten Sie den Ablauf zum Hinzufügen eines LLM-API-Schlüssels.
2

Den OpenAI-Adapter auswählen

Wählen Sie OpenAI als provider aus. Langfuse verwendet diesen Adapter für Modellanbieter, die das OpenAI-API-Schema unterstützen.
3

CometAPI-Zugangsdaten eingeben

Konfigurieren Sie die Verbindung mit diesen Werten:Wenn Langfuse das Feld für die Base URL unter Advanced Settings anzeigt, erweitern Sie diesen Abschnitt, bevor Sie die Verbindung speichern.
4

Im Playground testen

Wählen Sie im Langfuse Playground die CometAPI-LLM-Connection und eine der konfigurierten model IDs aus. Senden Sie einen kurzen Prompt, um zu bestätigen, dass Langfuse eine Antwort erhält.

​
CometAPI für LLM-as-a-Judge verwenden

Langfuse-LLM-as-a-Judge-Evaluatoren können dieselbe LLM-Connection verwenden. Wählen Sie die CometAPI-Connection in der Evaluator-Konfiguration aus und dann eine model ID, die Tool Calling unterstützt, falls Ihr Bewertungs-Prompt eine strukturierte Extraktion erfordert. Verwenden Sie provider-Optionen nur, wenn das ausgewählte CometAPI-Modell diese Request-Felder unterstützt. Für die Modellerkennung verwenden Sie die CometAPI Models page oder die /v1/models API.

​
Fehlerbehebung

Fügen Sie die genaue CometAPI-model ID zur Liste der benutzerdefinierten model IDs in der LLM-Connection hinzu. Langfuse erkennt nicht automatisch jedes Modell für benutzerdefinierte OpenAI-kompatible provider.
Verwenden Sie https://api.cometapi.com/v1 als Base URL. Langfuse hängt den OpenAI-kompatiblen Pfad für den ausgewählten Adapter an.
Bestätigen Sie, dass das ausgewählte Modell die vom Evaluator verwendeten Request-Features unterstützt, wie Tool Calling oder JSON-Ausgabe.

​
Verwandte Ressourcen