Langfuse は、LLM の可観測性、プロンプト管理、playground、評価ワークフローを提供します。Langfuse Playground または LLM-as-a-Judge 評価から CometAPI モデルを呼び出したい場合は、CometAPI で Langfuse LLM Connection を設定してください。Documentation Index
Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
Use this file to discover all available pages before exploring further.
前提条件
- Langfuse Cloud プロジェクト、またはセルフホストされた Langfuse インスタンス
- 有効な API キーを持つ CometAPI アカウント — ダッシュボードで取得
- CometAPI Models page から選択した少なくとも 1 つの CometAPI model ID
統合を設定する
Create a Langfuse LLM connection
Langfuse で Project Settings → LLM Connections を開きます。LLM API キーを追加するフローを開始します。
Choose the OpenAI adapter
プロバイダーとして OpenAI を選択します。Langfuse は、OpenAI API スキーマをサポートするモデルプロバイダーに対してこのアダプターを使用します。
Enter CometAPI credentials
次の値で接続を設定します。
Langfuse で base URL フィールドが Advanced Settings 配下にある場合は、接続を保存する前にそのセクションを展開してください。
| Field | Value |
|---|---|
| API key | CometAPI API キー |
| Base URL | https://api.cometapi.com/v1 |
| Custom model IDs | CometAPI Models page の 1 つ以上の model ID |
LLM-as-a-Judge に CometAPI を使う
Langfuse LLM-as-a-Judge evaluator では、同じ LLM connection を使用できます。evaluator の設定で CometAPI connection を選択し、スコアリング用プロンプトで構造化抽出が必要な場合は、tool calling をサポートする model ID を選択してください。 provider オプションは、選択した CometAPI モデルがそれらのリクエストフィールドをサポートしている場合にのみ使用してください。モデルの確認には、CometAPI Models page または/v1/models API を使用します。
トラブルシューティング
The model is not visible in Langfuse
The model is not visible in Langfuse
LLM connection の custom model IDs リストに、正確な CometAPI model ID を追加してください。Langfuse は、カスタムの OpenAI 互換プロバイダーについては、すべてのモデルを自動検出するわけではありません。
The request uses the wrong API path
The request uses the wrong API path
base URL として
https://api.cometapi.com/v1 を使用してください。Langfuse は、選択したアダプターに対応する OpenAI 互換パスを付加します。Evaluator calls fail
Evaluator calls fail
選択したモデルが、tool calling や JSON 出力など、evaluator が使用するリクエスト機能をサポートしていることを確認してください。