前提条件
- Langfuse Cloud プロジェクト、またはセルフホストされた Langfuse インスタンス
- 有効な API key を持つ CometAPI アカウント — ダッシュボードで取得
- CometAPI Models ページ から選択した CometAPI model ID が少なくとも 1 つ
統合を設定する
1
Langfuse の LLM connection を作成する
Langfuse で Project Settings → LLM Connections を開きます。LLM API key を追加するフローを開始します。
2
OpenAI adapter を選択する
provider として OpenAI を選択します。Langfuse は、OpenAI API スキーマをサポートする model provider に対してこの adapter を使用します。
3
CometAPI の認証情報を入力する
次の値で connection を設定します。
Langfuse で base URL フィールドが Advanced Settings の下に表示される場合は、connection を保存する前にそのセクションを展開してください。
4
Playground でテストする
Langfuse Playground で、CometAPI の LLM connection と、設定済みの model ID の 1 つを選択します。短いプロンプト(Prompt)を送信して、Langfuse がレスポンスを受け取ることを確認します。
LLM-as-a-Judge で CometAPI を使う
Langfuse の LLM-as-a-Judge evaluator では、同じ LLM connection を使用できます。evaluator の設定で CometAPI connection を選択し、スコアリング用プロンプト(Prompt)で構造化抽出が必要な場合は、tool calling をサポートする model ID を選択します。 provider オプションは、選択した CometAPI model がそれらのリクエストフィールドをサポートしている場合にのみ使用してください。model の確認には、CometAPI Models ページ または/v1/models API を使用します。
トラブルシューティング
model が Langfuse に表示されない
model が Langfuse に表示されない
LLM connection の custom model IDs リストに、正確な CometAPI model ID を追加してください。Langfuse は、カスタムの OpenAI-compatible provider については、すべての model を自動で検出するわけではありません。
リクエストで誤った API パスが使用される
リクエストで誤った API パスが使用される
base URL として
https://api.cometapi.com/v1 を使用してください。Langfuse は、選択した adapter に応じた OpenAI-compatible パスを付加します。evaluator の呼び出しが失敗する
evaluator の呼び出しが失敗する
選択した model が、tool calling や JSON 出力など、evaluator が使用するリクエスト機能をサポートしていることを確認してください。