Skip to main content
Langfuse は、LLM の可観測性、プロンプト(Prompt)管理、プレイグラウンド、評価ワークフローを提供します。Langfuse Playground や LLM-as-a-Judge の評価から CometAPI モデルを呼び出したい場合は、CometAPI で Langfuse の LLM Connection を設定します。

前提条件

  • Langfuse Cloud プロジェクト、またはセルフホストされた Langfuse インスタンス
  • 有効な API key を持つ CometAPI アカウント — ダッシュボードで取得
  • CometAPI Models ページ から選択した CometAPI model ID が少なくとも 1 つ

統合を設定する

1

Langfuse の LLM connection を作成する

Langfuse で Project SettingsLLM Connections を開きます。LLM API key を追加するフローを開始します。
2

OpenAI adapter を選択する

provider として OpenAI を選択します。Langfuse は、OpenAI API スキーマをサポートする model provider に対してこの adapter を使用します。
3

CometAPI の認証情報を入力する

次の値で connection を設定します。Langfuse で base URL フィールドが Advanced Settings の下に表示される場合は、connection を保存する前にそのセクションを展開してください。
4

Playground でテストする

Langfuse Playground で、CometAPI の LLM connection と、設定済みの model ID の 1 つを選択します。短いプロンプト(Prompt)を送信して、Langfuse がレスポンスを受け取ることを確認します。

LLM-as-a-Judge で CometAPI を使う

Langfuse の LLM-as-a-Judge evaluator では、同じ LLM connection を使用できます。evaluator の設定で CometAPI connection を選択し、スコアリング用プロンプト(Prompt)で構造化抽出が必要な場合は、tool calling をサポートする model ID を選択します。 provider オプションは、選択した CometAPI model がそれらのリクエストフィールドをサポートしている場合にのみ使用してください。model の確認には、CometAPI Models ページ または /v1/models API を使用します。

トラブルシューティング

LLM connection の custom model IDs リストに、正確な CometAPI model ID を追加してください。Langfuse は、カスタムの OpenAI-compatible provider については、すべての model を自動で検出するわけではありません。
base URL として https://api.cometapi.com/v1 を使用してください。Langfuse は、選択した adapter に応じた OpenAI-compatible パスを付加します。
選択した model が、tool calling や JSON 出力など、evaluator が使用するリクエスト機能をサポートしていることを確認してください。

関連リソース