先決條件
- 一個 Langfuse Cloud 專案或自行託管的 Langfuse 執行個體
- 一個具有有效 API key 的 CometAPI 帳戶 — 在控制台取得你的 API key
- 至少一個從 CometAPI Models 頁面 選取的 CometAPI model ID
設定整合
1
建立 Langfuse LLM connection
在 Langfuse 中，開啟 Project Settings → LLM Connections。開始新增 LLM API key 的流程。
2
選擇 OpenAI adapter
選擇 OpenAI 作為 provider。Langfuse 會將此 adapter 用於支援 OpenAI API 結構描述的模型 provider。
3
輸入 CometAPI 憑證
使用以下值設定 connection：
如果 Langfuse 將 base URL 欄位放在 Advanced Settings 底下，請先展開該區段再儲存 connection。
4
在 Playground 中測試
在 Langfuse Playground 中，選擇 CometAPI LLM connection 與其中一個已設定的 model ID。送出一個簡短的 Prompt，以確認 Langfuse 有收到回應。
將 CometAPI 用於 LLM-as-a-Judge
Langfuse LLM-as-a-Judge 評估器可以使用相同的 LLM connection。如果你的評分 Prompt 需要結構化擷取，請在評估器設定中選擇 CometAPI connection，然後選擇一個支援 tool calling 的 model ID。 只有在所選的 CometAPI 模型支援這些請求欄位時，才使用 provider 選項。若要探索模型，請使用 CometAPI Models 頁面 或/v1/models API。
疑難排解
Langfuse 中看不到模型
Langfuse 中看不到模型
將確切的 CometAPI model ID 新增到 LLM connection 的 custom model IDs 清單中。對於自訂的 OpenAI-compatible provider，Langfuse 不會自動探索每個模型。
請求使用了錯誤的 API 路徑
請求使用了錯誤的 API 路徑
請使用
https://api.cometapi.com/v1 作為 base URL。Langfuse 會為所選的 adapter 附加 OpenAI-compatible 路徑。評估器呼叫失敗
評估器呼叫失敗
確認所選模型支援評估器使用的請求功能，例如 tool calling 或 JSON 輸出。