Skip to main content
Langflow 是一個用於建構 agent 與 RAG 工作流程的視覺化框架。Langflow 包含一個 CometAPI 元件,可透過與 OpenAI 相容的端點呼叫 CometAPI 語言模型。

先決條件

設定整合

1

加入 CometAPI 元件

在 Langflow 畫布中,開啟元件選單。搜尋 CometAPI,然後將 CometAPI 文字生成功能元件加入你的流程。
2

輸入你的 CometAPI API key

選取 CometAPI 元件。在元件檢查面板中,於 API key 欄位輸入你的 CometAPI API key。
3

選擇 model ID

將 model ID 設定為 CometAPI Models 頁面 中的值。如果該元件在你輸入 API key 後可以擷取模型,請從模型選單中選取 model ID。
4

連接聊天輸入與輸出

若要建立最小化測試流程,請加入 Chat InputChat Output 元件。將 Chat Input 連接到 CometAPI 元件輸入,然後將 CometAPI 輸出連接到 Chat Output
5

在 Playground 中測試

開啟 Playground 並傳送一則簡短訊息。若成功收到聊天回應,即表示 Langflow 正在呼叫 CometAPI。

在較大的流程中使用 CometAPI

當另一個 Langflow 元件需要 LLM 輸入時,請將 CometAPI 元件的輸出類型改為 Language Model。這對 Agent、Prompt Template 與 Smart Transform 流程特別有用。 若是直接聊天,請保留預設的模型回應輸出,並將其連接到 Chat Output 元件。

從 Python 執行 CometAPI 流程

在 Playground 中測試流程後,你可以從 Python 呼叫相同的 Langflow 流程。Python 程式碼會呼叫你的 Langflow 伺服器,不會直接將請求傳送到 CometAPI。請將 CometAPI API key 與 model ID 保留在 Langflow 內的 CometAPI 元件中。 以下 REST API 範例會將聊天輸入傳送到 flow ID 或 endpoint 名稱:
對於使用 Langflow Python SDK 的專案,請安裝 langflow-sdk,並透過 Client.run() 呼叫相同流程:
請將 FLOW_ID 替換為 Langflow 中的 flow ID 或 endpoint 名稱。請將 <LANGFLOW_API_KEY> 替換為你的 Langflow API key。此值與你的 CometAPI API key 不同。

疑難排解

將 Langflow 更新至包含 CometAPI bundle 的版本。如果你的部署環境隱藏了部分元件,請檢查 bundle 設定,或在語言模型元件下搜尋。
確認 CometAPI API key 有效,且帳戶具有所選模型的存取權。你也可以手動輸入 model ID。
檢查 model ID 是否與 CometAPI 完全一致,並確認流程輸入已連接到 CometAPI 元件輸入。

相關資源