跳轉到主要內容

Documentation Index

Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt

Use this file to discover all available pages before exploring further.

Langflow 是一個用於建構 agent 與 RAG 工作流程的視覺化框架。Langflow 包含一個 CometAPI 元件，可透過與 OpenAI 相容的端點呼叫 CometAPI 語言模型。

​
先決條件

​
設定整合

1

新增 CometAPI 元件

在 Langflow 畫布中，開啟元件選單。搜尋 CometAPI，然後將 CometAPI 文字生成功能元件加入你的流程。
2

輸入你的 CometAPI API key

選取 CometAPI 元件。在元件檢查面板中，於 API key 欄位輸入你的 CometAPI API key。
3

選擇 model ID

將 model ID 設為 CometAPI Models 頁面 中的值。若元件在你輸入 API key 後可以擷取模型，則可直接從模型選單中選擇 model ID。
4

連接聊天輸入與輸出

若要建立最小可行的測試流程，請新增 Chat Input 與 Chat Output 元件。將 Chat Input 連接到 CometAPI 元件輸入端，再將 CometAPI 輸出連接到 Chat Output。
5

在 Playground 中測試

開啟 Playground 並傳送一則簡短訊息。若成功收到聊天回應，即表示 Langflow 正在呼叫 CometAPI。

​
在更大型的流程中使用 CometAPI

當其他 Langflow 元件需要 LLM 輸入時，請將 CometAPI 元件的輸出類型改為 Language Model。這對於 Agent、Prompt Template 與 Smart Transform 流程特別實用。 若是直接聊天，請保留預設的模型回應輸出，並將其連接到 Chat Output 元件。

​
從 Python 執行 CometAPI 流程

當你在 Playground 中測試完流程後，就可以從 Python 呼叫同一個 Langflow 流程。Python 程式碼會呼叫你的 Langflow 伺服器，而不會直接將請求送到 CometAPI。請將 CometAPI API key 與 model ID 保留在 Langflow 內的 CometAPI 元件中。 REST API 範例會將聊天輸入傳送到某個 flow ID 或 endpoint name： 
import os

import requests

langflow_url = os.environ.get("LANGFLOW_URL", "http://localhost:7860")
langflow_api_key = os.environ["LANGFLOW_API_KEY"]
flow_id = os.environ["LANGFLOW_FLOW_ID"]

response = requests.post(
    f"{langflow_url}/api/v1/run/{flow_id}",
    headers={
        "x-api-key": langflow_api_key,
        "Content-Type": "application/json",
    },
    json={
        "input_value": "Hello from CometAPI",
        "input_type": "chat",
        "output_type": "chat",
    },
    timeout=60,
)
response.raise_for_status()
print(response.json())
對於使用 Langflow Python SDK 的專案，請安裝 langflow-sdk，並透過 Client.run() 呼叫同一個流程： 
from langflow_sdk import Client

client = Client("http://localhost:7860", api_key="<LANGFLOW_API_KEY>")
response = client.run("FLOW_ID", input_value="Hello from CometAPI")
print(response.first_text_output())
請將 FLOW_ID 替換為 Langflow 中的 flow ID 或 endpoint name。請將 <LANGFLOW_API_KEY> 替換為你的 Langflow API key。這個值與你的 CometAPI API key 不同。

​
疑難排解

將 Langflow 更新到包含 CometAPI bundle 的版本。如果你的部署隱藏了部分元件，請檢查 bundle 設定，或在語言模型元件下搜尋。
確認 CometAPI API key 有效，且帳戶具有所選模型的存取權限。你也可以手動輸入 model ID。
檢查 model ID 是否與 CometAPI 完全一致，並確認流程輸入已連接到 CometAPI 元件輸入。

​
相關資源