跳转到主要内容

Documentation Index

Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt

Use this file to discover all available pages before exploring further.

Langflow 是一个用于构建 Agent 和 RAG 工作流的可视化框架。Langflow 包含一个 CometAPI 组件,可通过与 OpenAI 兼容的端点调用 CometAPI 语言模型。

前置条件

配置集成

1

添加 CometAPI 组件

在 Langflow 画布中,打开组件菜单。搜索 CometAPI,然后将 CometAPI 文本生成组件添加到你的流程中。
2

输入你的 CometAPI API key

选中 CometAPI 组件。在组件检查面板中,在 API key 字段输入你的 CometAPI API key。
3

选择 model ID

将 model ID 设置为 CometAPI Models 页面 中的某个值。如果在输入 API key 后组件能够拉取模型,则可直接从模型菜单中选择 model ID。
4

连接聊天输入和输出

对于最小化测试流程,添加 Chat InputChat Output 组件。将 Chat Input 连接到 CometAPI 组件输入,然后将 CometAPI 输出连接到 Chat Output
5

在 Playground 中测试

打开 Playground 并发送一条简短消息。成功收到聊天响应即可确认 Langflow 正在调用 CometAPI。

在更大的流程中使用 CometAPI

当其他 Langflow 组件需要 LLM 输入时,将 CometAPI 组件的输出类型更改为 Language Model。这对 Agent、Prompt Template 和 Smart Transform 流程很有用。 对于直接聊天,请保留默认的模型响应输出,并将其连接到 Chat Output 组件。

从 Python 运行 CometAPI 流程

在 Playground 中测试流程后,你可以从 Python 调用同一个 Langflow 流程。Python 代码调用的是你的 Langflow 服务器,不会将请求直接发送到 CometAPI。请将 CometAPI API key 和 model ID 保留在 Langflow 内部的 CometAPI 组件中。 下面的 REST API 示例会将聊天输入发送到某个 flow ID 或端点名称:
import os

import requests

langflow_url = os.environ.get("LANGFLOW_URL", "http://localhost:7860")
langflow_api_key = os.environ["LANGFLOW_API_KEY"]
flow_id = os.environ["LANGFLOW_FLOW_ID"]

response = requests.post(
    f"{langflow_url}/api/v1/run/{flow_id}",
    headers={
        "x-api-key": langflow_api_key,
        "Content-Type": "application/json",
    },
    json={
        "input_value": "Hello from CometAPI",
        "input_type": "chat",
        "output_type": "chat",
    },
    timeout=60,
)
response.raise_for_status()
print(response.json())
对于使用 Langflow Python SDK 的项目,请安装 langflow-sdk,并通过 Client.run() 调用同一个流程:
from langflow_sdk import Client

client = Client("http://localhost:7860", api_key="<LANGFLOW_API_KEY>")
response = client.run("FLOW_ID", input_value="Hello from CometAPI")
print(response.first_text_output())
FLOW_ID 替换为 Langflow 中的 flow ID 或端点名称。将 <LANGFLOW_API_KEY> 替换为你的 Langflow API key。这个值与 CometAPI API key 不同。

故障排查

将 Langflow 更新到包含 CometAPI bundle 的版本。如果你的部署隐藏了某些组件,请检查 bundle 设置,或在语言模型组件下搜索。
确认 CometAPI API key 有效,并且账户有权访问所选模型。你也可以手动输入 model ID。
检查 model ID 是否与 CometAPI 完全一致,并确认流程输入已连接到 CometAPI 组件输入。

相关资源