Chuyển đến nội dung chính

Documentation Index

Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt

Use this file to discover all available pages before exploring further.

Langflow là một framework trực quan để xây dựng quy trình agent và RAG. Langflow có một component CometAPI dùng để gọi các language model của CometAPI thông qua các endpoint tương thích OpenAI.

​
Điều kiện tiên quyết

​
Cấu hình tích hợp

1

Thêm component CometAPI

Trong canvas của Langflow, mở menu component. Tìm CometAPI, sau đó thêm component tạo văn bản CometAPI vào flow của bạn.
2

Nhập CometAPI API key của bạn

Chọn component CometAPI. Trong bảng kiểm tra component, nhập CometAPI API key của bạn vào trường API key.
3

Chọn một model ID

Đặt model ID thành một giá trị từ trang CometAPI Models. Nếu component có thể lấy danh sách model sau khi bạn nhập API key, hãy chọn model ID từ menu model.
4

Kết nối đầu vào và đầu ra chat

Để có một flow kiểm thử tối thiểu, hãy thêm các component Chat Input và Chat Output. Kết nối Chat Input với đầu vào của component CometAPI, sau đó kết nối đầu ra CometAPI với Chat Output.
5

Kiểm thử trong Playground

Mở Playground và gửi một tin nhắn ngắn. Một phản hồi chat thành công xác nhận rằng Langflow đang gọi CometAPI.

​
Sử dụng CometAPI trong các flow lớn hơn

Đổi kiểu đầu ra của component CometAPI thành Language Model khi một component Langflow khác cần đầu vào LLM. Điều này hữu ích cho các flow Agent, Prompt Template và Smart Transform. Đối với chat trực tiếp, hãy giữ đầu ra phản hồi model mặc định và kết nối nó với một component Chat Output.

​
Chạy flow CometAPI từ Python

Sau khi bạn kiểm thử flow trong Playground, bạn có thể gọi chính flow Langflow đó từ Python. Mã Python sẽ gọi máy chủ Langflow của bạn. Nó không gửi request trực tiếp đến CometAPI. Hãy giữ CometAPI API key và model ID trong component CometAPI bên trong Langflow. Ví dụ REST API gửi một đầu vào chat đến một flow ID hoặc tên endpoint: 
import os

import requests

langflow_url = os.environ.get("LANGFLOW_URL", "http://localhost:7860")
langflow_api_key = os.environ["LANGFLOW_API_KEY"]
flow_id = os.environ["LANGFLOW_FLOW_ID"]

response = requests.post(
    f"{langflow_url}/api/v1/run/{flow_id}",
    headers={
        "x-api-key": langflow_api_key,
        "Content-Type": "application/json",
    },
    json={
        "input_value": "Hello from CometAPI",
        "input_type": "chat",
        "output_type": "chat",
    },
    timeout=60,
)
response.raise_for_status()
print(response.json())
Đối với các dự án sử dụng Langflow Python SDK, hãy cài đặt langflow-sdk và gọi cùng flow đó thông qua Client.run(): 
from langflow_sdk import Client

client = Client("http://localhost:7860", api_key="<LANGFLOW_API_KEY>")
response = client.run("FLOW_ID", input_value="Hello from CometAPI")
print(response.first_text_output())
Thay FLOW_ID bằng flow ID hoặc tên endpoint từ Langflow. Thay <LANGFLOW_API_KEY> bằng Langflow API key của bạn. Giá trị này khác với CometAPI API key của bạn.

​
Khắc phục sự cố

Cập nhật Langflow lên phiên bản có bao gồm gói CometAPI. Nếu bản triển khai của bạn ẩn một số component, hãy kiểm tra cài đặt gói hoặc tìm trong các component mô hình ngôn ngữ.
Xác nhận rằng khóa API CometAPI hợp lệ và tài khoản có quyền truy cập vào model đã chọn. Bạn cũng có thể nhập model ID theo cách thủ công.
Kiểm tra xem model ID có khớp chính xác với CometAPI hay không và flow input đã được kết nối với input của component CometAPI hay chưa.

​
Tài nguyên liên quan