Перейти до основного вмісту

Documentation Index

Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt

Use this file to discover all available pages before exploring further.

Langflow — це візуальний фреймворк для побудови workflow агентів і RAG. Langflow містить компонент CometAPI, який викликає мовні моделі CometAPI через OpenAI-сумісні endpoint-и.

​
Передумови

​
Налаштування інтеграції

1

Додайте компонент CometAPI

На полотні Langflow відкрийте меню компонентів. Знайдіть CometAPI, потім додайте компонент генерації тексту CometAPI до свого потоку.
2

Введіть свій CometAPI API key

Виберіть компонент CometAPI. На панелі перевірки компонента введіть свій CometAPI API key у поле API key.
3

Виберіть model ID

Встановіть model ID на значення зі сторінки моделей CometAPI. Якщо компонент може отримати моделі після введення API key, виберіть model ID з меню моделей.
4

Підключіть вхід і вихід чату

Для мінімального тестового потоку додайте компоненти Chat Input і Chat Output. Підключіть Chat Input до входу компонента CometAPI, потім підключіть вихід CometAPI до Chat Output.
5

Протестуйте в Playground

Відкрийте Playground і надішліть коротке повідомлення. Успішна відповідь чату підтверджує, що Langflow викликає CometAPI.

​
Використання CometAPI у більших потоках

Змініть тип виходу компонента CometAPI на Language Model, коли іншому компоненту Langflow потрібен вхід LLM. Це корисно для потоків Agent, Prompt Template і Smart Transform. Для прямого чату залиште типовий вихід відповіді моделі та підключіть його до компонента Chat Output.

​
Запуск потоку CometAPI з Python

Після тестування потоку в Playground ви можете викликати той самий потік Langflow з Python. Python-код викликає ваш сервер Langflow. Він не надсилає запити безпосередньо до CometAPI. Зберігайте CometAPI API key і model ID у компоненті CometAPI всередині Langflow. Приклад REST API надсилає chat input до flow ID або назви endpoint: 
import os

import requests

langflow_url = os.environ.get("LANGFLOW_URL", "http://localhost:7860")
langflow_api_key = os.environ["LANGFLOW_API_KEY"]
flow_id = os.environ["LANGFLOW_FLOW_ID"]

response = requests.post(
    f"{langflow_url}/api/v1/run/{flow_id}",
    headers={
        "x-api-key": langflow_api_key,
        "Content-Type": "application/json",
    },
    json={
        "input_value": "Hello from CometAPI",
        "input_type": "chat",
        "output_type": "chat",
    },
    timeout=60,
)
response.raise_for_status()
print(response.json())
Для проєктів, які використовують Langflow Python SDK, встановіть langflow-sdk і викликайте той самий потік через Client.run(): 
from langflow_sdk import Client

client = Client("http://localhost:7860", api_key="<LANGFLOW_API_KEY>")
response = client.run("FLOW_ID", input_value="Hello from CometAPI")
print(response.first_text_output())
Замініть FLOW_ID на flow ID або назву endpoint з Langflow. Замініть <LANGFLOW_API_KEY> на свій Langflow API key. Це значення відрізняється від вашого CometAPI API key.

​
Усунення несправностей

Оновіть Langflow до версії, яка містить пакет CometAPI. Якщо у вашому розгортанні деякі компоненти приховані, перевірте налаштування пакета або пошукайте в розділі компонентів language model.
Переконайтеся, що ключ API CometAPI дійсний і що обліковий запис має доступ до вибраної моделі. Ви також можете ввести model ID вручну.
Перевірте, що model ID точно відповідає CometAPI і що вхід потоку підключений до входу компонента CometAPI.

​
Пов’язані ресурси