Перейти к основному содержанию

Documentation Index

Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt

Use this file to discover all available pages before exploring further.

Langflow — это визуальный фреймворк для построения agent- и RAG-процессов. Langflow включает компонент CometAPI, который вызывает языковые модели CometAPI через OpenAI-совместимые endpoints.

​
Предварительные требования

​
Настройка интеграции

1

Добавьте компонент CometAPI

На canvas в Langflow откройте меню компонентов. Найдите CometAPI, затем добавьте в свой flow компонент генерации текста CometAPI.
2

Введите ваш CometAPI API key

Выберите компонент CometAPI. В панели настройки компонента введите ваш CometAPI API key в поле API key.
3

Выберите model ID

Установите model ID в значение со страницы моделей CometAPI. Если компонент может получить список моделей после ввода API key, выберите model ID в меню модели.
4

Подключите chat input и output

Для минимального тестового flow добавьте компоненты Chat Input и Chat Output. Подключите Chat Input ко входу компонента CometAPI, затем подключите выход CometAPI к Chat Output.
5

Протестируйте в Playground

Откройте Playground и отправьте короткое сообщение. Успешный ответ в чате подтверждает, что Langflow вызывает CometAPI.

​
Использование CometAPI в более крупных flow

Измените тип выхода компонента CometAPI на Language Model, когда другому компоненту Langflow нужен вход LLM. Это полезно для flow с Agent, Prompt Template и Smart Transform. Для прямого чата оставьте тип выхода ответа модели по умолчанию и подключите его к компоненту Chat Output.

​
Запуск CometAPI flow из Python

После того как вы протестируете flow в Playground, вы можете вызывать тот же flow Langflow из Python. Код Python вызывает ваш сервер Langflow. Он не отправляет запросы напрямую в CometAPI. Храните CometAPI API key и model ID в компоненте CometAPI внутри Langflow. Пример REST API отправляет chat input в flow ID или имя endpoint: 
import os

import requests

langflow_url = os.environ.get("LANGFLOW_URL", "http://localhost:7860")
langflow_api_key = os.environ["LANGFLOW_API_KEY"]
flow_id = os.environ["LANGFLOW_FLOW_ID"]

response = requests.post(
    f"{langflow_url}/api/v1/run/{flow_id}",
    headers={
        "x-api-key": langflow_api_key,
        "Content-Type": "application/json",
    },
    json={
        "input_value": "Hello from CometAPI",
        "input_type": "chat",
        "output_type": "chat",
    },
    timeout=60,
)
response.raise_for_status()
print(response.json())
Для проектов, которые используют Langflow Python SDK, установите langflow-sdk и вызывайте тот же flow через Client.run(): 
from langflow_sdk import Client

client = Client("http://localhost:7860", api_key="<LANGFLOW_API_KEY>")
response = client.run("FLOW_ID", input_value="Hello from CometAPI")
print(response.first_text_output())
Замените FLOW_ID на flow ID или имя endpoint из Langflow. Замените <LANGFLOW_API_KEY> на ваш Langflow API key. Это значение отличается от вашего CometAPI API key.

​
Устранение неполадок

Обновите Langflow до версии, включающей bundle CometAPI. Если в вашем развертывании скрыты некоторые компоненты, проверьте настройки bundle или выполните поиск в разделе компонентов языковой модели.
Убедитесь, что API-ключ CometAPI действителен и что у аккаунта есть доступ к выбранной модели. Вы также можете ввести model ID вручную.
Проверьте, что model ID в точности соответствует CometAPI и что вход flow подключен ко входу компонента CometAPI.

​
Связанные ресурсы