Skip to main content
Langflow — це візуальний фреймворк для побудови workflow для агентів і RAG. Langflow містить компонент CometAPI, який викликає мовні моделі CometAPI через OpenAI-сумісні endpoint-и.

Передумови

Налаштування інтеграції

1

Додайте компонент CometAPI

На полотні Langflow відкрийте меню компонентів. Знайдіть CometAPI, а потім додайте до свого flow компонент генерації тексту CometAPI.
2

Введіть свій CometAPI API key

Виберіть компонент CometAPI. На панелі налаштування компонента введіть свій CometAPI API key у поле API key.
3

Виберіть model ID

Установіть model ID на значення зі сторінки моделей CometAPI. Якщо компонент може отримати моделі після введення API key, виберіть model ID з меню моделей.
4

Підключіть вхід і вихід чату

Для мінімального тестового flow додайте компоненти Chat Input і Chat Output. Підключіть Chat Input до входу компонента CometAPI, а потім підключіть вихід CometAPI до Chat Output.
5

Протестуйте в Playground

Відкрийте Playground і надішліть коротке повідомлення. Успішна відповідь чату підтвердить, що Langflow викликає CometAPI.

Використання CometAPI у більших flow

Змініть тип виходу компонента CometAPI на Language Model, коли іншому компоненту Langflow потрібен вхід LLM. Це корисно для flow з Agent, Prompt Template і Smart Transform. Для прямого чату залиште типовий вихід відповіді моделі та підключіть його до компонента Chat Output.

Запуск flow CometAPI з Python

Після тестування flow у Playground ви можете викликати той самий flow Langflow із Python. Код Python викликає ваш сервер Langflow. Він не надсилає запити безпосередньо до CometAPI. Зберігайте CometAPI API key і model ID у компоненті CometAPI всередині Langflow. Приклад REST API надсилає вхід чату до flow ID або назви endpoint:
Для проєктів, які використовують Langflow Python SDK, установіть langflow-sdk і викликайте той самий flow через Client.run():
Замініть FLOW_ID на flow ID або назву endpoint із Langflow. Замініть <LANGFLOW_API_KEY> на свій API key Langflow. Це значення відрізняється від вашого CometAPI API key.

Усунення несправностей

Оновіть Langflow до версії, яка містить bundle CometAPI. Якщо у вашому розгортанні деякі компоненти приховані, перевірте налаштування bundle або пошукайте в розділі компонентів language model.
Переконайтеся, що ключ API CometAPI дійсний і що акаунт має доступ до вибраної моделі. Ви також можете ввести model ID вручну.
Перевірте, що model ID точно збігається з CometAPI і що вхід потоку підключено до входу компонента CometAPI.

Пов’язані ресурси