Skip to main content
Langflow — это визуальный фреймворк для создания agent- и RAG-процессов. В Langflow есть компонент CometAPI, который вызывает языковые модели CometAPI через OpenAI-совместимые endpoints.

Предварительные требования

Настройка интеграции

1

Добавьте компонент CometAPI

На холсте Langflow откройте меню компонентов. Найдите CometAPI, затем добавьте в свой flow компонент генерации текста CometAPI.
2

Введите ваш API key CometAPI

Выберите компонент CometAPI. В панели настройки компонента введите API key CometAPI в поле API key.
3

Выберите model ID

Установите для model ID значение со страницы CometAPI Models. Если после ввода API key компонент может получить модели, выберите model ID из меню моделей.
4

Подключите chat input и output

Для минимального тестового flow добавьте компоненты Chat Input и Chat Output. Подключите Chat Input ко входу компонента CometAPI, затем подключите выход CometAPI к Chat Output.
5

Протестируйте в Playground

Откройте Playground и отправьте короткое сообщение. Успешный ответ в чате подтверждает, что Langflow вызывает CometAPI.

Использование CometAPI в более крупных flow

Измените тип output компонента CometAPI на Language Model, если другому компоненту Langflow нужен вход LLM. Это полезно для flow с Agent, Prompt Template и Smart Transform. Для прямого чата оставьте output ответа модели по умолчанию и подключите его к компоненту Chat Output.

Запуск flow CometAPI из Python

После тестирования flow в Playground вы можете вызывать тот же flow Langflow из Python. Код Python вызывает ваш сервер Langflow. Он не отправляет запросы напрямую в CometAPI. Храните API key CometAPI и model ID в компоненте CometAPI внутри Langflow. Пример REST API отправляет chat input в flow ID или имя endpoint:
Для проектов, использующих Python SDK Langflow, установите langflow-sdk и вызовите тот же flow через Client.run():
Замените FLOW_ID на flow ID или имя endpoint из Langflow. Замените <LANGFLOW_API_KEY> на ваш API key Langflow. Это значение отличается от вашего API key CometAPI.

Устранение неполадок

Обновите Langflow до версии, которая включает пакет CometAPI. Если в вашем развертывании некоторые компоненты скрыты, проверьте настройки пакета или выполните поиск в разделе компонентов языковой модели.
Убедитесь, что API-ключ CometAPI действителен и что у аккаунта есть доступ к выбранной модели. Вы также можете ввести model ID вручную.
Проверьте, что model ID в точности соответствует CometAPI и что вход потока подключен ко входу компонента CometAPI.

Связанные ресурсы