Skip to main content
FlowiseAI — это low-code платформа для визуального создания LLM-приложений. Используйте нативный узел ChatCometAPI, чтобы подключить CometAPI к chatflow, системам вопросов и ответов и RAG-воркflow, которые вызывают текстовые чат-модели.
Это руководство охватывает текстовый чат и RAG-воркflow. Оно не охватывает воркflow генерации изображений.

​
Предварительные требования

  • Учетная запись CometAPI с активным API key — получите его здесь
  • Учетная запись FlowiseAI или самостоятельно размещенный экземпляр Flowise — войдите в Flowise Cloud
  • Актуальный model ID текстовой модели со страницы CometAPI Models
  • Для RAG: источник документов, а также поддерживаемые Flowise provider Embeddings и vector store

​
Настройка ChatCometAPI

1

Получите ваш CometAPI API key

Войдите в консоль CometAPI. Нажмите Add API Key и скопируйте ваш CometAPI API key.
Панель CometAPI с кнопкой Add API Key
Детали API key CometAPI с base URL
2

Добавьте узел ChatCometAPI

  1. На холсте chatflow в FlowiseAI нажмите Add New.
Холст FlowiseAI с кнопкой Add New
  1. Найдите cometapi и выберите узел ChatCometAPI.
Поиск узлов с результатом ChatCometAPI
  1. Перетащите его на холст.
Узел ChatCometAPI размещен на холсте
3

Создайте учетные данные CometAPI

В узле ChatCometAPI откройте Connect Credential, выберите Create New, вставьте ваш CometAPI API key и сохраните учетные данные.
Диалог учетных данных с введенным API key
4

Укажите base path CometAPI

Разверните Additional Parameters в узле ChatCometAPI.Если в вашей сборке Flowise отображается поле Base Path, задайте ему значение:
Если вместо этого доступен Base Options, добавьте запись basePath:
Установите Model Name в точный model ID текстовой модели, которую хотите вызывать, например your-model-id, и изменяйте Temperature только если вашему воркflow нужна большая или меньшая вариативность.

​
Создайте базовый chatflow

1

Добавьте Prompt Template

Добавьте узел Prompt Template и задайте prompt, который ваш chatflow будет отправлять модели.
Узел Prompt Template с примером шаблона
Узел Prompt Template, размещённый на холсте
2

Добавьте LLM Chain

Добавьте узел LLM Chain. Подключите узел ChatCometAPI к входу Language Model цепочки, затем подключите узел Prompt Template к входу Prompt цепочки.
Узел LLM Chain с подключёнными Language Model и Prompt
3

Сохраните и протестируйте flow

Сохраните chatflow, откройте предпросмотр чата и отправьте короткий тестовый вопрос. При корректной настройке вы получите обычный текстовый ответ от выбранной модели CometAPI.
Полный chatflow со всеми тремя подключёнными узлами

​
Переключение model ID

Чтобы переключать модели, оставьте те же учётные данные CometAPI и тот же base path, а затем измените только поле model ID в ChatCometAPI. Используйте точные model ID со страницы CometAPI Models page. Не копируйте отображаемые названия, имена провайдеров или лишние пробелы. После изменения model ID сохраните chatflow и выполните короткий тестовый prompt. Если вы поддерживаете несколько production flow, сначала продублируйте chatflow и дайте каждой копии имя, отражающее семейство модели.

​
Настройка retrieval-augmented generation

Flowise RAG состоит из двух частей: сначала подготовьте и загрузите документы в Document Stores, затем подключите подготовленный retriever к chatflow. ChatCometAPI — это чат-модель, которая формирует итоговый ответ; для Document Store по-прежнему требуются поддерживаемые Flowise provider Embeddings и vector store.
1

Создайте и обработайте Document Store

В Flowise откройте Document Stores и создайте новое хранилище. Добавьте загрузчик документов, например File Loader, PDF Loader, Web Scraper или другой loader, подходящий для вашего источника. Добавьте text splitter, если документ достаточно длинный и требует разбиения на chunks, затем нажмите Process, чтобы предварительно просмотреть сгенерированные chunks.
2

Настройте Embeddings и vector store

Нажмите Upsert или Upsert All Chunks. Выберите:
  • Embeddings: узел Embeddings в Flowise, совместимый с вашими данными и vector store.
  • Vector Store: vector database, в которой Flowise должен хранить document embeddings.
  • Record Manager: необязательно. Используйте его, если хотите, чтобы повторные upsert избегали дублирования записей.
Следите за тем, чтобы размерность embedding model соответствовала размерности индекса в vector store. После завершения upsert используйте тест retrieval query в Document Store, чтобы убедиться, что возвращаются релевантные chunks, прежде чем собирать chatflow.
3

Создайте retrieval chatflow

В chatflow добавьте узел Document Store (Vector) или Document Store Retriever и выберите обработанный Document Store. Установите Top K в количество chunks, которые Flowise должен извлекать для каждого вопроса.
4

Подключите Conversational Retrieval QA Chain

Добавьте Conversational Retrieval QA Chain и подключите:
  • вход Language Model от ChatCometAPI.
  • вход Vector Store Retriever от retriever Document Store.
  • Memory только если вашему chatflow нужна история диалога.
Включите Return Source Documents, если хотите, чтобы ответ включал citations или извлеченные source chunks. Сохраните flow и задайте вопрос, ответ на который есть только в загруженном документе.

​
Устранение неполадок

Убедитесь, что ваша версия Flowise включает интеграцию чат-модели ChatCometAPI. В старых или кастомизированных развертываниях Flowise обновите Flowise или проверьте, не отключена ли интеграция администратором.
Установите base path CometAPI в https://api.cometapi.com/v1/. В некоторых сборках Flowise это поле Base Path. В других добавьте basePath внутри Base Options.Не используйте https://api.cometapi.com для chatflow ChatCometAPI, потому что chat-узел вызывает OpenAI-совместимые маршруты /chat/completions в /v1.
Скопируйте ключ заново из консоли CometAPI, создайте новый credential в Flowise и убедитесь, что chatflow использует именно этот credential. Если тот же ключ работает в прямых API-вызовах, но не работает в Flowise, проверьте, не использует ли Flowise по-прежнему старый credential, привязанный к узлу.
Замените значение model ID в узле ChatCometAPI на точный актуальный model ID текстовой модели со страницы Модели CometAPI. Значение не должно содержать кавычки, префикс провайдера, отображаемую метку или пробелы в конце.
ChatCometAPI — это узел чат-модели для текстовых workflow. Используйте его для чатов, chains, agents и генерации ответов RAG. Не используйте эту конфигурацию Flowise для узлов генерации изображений или workflow, работающих только с изображениями.
Сначала протестируйте запрос извлечения в Document Store, прежде чем тестировать весь chatflow. Если извлечение работает слабо, настройте text splitter, размер чанков, перекрытие чанков, metadata filters и Top K. Если отсутствуют цитаты, включите Return Source Documents в Conversational Retrieval QA Chain.
Проверьте, что provider embedding, vector store и размерности векторов совпадают. Vector store в Flowise Cloud часто требуют собственный доступный URL сервиса и credentials; URL локального vector store, такой как localhost, не будет доступен из Flowise Cloud. Record Manager необязателен, но если вы его включаете, настройте подключение к его базе данных отдельно.
Уменьшите retrieval Top K, сократите размер Prompt, используйте меньшие чанки или выберите более быстрый model ID для узла ChatCometAPI. При rate limit подождите и повторите попытку с меньшей concurrency, затем проверьте использование аккаунта и лимиты в консоли CometAPI.