Skip to main content
FlowiseAI — це low-code платформа для візуального створення застосунків на основі LLM. Використовуйте нативний вузол ChatCometAPI, щоб підключити CometAPI до chatflow, систем запитань і відповідей та RAG-процесів, які викликають моделі текстового чату.
Цей посібник охоплює текстовий чат і RAG-процеси. Він не охоплює процеси генерації зображень.

​
Передумови

​
Налаштування ChatCometAPI

1

Отримайте свій API key CometAPI

Увійдіть до консолі CometAPI. Натисніть Add API Key і скопіюйте свій API key CometAPI.
Панель CometAPI з кнопкою Add API Key
Деталі API key CometAPI з base URL
2

Додайте вузол ChatCometAPI

  1. На полотні chatflow у FlowiseAI натисніть Add New.
Полотно FlowiseAI з кнопкою Add New
  1. Знайдіть cometapi і виберіть вузол ChatCometAPI.
Пошук вузлів із результатом ChatCometAPI
  1. Перетягніть його на полотно.
Вузол ChatCometAPI, розміщений на полотні
3

Створіть облікові дані CometAPI

У вузлі ChatCometAPI відкрийте Connect Credential, виберіть Create New, вставте свій API key CometAPI і збережіть облікові дані.
Діалогове вікно облікових даних із введеним API key
4

Установіть base path CometAPI

Розгорніть Additional Parameters у вузлі ChatCometAPI.Якщо у вашій збірці Flowise є поле Base Path, установіть таке значення:
Якщо натомість доступний Base Options, додайте запис basePath:
Установіть Model Name на точний model ID текстової моделі, яку хочете викликати, наприклад your-model-id, і змінюйте Temperature лише якщо вашому процесу потрібна більша або менша варіативність.

​
Створіть базовий chatflow

1

Додайте Prompt Template

Додайте вузол Prompt Template і визначте prompt, який ваш chatflow надсилатиме моделі.
Вузол Prompt Template з прикладом шаблону
Вузол Prompt Template, розміщений на полотні
2

Додайте LLM Chain

Додайте вузол LLM Chain. Підключіть вузол ChatCometAPI до входу Language Model ланцюжка, а потім підключіть вузол Prompt Template до входу Prompt ланцюжка.
Вузол LLM Chain з підключеними Language Model і Prompt
3

Збережіть і протестуйте flow

Збережіть chatflow, відкрийте попередній перегляд чату та надішліть коротке тестове запитання. Коректно налаштована конфігурація повертає звичайну текстову відповідь від вибраної моделі CometAPI.
Завершений chatflow з усіма трьома підключеними вузлами

​
Змініть model ID

Щоб змінити модель, залиште ті самі облікові дані CometAPI і base path, а потім змініть лише поле model ID у ChatCometAPI. Використовуйте точні model ID зі сторінки моделей CometAPI. Уникайте копіювання відображуваних назв, назв провайдерів або зайвих пробілів. Після зміни model ID збережіть chatflow і виконайте короткий тестовий prompt. Якщо ви підтримуєте кілька production-flow, спочатку продублюйте chatflow і дайте кожній копії назву, яка відображає сімейство моделей.

​
Налаштування retrieval-augmented generation

Flowise RAG складається з двох частин: спочатку підготуйте та виконайте upsert документів у Document Stores, потім під’єднайте підготовлений retriever до chatflow. ChatCometAPI — це чат-модель, яка формує фінальну відповідь; для Document Store, як і раніше, потрібні сумісні з Flowise embeddings provider і vector store.
1

Створіть і обробіть Document Store

У Flowise відкрийте Document Stores і створіть нове сховище. Додайте завантажувач документів, наприклад File Loader, PDF Loader, Web Scraper або інший завантажувач, що відповідає вашому джерелу. Додайте text splitter, якщо документ достатньо довгий і потребує розбиття на chunks, потім натисніть Process, щоб переглянути згенеровані chunks.
2

Налаштуйте embeddings і vector storage

Натисніть Upsert або Upsert All Chunks. Виберіть:
  • Embeddings: вузол embeddings Flowise, сумісний із вашими даними та vector store.
  • Vector Store: векторну базу даних, у якій Flowise має зберігати embeddings документів.
  • Record Manager: необов’язково. Використовуйте його, якщо хочете, щоб повторні upsert-и уникали дублювання записів.
Підтримуйте узгодженість розмірності embedding model із розмірністю індексу vector store. Після завершення upsert скористайтеся тестом retrieval query у Document Store, щоб переконатися, що повертаються релевантні chunks, перш ніж будувати chatflow.
3

Створіть retrieval chatflow

У chatflow додайте вузол Document Store (Vector) або Document Store Retriever і виберіть оброблений Document Store. Встановіть Top K на кількість chunks, які Flowise має витягувати для кожного запитання.
4

Підключіть Conversational Retrieval QA Chain

Додайте Conversational Retrieval QA Chain і підключіть:
  • вхід Language Model від ChatCometAPI.
  • вхід Vector Store Retriever від retriever Document Store.
  • Memory лише якщо вашому chatflow потрібна історія розмови.
Увімкніть Return Source Documents, якщо хочете, щоб відповідь містила цитати або витягнуті source chunks. Збережіть flow і поставте запитання, відповідь на яке існує лише в завантаженому документі.

​
Усунення неполадок

Переконайтеся, що ваша версія Flowise містить інтеграцію чат-моделі ChatCometAPI. У старіших або налаштованих під себе розгортаннях Flowise оновіть Flowise або перевірте, чи інтеграцію не було вимкнено адміністратором.
Установіть base path CometAPI як https://api.cometapi.com/v1/. У деяких збірках Flowise це поле Base Path. В інших додайте basePath усередині Base Options.Не використовуйте https://api.cometapi.com для chatflow ChatCometAPI, оскільки чат-вузол викликає OpenAI-сумісні маршрути /chat/completions у межах /v1.
Скопіюйте ключ повторно з консолі CometAPI, створіть новий credential у Flowise і переконайтеся, що chatflow використовує саме цей credential. Якщо той самий ключ працює в прямих API-викликах, але не працює у Flowise, перевірте, чи Flowise все ще не використовує старіший credential, прив’язаний до вузла.
Замініть значення model ID у вузлі ChatCometAPI на точний актуальний model ID текстової моделі зі сторінки CometAPI Models. Значення не повинно містити лапок, префікса провайдера, мітки відображення або пробілів у кінці.
ChatCometAPI — це вузол чат-моделі для текстових робочих процесів. Використовуйте його для chat, chains, agents і генерації відповідей RAG. Не використовуйте це налаштування Flowise для вузлів генерації зображень або робочих процесів лише для зображень.
Спочатку протестуйте запит отримання в Document Store, перш ніж тестувати весь chatflow. Якщо отримання працює слабко, налаштуйте text splitter, chunk size, chunk overlap, metadata filters і Top K. Якщо бракує цитувань, увімкніть Return Source Documents у Conversational Retrieval QA Chain.
Перевірте, що embedding provider, vector store і розмірності векторів збігаються. Vector stores у Flowise Cloud часто потребують власної доступної service URL та credentials; URL локального vector store, такий як localhost, не буде доступний із Flowise Cloud. Record Manager є необов’язковим, але якщо ви його вмикаєте, налаштуйте його з’єднання з базою даних окремо.
Зменште retrieval Top K, скоротіть розмір prompt, використовуйте менші chunks або виберіть швидший model ID для вузла ChatCometAPI. У разі rate limits зачекайте й повторіть спробу з нижчою concurrency, а потім перевірте використання акаунта та ліміти в консолі CometAPI.