Skip to main content
FlowiseAI adalah platform low-code untuk membangun aplikasi LLM secara visual. Gunakan node ChatCometAPI bawaan untuk menghubungkan CometAPI ke chatflow, sistem tanya jawab, dan workflow RAG yang memanggil model chat teks.
Panduan ini mencakup workflow chat teks dan RAG. Panduan ini tidak mencakup workflow pembuatan gambar.

Prasyarat

Konfigurasikan ChatCometAPI

1

Dapatkan CometAPI API key Anda

Masuk ke konsol CometAPI. Klik Add API Key lalu salin CometAPI API key Anda.
Dasbor CometAPI yang menampilkan tombol Add API Key
Detail CometAPI API key dengan base URL
2

Tambahkan node ChatCometAPI

  1. Di kanvas chatflow FlowiseAI Anda, klik Add New.
Kanvas FlowiseAI dengan tombol Add New
  1. Cari cometapi lalu pilih node ChatCometAPI.
Pencarian node yang menampilkan hasil ChatCometAPI
  1. Seret node tersebut ke kanvas.
Node ChatCometAPI ditempatkan di kanvas
3

Buat credential CometAPI

Di node ChatCometAPI, buka Connect Credential, pilih Create New, tempel CometAPI API key Anda, lalu simpan credential tersebut.
Dialog credential dengan API key yang sudah dimasukkan
4

Atur base path CometAPI

Buka Additional Parameters pada node ChatCometAPI.Jika build Flowise Anda menampilkan field Base Path, atur menjadi:
Jika yang ditampilkan adalah Base Options, tambahkan entri basePath:
Atur Model Name ke model ID teks yang persis ingin Anda panggil, misalnya your-model-id, dan sesuaikan Temperature hanya jika workflow Anda memerlukan variasi yang lebih tinggi atau lebih rendah.

Membuat chatflow dasar

1

Tambahkan Prompt Template

Tambahkan node Prompt Template dan tentukan prompt yang akan dikirim chatflow Anda ke model.
Node Prompt Template dengan template contoh
Node Prompt Template ditempatkan di canvas
2

Tambahkan LLM Chain

Tambahkan node LLM Chain. Hubungkan node ChatCometAPI ke input Language Model milik chain, lalu hubungkan node Prompt Template ke input Prompt milik chain.
Node LLM Chain dengan Language Model dan Prompt terhubung
3

Simpan dan uji flow

Simpan chatflow, buka pratinjau chat, lalu kirim pertanyaan uji singkat. Konfigurasi yang sehat akan mengembalikan jawaban teks normal dari model CometAPI yang dipilih.
Chatflow lengkap dengan ketiga node terhubung

Ganti model ID

Untuk mengganti model, gunakan credential CometAPI dan base path yang sama, lalu ubah hanya field model ID ChatCometAPI. Gunakan model ID yang persis sama dari halaman CometAPI Models. Hindari menyalin nama tampilan, nama provider, atau spasi tambahan. Setelah mengubah model ID, simpan chatflow lalu jalankan prompt uji singkat. Jika Anda memelihara beberapa flow produksi, duplikasi chatflow terlebih dahulu dan beri nama setiap salinan yang mencerminkan keluarga modelnya.

Konfigurasikan retrieval-augmented generation

Flowise RAG memiliki dua bagian: pertama siapkan dan upsert dokumen di Document Stores, lalu hubungkan retriever yang sudah disiapkan ke chatflow. ChatCometAPI adalah model chat yang menulis jawaban akhir; Document Store tetap memerlukan embeddings provider dan vector store yang didukung Flowise.
1

Buat dan proses Document Store

Di Flowise, buka Document Stores dan buat store baru. Tambahkan document loader, seperti File Loader, PDF Loader, Web Scraper, atau loader lain yang sesuai dengan sumber Anda. Tambahkan text splitter ketika dokumen cukup panjang sehingga perlu dipecah menjadi chunk, lalu klik Process untuk melihat pratinjau chunk yang dihasilkan.
2

Konfigurasikan embeddings dan vector storage

Klik Upsert atau Upsert All Chunks. Pilih:
  • Embeddings: node embeddings Flowise yang kompatibel dengan data dan vector store Anda.
  • Vector Store: database vektor tempat Flowise harus menyimpan document embeddings.
  • Record Manager: opsional. Gunakan ini ketika Anda ingin upsert berulang menghindari record duplikat.
Pastikan dimensi model embedding selaras dengan dimensi indeks vector store. Setelah upsert selesai, gunakan pengujian retrieval query milik Document Store untuk memastikan chunk yang relevan dikembalikan sebelum membangun chatflow.
3

Buat chatflow retrieval

Di chatflow, tambahkan node Document Store (Vector) atau Document Store Retriever dan pilih Document Store yang sudah diproses. Atur Top K ke jumlah chunk yang ingin diambil Flowise untuk setiap pertanyaan.
4

Hubungkan Conversational Retrieval QA Chain

Tambahkan Conversational Retrieval QA Chain dan hubungkan:
  • Input Language Model dari ChatCometAPI.
  • Input Vector Store Retriever dari retriever Document Store.
  • Memory hanya jika chatflow Anda memerlukan riwayat percakapan.
Aktifkan Return Source Documents ketika Anda ingin jawaban menyertakan sitasi atau chunk sumber yang diambil. Simpan flow dan ajukan pertanyaan yang jawabannya hanya ada di dokumen yang diunggah.

Pemecahan masalah

Pastikan versi Flowise Anda menyertakan integrasi model chat ChatCometAPI. Pada deployment Flowise yang lebih lama atau telah dikustomisasi, perbarui Flowise atau periksa apakah integrasi tersebut telah dinonaktifkan oleh administrator.
Atur base path CometAPI ke https://api.cometapi.com/v1/. Pada beberapa build Flowise ini berupa field Base Path. Pada build lainnya, tambahkan basePath di dalam Base Options.Jangan gunakan https://api.cometapi.com untuk chatflow ChatCometAPI, karena node chat memanggil route /chat/completions yang kompatibel dengan OpenAI di bawah /v1.
Salin ulang key dari console CometAPI, buat credential Flowise yang baru, dan pastikan chatflow menggunakan credential tersebut. Jika key yang sama berfungsi dalam pemanggilan API langsung tetapi gagal di Flowise, periksa bahwa Flowise tidak masih menggunakan credential lama yang terpasang pada node.
Ganti nilai model ID di node ChatCometAPI dengan model ID teks saat ini yang persis dari halaman Models CometAPI. Nilainya tidak boleh menyertakan tanda kutip, prefiks provider, label tampilan, atau spasi di akhir.
ChatCometAPI adalah node model chat untuk workflow teks. Gunakan untuk chat, chain, agent, dan pembuatan jawaban RAG. Jangan gunakan pengaturan Flowise ini untuk node pembuatan gambar atau workflow khusus gambar.
Pertama, uji query pengambilan Document Store sebelum menguji chatflow lengkap. Jika pengambilannya lemah, sesuaikan text splitter, ukuran chunk, overlap chunk, filter metadata, dan Top K. Jika sitasi tidak ada, aktifkan Return Source Documents pada Conversational Retrieval QA Chain.
Periksa bahwa provider embedding, vector store, dan dimensi vector cocok. Vector store Flowise Cloud sering memerlukan URL layanan dan credential-nya sendiri yang dapat dijangkau; URL vector store lokal saja seperti localhost tidak akan dapat dijangkau dari Flowise Cloud. Record Manager bersifat opsional, tetapi jika Anda mengaktifkannya, konfigurasikan koneksi databasenya secara terpisah.
Turunkan Top K untuk retrieval, kurangi ukuran prompt, gunakan chunk yang lebih kecil, atau pilih model ID yang lebih cepat untuk node ChatCometAPI. Untuk rate limit, tunggu lalu coba lagi dengan concurrency yang lebih rendah, kemudian periksa penggunaan akun dan limit di console CometAPI.