Skip to main content
O FlowiseAI é uma plataforma low-code para criar aplicações de LLM visualmente. Use o nó nativo ChatCometAPI para conectar o CometAPI a chatflows, sistemas de perguntas e respostas e fluxos de trabalho de RAG que chamam modelos de chat de texto.
Este guia cobre chat de texto e fluxos de trabalho de RAG. Ele não cobre fluxos de trabalho de geração de imagens.

Pré-requisitos

Configurar o ChatCometAPI

1

Obtenha sua chave de API do CometAPI

Faça login no console do CometAPI. Clique em Add API Key e copie sua chave de API do CometAPI.
Painel do CometAPI mostrando o botão Add API Key
Detalhes da chave de API do CometAPI com a URL base
2

Adicione o nó ChatCometAPI

  1. No canvas do seu chatflow do FlowiseAI, clique em Add New.
Canvas do FlowiseAI com o botão Add New
  1. Procure por cometapi e selecione o nó ChatCometAPI.
Busca de nós mostrando o resultado ChatCometAPI
  1. Arraste-o para o canvas.
Nó ChatCometAPI colocado no canvas
3

Crie a credencial do CometAPI

No nó ChatCometAPI, abra Connect Credential, selecione Create New, cole sua chave de API do CometAPI e salve a credencial.
Janela de credencial com a chave de API inserida
4

Defina o caminho base do CometAPI

Expanda Additional Parameters no nó ChatCometAPI.Se a sua versão do Flowise mostrar um campo Base Path, defina-o como:
Se ela expuser Base Options em vez disso, adicione uma entrada basePath:
Defina Model Name como o model ID exato do modelo de texto que você quer chamar, por exemplo your-model-id, e ajuste Temperature apenas se o seu fluxo de trabalho precisar de mais ou menos variação.

Criar um chatflow básico

1

Adicionar um Prompt Template

Adicione um nó Prompt Template e defina o prompt que seu chatflow enviará para o modelo.
Nó Prompt Template com o template de exemplo
Nó Prompt Template posicionado no canvas
2

Adicionar um LLM Chain

Adicione um nó LLM Chain. Conecte o nó ChatCometAPI à entrada Language Model da chain e, em seguida, conecte o nó Prompt Template à entrada Prompt da chain.
Nó LLM Chain com Language Model e Prompt conectados
3

Salvar e testar o fluxo

Salve o chatflow, abra a visualização de chat e envie uma pergunta curta de teste. Uma configuração correta retorna uma resposta de texto normal do modelo CometAPI selecionado.
Chatflow completo com os três nós conectados

Alternar model IDs

Para alternar modelos, mantenha a mesma credencial CometAPI e o mesmo caminho base, depois altere apenas o campo de model ID do ChatCometAPI. Use model IDs exatos da página de Models da CometAPI. Evite copiar nomes de exibição, nomes de provedores ou espaços extras. Depois de alterar o model ID, salve o chatflow e execute um prompt de teste curto. Se você mantém vários fluxos de produção, duplique o chatflow primeiro e dê a cada cópia um nome que reflita a família do modelo.

Configurar retrieval-augmented generation

O RAG do Flowise tem duas partes: primeiro prepare e faça upsert de documentos em Document Stores e, depois, conecte o retriever preparado a um chatflow. ChatCometAPI é o modelo de chat que escreve a resposta final; o Document Store ainda precisa de um provedor de Embeddings compatível com o Flowise e de um vector store.
1

Criar e processar um Document Store

No Flowise, abra Document Stores e crie um novo store. Adicione um carregador de documentos, como File Loader, PDF Loader, Web Scraper ou outro loader que corresponda à sua fonte. Adicione um text splitter quando o documento for longo o suficiente para precisar de chunking e, em seguida, clique em Process para visualizar os chunks gerados.
2

Configurar Embeddings e armazenamento vetorial

Clique em Upsert ou Upsert All Chunks. Selecione:
  • Embeddings: um node de Embeddings do Flowise compatível com seus dados e vector store.
  • Vector Store: o banco de dados vetorial onde o Flowise deve armazenar os embeddings dos documentos.
  • Record Manager: opcional. Use-o quando quiser que upserts repetidos evitem registros duplicados.
Mantenha a dimensão do modelo de embedding alinhada com a dimensão do índice do vector store. Depois que o upsert terminar, use o teste de consulta de retrieval do Document Store para confirmar que chunks relevantes estão sendo retornados antes de construir o chatflow.
3

Criar o chatflow de retrieval

Em um chatflow, adicione um node Document Store (Vector) ou Document Store Retriever e selecione o Document Store processado. Defina Top K como o número de chunks que você quer que o Flowise recupere para cada pergunta.
4

Conectar Conversational Retrieval QA Chain

Adicione Conversational Retrieval QA Chain e conecte:
  • A entrada Language Model a partir de ChatCometAPI.
  • A entrada Vector Store Retriever a partir do retriever do Document Store.
  • Memory somente se o seu chatflow precisar de histórico da conversa.
Ative Return Source Documents quando quiser que a resposta inclua citações ou chunks de origem recuperados. Salve o fluxo e faça uma pergunta cuja resposta exista apenas no documento enviado.

Solução de problemas

Confirme se a sua versão do Flowise inclui a integração do modelo de chat ChatCometAPI. Em implantações mais antigas ou personalizadas do Flowise, atualize o Flowise ou verifique se a integração foi desativada pelo administrador.
Defina o caminho base do CometAPI como https://api.cometapi.com/v1/. Em algumas versões do Flowise, isso é um campo Base Path. Em outras, adicione basePath dentro de Base Options.Não use https://api.cometapi.com para o chatflow do ChatCometAPI, porque o nó de chat chama rotas /chat/completions compatíveis com OpenAI em /v1.
Copie novamente a chave do console do CometAPI, crie uma nova credencial no Flowise e certifique-se de que o chatflow use essa credencial. Se a mesma chave funcionar em chamadas diretas à API, mas falhar no Flowise, verifique se o Flowise não está usando uma credencial antiga ainda anexada ao nó.
Substitua o valor de model ID no nó ChatCometAPI por um model ID de modelo de texto atual e exato da página de modelos do CometAPI. O valor não deve incluir aspas, um prefixo de provedor, um rótulo de exibição ou espaços no final.
ChatCometAPI é um nó de modelo de chat para fluxos de trabalho de texto. Use-o para chat, chains, agents e geração de respostas RAG. Não use esta configuração do Flowise para nós de geração de imagens ou fluxos de trabalho somente de imagem.
Primeiro teste a consulta de recuperação do Document Store antes de testar o chatflow completo. Se a recuperação for fraca, ajuste o divisor de texto, o tamanho dos chunks, a sobreposição dos chunks, os filtros de metadados e Top K. Se as citações estiverem ausentes, ative Return Source Documents em Conversational Retrieval QA Chain.
Verifique se o provedor de embeddings, o vector store e as dimensões do vetor correspondem. Os vector stores do Flowise Cloud geralmente exigem sua própria URL de serviço acessível e credenciais; uma URL de vector store apenas local, como localhost, não será acessível a partir do Flowise Cloud. O Record Manager é opcional, mas se você o ativar, configure a conexão com o banco de dados dele separadamente.
Reduza o Top K da recuperação, diminua o tamanho do prompt, use chunks menores ou escolha um model ID mais rápido para o nó ChatCometAPI. Para limites de taxa, aguarde e tente novamente com menor concorrência, depois verifique o uso e os limites da conta no console do CometAPI.