Saltar para o conteúdo principal

Documentation Index

Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt

Use this file to discover all available pages before exploring further.

Langflow é um framework visual para criar fluxos de trabalho de agente e RAG. O Langflow inclui um componente CometAPI que chama modelos de linguagem do CometAPI por meio de endpoints compatíveis com OpenAI.

​
Pré-requisitos

​
Configurar a integração

1

Adicionar o componente CometAPI

No canvas do Langflow, abra o menu de componentes. Procure por CometAPI e adicione o componente de geração de texto do CometAPI ao seu fluxo.
2

Inserir sua chave de API do CometAPI

Selecione o componente CometAPI. No painel de inspeção do componente, insira sua chave de API do CometAPI no campo de chave de API.
3

Escolher um model ID

Defina o model ID com um valor da página de modelos do CometAPI. Se o componente puder buscar modelos após você inserir a chave de API, selecione o model ID no menu de modelos.
4

Conectar a entrada e a saída do chat

Para um fluxo de teste mínimo, adicione os componentes Chat Input e Chat Output. Conecte Chat Input à entrada do componente CometAPI e, em seguida, conecte a saída do CometAPI ao Chat Output.
5

Testar no Playground

Abra o Playground e envie uma mensagem curta. Uma resposta de chat bem-sucedida confirma que o Langflow está chamando o CometAPI.

​
Usar CometAPI em fluxos maiores

Altere o tipo de saída do componente CometAPI para Language Model quando outro componente do Langflow precisar de uma entrada de LLM. Isso é útil para fluxos de Agent, Prompt Template e Smart Transform. Para chat direto, mantenha a saída padrão de resposta do modelo e conecte-a a um componente Chat Output.

​
Executar o fluxo CometAPI a partir do Python

Depois de testar o fluxo no Playground, você pode chamar o mesmo fluxo do Langflow a partir do Python. O código Python chama seu servidor Langflow. Ele não envia solicitações diretamente ao CometAPI. Mantenha a chave de API do CometAPI e o model ID no componente CometAPI dentro do Langflow. O exemplo da API REST envia uma entrada de chat para um flow ID ou nome de endpoint: 
import os

import requests

langflow_url = os.environ.get("LANGFLOW_URL", "http://localhost:7860")
langflow_api_key = os.environ["LANGFLOW_API_KEY"]
flow_id = os.environ["LANGFLOW_FLOW_ID"]

response = requests.post(
    f"{langflow_url}/api/v1/run/{flow_id}",
    headers={
        "x-api-key": langflow_api_key,
        "Content-Type": "application/json",
    },
    json={
        "input_value": "Hello from CometAPI",
        "input_type": "chat",
        "output_type": "chat",
    },
    timeout=60,
)
response.raise_for_status()
print(response.json())
Para projetos que usam o SDK Python do Langflow, instale langflow-sdk e chame o mesmo fluxo por meio de Client.run(): 
from langflow_sdk import Client

client = Client("http://localhost:7860", api_key="<LANGFLOW_API_KEY>")
response = client.run("FLOW_ID", input_value="Hello from CometAPI")
print(response.first_text_output())
Substitua FLOW_ID pelo flow ID ou nome do endpoint do Langflow. Substitua <LANGFLOW_API_KEY> pela sua chave de API do Langflow. Esse valor é diferente da sua chave de API do CometAPI.

​
Solução de problemas

Atualize o Langflow para uma versão que inclua o pacote CometAPI. Se a sua implantação ocultar alguns componentes, verifique as configurações do pacote ou pesquise em componentes de modelo de linguagem.
Confirme que a chave de API da CometAPI é válida e que a conta tem acesso ao modelo selecionado. Você também também pode inserir o model ID manualmente.
Verifique se o model ID corresponde exatamente ao da CometAPI e se a entrada do fluxo está conectada à entrada do componente CometAPI.

​
Recursos relacionados