Passer au contenu principal

Documentation Index

Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt

Use this file to discover all available pages before exploring further.

Langflow est un framework visuel pour créer des workflows d’agents et de RAG. Langflow inclut un composant CometAPI qui appelle les modèles de langage CometAPI via des endpoints compatibles OpenAI.

Prérequis

Configurer l’intégration

1

Ajouter le composant CometAPI

Dans le canvas Langflow, ouvrez le menu des composants. Recherchez CometAPI, puis ajoutez le composant de génération de texte CometAPI à votre flux.
2

Saisir votre clé API CometAPI

Sélectionnez le composant CometAPI. Dans le panneau d’inspection du composant, saisissez votre clé API CometAPI dans le champ de clé API.
3

Choisir un model ID

Définissez le model ID sur une valeur de la page des modèles CometAPI. Si le composant peut récupérer les modèles après la saisie de la clé API, sélectionnez le model ID dans le menu des modèles.
4

Connecter l’entrée et la sortie du chat

Pour un flux de test minimal, ajoutez les composants Chat Input et Chat Output. Connectez Chat Input à l’entrée du composant CometAPI, puis connectez la sortie de CometAPI à Chat Output.
5

Tester dans Playground

Ouvrez Playground et envoyez un court message. Une réponse de chat réussie confirme que Langflow appelle CometAPI.

Utiliser CometAPI dans des flux plus complexes

Modifiez le type de sortie du composant CometAPI en Language Model lorsqu’un autre composant Langflow a besoin d’une entrée LLM. Cela est utile pour les flux Agent, Prompt Template et Smart Transform. Pour un chat direct, conservez la sortie de réponse de modèle par défaut et connectez-la à un composant Chat Output.

Exécuter le flux CometAPI depuis Python

Après avoir testé le flux dans Playground, vous pouvez appeler le même flux Langflow depuis Python. Le code Python appelle votre serveur Langflow. Il n’envoie pas de requêtes directement à CometAPI. Conservez la clé API CometAPI et le model ID dans le composant CometAPI à l’intérieur de Langflow. L’exemple d’API REST envoie une entrée de chat à un flow ID ou à un nom d’endpoint :
import os

import requests

langflow_url = os.environ.get("LANGFLOW_URL", "http://localhost:7860")
langflow_api_key = os.environ["LANGFLOW_API_KEY"]
flow_id = os.environ["LANGFLOW_FLOW_ID"]

response = requests.post(
    f"{langflow_url}/api/v1/run/{flow_id}",
    headers={
        "x-api-key": langflow_api_key,
        "Content-Type": "application/json",
    },
    json={
        "input_value": "Hello from CometAPI",
        "input_type": "chat",
        "output_type": "chat",
    },
    timeout=60,
)
response.raise_for_status()
print(response.json())
Pour les projets qui utilisent le SDK Python de Langflow, installez langflow-sdk et appelez le même flux via Client.run() :
from langflow_sdk import Client

client = Client("http://localhost:7860", api_key="<LANGFLOW_API_KEY>")
response = client.run("FLOW_ID", input_value="Hello from CometAPI")
print(response.first_text_output())
Remplacez FLOW_ID par le flow ID ou le nom d’endpoint de Langflow. Remplacez <LANGFLOW_API_KEY> par votre clé API Langflow. Cette valeur est différente de votre clé API CometAPI.

Dépannage

Mettez à jour Langflow vers une version qui inclut le bundle CometAPI. Si votre déploiement masque certains composants, vérifiez les paramètres du bundle ou recherchez dans les composants de modèle de langage.
Vérifiez que la clé API CometAPI est valide et que le compte a accès au modèle sélectionné. Vous pouvez également saisir le model ID manuellement.
Vérifiez que le model ID correspond exactement à celui de CometAPI et que l’entrée du flux est connectée à l’entrée du composant CometAPI.

Ressources associées