Zum Hauptinhalt springen

Documentation Index

Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt

Use this file to discover all available pages before exploring further.

Langflow ist ein visuelles Framework zum Erstellen von Agent- und RAG-Workflows. Langflow enthält eine CometAPI-Komponente, die CometAPI-Sprachmodelle über OpenAI-kompatible Endpunkte aufruft.

​
Voraussetzungen

​
Konfigurieren der Integration

1

Fügen Sie die CometAPI-Komponente hinzu

Öffnen Sie im Langflow-Canvas das Komponentenmenü. Suchen Sie nach CometAPI und fügen Sie dann die CometAPI-Komponente zur Textgenerierung zu Ihrem Flow hinzu.
2

Geben Sie Ihren CometAPI-API-Schlüssel ein

Wählen Sie die CometAPI-Komponente aus. Geben Sie im Inspektionsbereich der Komponente Ihren CometAPI-API-Schlüssel in das Feld für den API-Schlüssel ein.
3

Wählen Sie eine model ID

Setzen Sie die model ID auf einen Wert von der CometAPI Models-Seite. Wenn die Komponente Modelle abrufen kann, nachdem Sie den API-Schlüssel eingegeben haben, wählen Sie die model ID aus dem Modellmenü aus.
4

Verbinden Sie Chat-Eingabe und -Ausgabe

Fügen Sie für einen minimalen Test-Flow die Komponenten Chat Input und Chat Output hinzu. Verbinden Sie Chat Input mit dem Eingang der CometAPI-Komponente und verbinden Sie dann den CometAPI-Ausgang mit Chat Output.
5

Im Playground testen

Öffnen Sie den Playground und senden Sie eine kurze Nachricht. Eine erfolgreiche Chat-Antwort bestätigt, dass Langflow CometAPI aufruft.

​
CometAPI in größeren Flows verwenden

Ändern Sie den Ausgabetyp der CometAPI-Komponente in Language Model, wenn eine andere Langflow-Komponente einen LLM-Eingang benötigt. Das ist nützlich für Agent-, Prompt Template- und Smart Transform-Flows. Für direkten Chat behalten Sie die standardmäßige Ausgabe der Modellantwort bei und verbinden sie mit einer Chat Output-Komponente.

​
Den CometAPI-Flow aus Python ausführen

Nachdem Sie den Flow im Playground getestet haben, können Sie denselben Langflow-Flow aus Python aufrufen. Der Python-Code ruft Ihren Langflow-Server auf. Er sendet keine Anfragen direkt an CometAPI. Behalten Sie den CometAPI-API-Schlüssel und die model ID in der CometAPI-Komponente innerhalb von Langflow bei. Das Beispiel für die REST API sendet eine Chat-Eingabe an eine flow ID oder einen Endpunktnamen: 
import os

import requests

langflow_url = os.environ.get("LANGFLOW_URL", "http://localhost:7860")
langflow_api_key = os.environ["LANGFLOW_API_KEY"]
flow_id = os.environ["LANGFLOW_FLOW_ID"]

response = requests.post(
    f"{langflow_url}/api/v1/run/{flow_id}",
    headers={
        "x-api-key": langflow_api_key,
        "Content-Type": "application/json",
    },
    json={
        "input_value": "Hello from CometAPI",
        "input_type": "chat",
        "output_type": "chat",
    },
    timeout=60,
)
response.raise_for_status()
print(response.json())
Für Projekte, die das Langflow Python SDK verwenden, installieren Sie langflow-sdk und rufen Sie denselben Flow über Client.run() auf: 
from langflow_sdk import Client

client = Client("http://localhost:7860", api_key="<LANGFLOW_API_KEY>")
response = client.run("FLOW_ID", input_value="Hello from CometAPI")
print(response.first_text_output())
Ersetzen Sie FLOW_ID durch die flow ID oder den Endpunktnamen aus Langflow. Ersetzen Sie <LANGFLOW_API_KEY> durch Ihren Langflow-API-Schlüssel. Dieser Wert unterscheidet sich von Ihrem CometAPI-API-Schlüssel.

​
Fehlerbehebung

Aktualisieren Sie Langflow auf eine Version, die das CometAPI-Bundle enthält. Wenn Ihre Bereitstellung einige Komponenten ausblendet, prüfen Sie die Bundle-Einstellungen oder suchen Sie unter den Sprachmodell-Komponenten.
Stellen Sie sicher, dass der CometAPI API key gültig ist und dass das Konto Zugriff auf das ausgewählte Modell hat. Sie können die model ID auch manuell eingeben.
Prüfen Sie, dass die model ID genau mit CometAPI übereinstimmt und dass die Flow-Eingabe mit dem Eingabebereich der CometAPI-Komponente verbunden ist.

​
Verwandte Ressourcen