Skip to main content
Langflow ist ein visuelles Framework zum Erstellen von Agent- und RAG-Workflows. Langflow enthält eine CometAPI-Komponente, die CometAPI-Sprachmodelle über OpenAI-kompatible Endpunkte aufruft.

Voraussetzungen

Die Integration konfigurieren

1

Die CometAPI-Komponente hinzufügen

Öffnen Sie im Langflow-Canvas das Komponentenmenü. Suchen Sie nach CometAPI und fügen Sie dann die CometAPI-Komponente für die Textgenerierung zu Ihrem Flow hinzu.
2

Ihren CometAPI API key eingeben

Wählen Sie die CometAPI-Komponente aus. Geben Sie im Inspektionsbereich der Komponente Ihren CometAPI API key in das Feld für den API key ein.
3

Eine model ID auswählen

Setzen Sie die model ID auf einen Wert von der CometAPI Models-Seite. Wenn die Komponente nach Eingabe des API key Modelle abrufen kann, wählen Sie die model ID im Modellmenü aus.
4

Chat-Eingabe und -Ausgabe verbinden

Fügen Sie für einen minimalen Test-Flow die Komponenten Chat Input und Chat Output hinzu. Verbinden Sie Chat Input mit dem Eingabepfad der CometAPI-Komponente und anschließend die Ausgabe von CometAPI mit Chat Output.
5

Im Playground testen

Öffnen Sie Playground und senden Sie eine kurze Nachricht. Eine erfolgreiche Chat-Antwort bestätigt, dass Langflow CometAPI aufruft.

CometAPI in größeren Flows verwenden

Ändern Sie den Ausgabetyp der CometAPI-Komponente in Language Model, wenn eine andere Langflow-Komponente eine LLM-Eingabe benötigt. Das ist nützlich für Agent-, Prompt Template- und Smart Transform-Flows. Für direkten Chat behalten Sie die Standardausgabe für Modellantworten bei und verbinden sie mit einer Chat Output-Komponente.

Den CometAPI-Flow aus Python ausführen

Nachdem Sie den Flow in Playground getestet haben, können Sie denselben Langflow-Flow aus Python aufrufen. Der Python-Code ruft Ihren Langflow-Server auf. Er sendet Anfragen nicht direkt an CometAPI. Behalten Sie den CometAPI API key und die model ID in der CometAPI-Komponente innerhalb von Langflow bei. Das REST-API-Beispiel sendet eine Chat-Eingabe an eine flow ID oder einen endpoint-Namen:
Für Projekte, die das Langflow Python SDK verwenden, installieren Sie langflow-sdk und rufen Sie denselben Flow über Client.run() auf:
Ersetzen Sie FLOW_ID durch die flow ID oder den endpoint-Namen aus Langflow. Ersetzen Sie <LANGFLOW_API_KEY> durch Ihren Langflow API key. Dieser Wert unterscheidet sich von Ihrem CometAPI API key.

Fehlerbehebung

Aktualisieren Sie Langflow auf eine Version, die das CometAPI-Bundle enthält. Wenn Ihre Bereitstellung einige Komponenten ausblendet, prüfen Sie die Bundle-Einstellungen oder suchen Sie unter den Sprachmodell-Komponenten.
Bestätigen Sie, dass der CometAPI API-Schlüssel gültig ist und dass das Konto Zugriff auf das ausgewählte Modell hat. Sie können die model ID auch manuell eingeben.
Prüfen Sie, dass die model ID genau mit CometAPI übereinstimmt und dass die Flow-Eingabe mit dem CometAPI-Komponenteneingang verbunden ist.

Verwandte Ressourcen