Przejdź do głównej treści

Documentation Index

Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt

Use this file to discover all available pages before exploring further.

Langflow to wizualny framework do budowania przepływów agentów i RAG. Langflow zawiera komponent CometAPI, który wywołuje modele językowe CometAPI przez endpointy zgodne z OpenAI.

​
Wymagania wstępne

​
Skonfiguruj integrację

1

Dodaj komponent CometAPI

W obszarze roboczym Langflow otwórz menu komponentów. Wyszukaj CometAPI, a następnie dodaj komponent generowania tekstu CometAPI do swojego przepływu.
2

Wprowadź klucz API CometAPI

Wybierz komponent CometAPI. W panelu inspekcji komponentu wprowadź klucz API CometAPI w polu klucza API.
3

Wybierz model ID

Ustaw model ID na wartość ze strony modeli CometAPI. Jeśli komponent może pobrać modele po wprowadzeniu klucza API, wybierz model ID z menu modeli.
4

Połącz wejście i wyjście czatu

Aby utworzyć minimalny przepływ testowy, dodaj komponenty Chat Input i Chat Output. Połącz Chat Input z wejściem komponentu CometAPI, a następnie połącz wyjście CometAPI z Chat Output.
5

Przetestuj w Playground

Otwórz Playground i wyślij krótką wiadomość. Pomyślna odpowiedź czatu potwierdza, że Langflow wywołuje CometAPI.

​
Używaj CometAPI w większych przepływach

Zmień typ wyjścia komponentu CometAPI na Language Model, gdy inny komponent Langflow wymaga wejścia LLM. Jest to przydatne w przepływach Agent, Prompt Template i Smart Transform. W przypadku bezpośredniego czatu pozostaw domyślne wyjście odpowiedzi modelu i połącz je z komponentem Chat Output.

​
Uruchamianie przepływu CometAPI z Pythona

Po przetestowaniu przepływu w Playground możesz wywoływać ten sam przepływ Langflow z Pythona. Kod w Pythonie wywołuje serwer Langflow. Nie wysyła żądań bezpośrednio do CometAPI. Zachowaj klucz API CometAPI i model ID w komponencie CometAPI wewnątrz Langflow. Przykład REST API wysyła wejście czatu do flow ID lub nazwy endpointu: 
import os

import requests

langflow_url = os.environ.get("LANGFLOW_URL", "http://localhost:7860")
langflow_api_key = os.environ["LANGFLOW_API_KEY"]
flow_id = os.environ["LANGFLOW_FLOW_ID"]

response = requests.post(
    f"{langflow_url}/api/v1/run/{flow_id}",
    headers={
        "x-api-key": langflow_api_key,
        "Content-Type": "application/json",
    },
    json={
        "input_value": "Hello from CometAPI",
        "input_type": "chat",
        "output_type": "chat",
    },
    timeout=60,
)
response.raise_for_status()
print(response.json())
W projektach korzystających z Langflow Python SDK zainstaluj langflow-sdk i wywołaj ten sam przepływ przez Client.run(): 
from langflow_sdk import Client

client = Client("http://localhost:7860", api_key="<LANGFLOW_API_KEY>")
response = client.run("FLOW_ID", input_value="Hello from CometAPI")
print(response.first_text_output())
Zastąp FLOW_ID flow ID lub nazwą endpointu z Langflow. Zastąp <LANGFLOW_API_KEY> swoim kluczem API Langflow. Ta wartość różni się od klucza API CometAPI.

​
Rozwiązywanie problemów

Zaktualizuj Langflow do wersji zawierającej pakiet CometAPI. Jeśli w Twoim wdrożeniu niektóre komponenty są ukryte, sprawdź ustawienia pakietu lub wyszukaj je w sekcji komponentów modelu językowego.
Potwierdź, że klucz API CometAPI jest prawidłowy i że konto ma dostęp do wybranego modelu. Możesz też wprowadzić model ID ręcznie.
Sprawdź, czy model ID dokładnie odpowiada wartości w CometAPI oraz czy wejście flow jest połączone z wejściem komponentu CometAPI.

​
Powiązane zasoby