Skip to main content
Langflow to wizualny framework do budowania przepływów agentów i RAG. Langflow zawiera komponent CometAPI, który wywołuje modele językowe CometAPI przez endpointy zgodne z OpenAI.

Wymagania wstępne

Skonfiguruj integrację

1

Dodaj komponent CometAPI

Na płótnie Langflow otwórz menu komponentów. Wyszukaj CometAPI, a następnie dodaj komponent generowania tekstu CometAPI do swojego przepływu.
2

Wprowadź swój CometAPI API key

Wybierz komponent CometAPI. W panelu inspekcji komponentu wprowadź swój CometAPI API key w polu API key.
3

Wybierz model ID

Ustaw model ID na wartość ze strony CometAPI Models. Jeśli komponent może pobrać modele po wprowadzeniu API key, wybierz model ID z menu modeli.
4

Połącz wejście i wyjście czatu

Aby utworzyć minimalny przepływ testowy, dodaj komponenty Chat Input i Chat Output. Połącz Chat Input z wejściem komponentu CometAPI, a następnie połącz wyjście CometAPI z Chat Output.
5

Przetestuj w Playground

Otwórz Playground i wyślij krótką wiadomość. Pomyślna odpowiedź czatu potwierdza, że Langflow wywołuje CometAPI.

Używaj CometAPI w większych przepływach

Zmień typ wyjścia komponentu CometAPI na Language Model, gdy inny komponent Langflow wymaga wejścia LLM. Jest to przydatne w przepływach Agent, Prompt Template i Smart Transform. W przypadku bezpośredniego czatu zachowaj domyślne wyjście odpowiedzi modelu i połącz je z komponentem Chat Output.

Uruchamianie przepływu CometAPI z Pythona

Po przetestowaniu przepływu w Playground możesz wywołać ten sam przepływ Langflow z poziomu Pythona. Kod w Pythonie wywołuje serwer Langflow. Nie wysyła żądań bezpośrednio do CometAPI. Zachowaj CometAPI API key i model ID w komponencie CometAPI wewnątrz Langflow. Przykład REST API wysyła wejście czatu do flow ID lub nazwy endpointu:
W projektach korzystających z Langflow Python SDK zainstaluj langflow-sdk i wywołaj ten sam przepływ przez Client.run():
Zastąp FLOW_ID przez flow ID lub nazwę endpointu z Langflow. Zastąp <LANGFLOW_API_KEY> swoim Langflow API key. Ta wartość różni się od Twojego CometAPI API key.

Rozwiązywanie problemów

Zaktualizuj Langflow do wersji zawierającej pakiet CometAPI. Jeśli w Twoim wdrożeniu niektóre komponenty są ukryte, sprawdź ustawienia pakietu lub wyszukaj je wśród komponentów modelu językowego.
Potwierdź, że klucz API CometAPI jest prawidłowy i że konto ma dostęp do wybranego modelu. Możesz też ręcznie wpisać model ID.
Sprawdź, czy model ID dokładnie odpowiada wartości w CometAPI oraz czy wejście flow jest połączone z wejściem komponentu CometAPI.

Powiązane zasoby