Hopp til hovedinnhold

Documentation Index

Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt

Use this file to discover all available pages before exploring further.

Langflow er et visuelt rammeverk for å bygge agent- og RAG-arbeidsflyter. Langflow inkluderer en CometAPI-komponent som kaller CometAPI-språkmodeller gjennom OpenAI-kompatible endepunkter.

​
Forutsetninger

​
Konfigurer integrasjonen

1

Legg til CometAPI-komponenten

I Langflow-lerretet åpner du komponentmenyen. Søk etter CometAPI, og legg deretter til CometAPI-komponenten for tekstgenerering i flyten din.
2

Skriv inn CometAPI API-nøkkelen din

Velg CometAPI-komponenten. I komponentinspeksjonspanelet skriver du inn CometAPI API-nøkkelen din i API key-feltet.
3

Velg en model ID

Sett model ID til en verdi fra CometAPI Models-siden. Hvis komponenten kan hente modeller etter at du har skrevet inn API-nøkkelen, velger du model ID fra modellmenyen.
4

Koble til chat-inndata og -utdata

For en minimal testflyt legger du til komponentene Chat Input og Chat Output. Koble Chat Input til inndataene på CometAPI-komponenten, og koble deretter CometAPI-utdataene til Chat Output.
5

Test i Playground

Åpne Playground og send en kort melding. Et vellykket chatsvar bekrefter at Langflow kaller CometAPI.

​
Bruk CometAPI i større flyter

Endre utdatatypen til CometAPI-komponenten til Language Model når en annen Langflow-komponent trenger en LLM-inndata. Dette er nyttig for flyter med Agent, Prompt Template og Smart Transform. For direkte chat beholder du standardutdataene for modellsvar og kobler dem til en Chat Output-komponent.

​
Kjør CometAPI-flyten fra Python

Etter at du har testet flyten i Playground, kan du kalle den samme Langflow-flyten fra Python. Python-koden kaller Langflow-serveren din. Den sender ikke forespørsler direkte til CometAPI. Behold CometAPI API-nøkkelen og model ID i CometAPI-komponenten i Langflow. REST API-eksemplet sender en chat-inndata til en flow ID eller et endepunktnavn: 
import os

import requests

langflow_url = os.environ.get("LANGFLOW_URL", "http://localhost:7860")
langflow_api_key = os.environ["LANGFLOW_API_KEY"]
flow_id = os.environ["LANGFLOW_FLOW_ID"]

response = requests.post(
    f"{langflow_url}/api/v1/run/{flow_id}",
    headers={
        "x-api-key": langflow_api_key,
        "Content-Type": "application/json",
    },
    json={
        "input_value": "Hello from CometAPI",
        "input_type": "chat",
        "output_type": "chat",
    },
    timeout=60,
)
response.raise_for_status()
print(response.json())
For prosjekter som bruker Langflow Python SDK, installer langflow-sdk og kall den samme flyten gjennom Client.run(): 
from langflow_sdk import Client

client = Client("http://localhost:7860", api_key="<LANGFLOW_API_KEY>")
response = client.run("FLOW_ID", input_value="Hello from CometAPI")
print(response.first_text_output())
Erstatt FLOW_ID med flow ID eller endepunktnavnet fra Langflow. Erstatt <LANGFLOW_API_KEY> med Langflow API-nøkkelen din. Denne verdien er forskjellig fra CometAPI API-nøkkelen din.

​
Feilsøking

Oppdater Langflow til en versjon som inkluderer CometAPI-pakken. Hvis distribusjonen din skjuler noen komponenter, kontroller pakkeinnstillingene eller søk under språkmodellkomponenter.
Bekreft at CometAPI API-nøkkelen er gyldig, og at kontoen har tilgang til den valgte modellen. Du kan også skrive inn model ID manuelt.
Kontroller at model ID samsvarer nøyaktig med CometAPI, og at flytinndata er koblet til inndataene til CometAPI-komponenten.

​
Relaterte ressurser