Vai al contenuto principale

Documentation Index

Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt

Use this file to discover all available pages before exploring further.

Langflow è un framework visuale per creare workflow di agent e RAG. Langflow include un componente CometAPI che richiama i modelli linguistici di CometAPI tramite endpoint compatibili con OpenAI.

​
Prerequisiti

​
Configura l’integrazione

1

Aggiungi il componente CometAPI

Nella canvas di Langflow, apri il menu dei componenti. Cerca CometAPI, quindi aggiungi al tuo flusso il componente CometAPI per la generazione di testo.
2

Inserisci la tua chiave API di CometAPI

Seleziona il componente CometAPI. Nel pannello di ispezione del componente, inserisci la tua chiave API di CometAPI nel campo della chiave API.
3

Scegli un model ID

Imposta il model ID su un valore della pagina dei modelli di CometAPI. Se il componente può recuperare i modelli dopo che hai inserito la chiave API, seleziona il model ID dal menu dei modelli.
4

Collega input e output della chat

Per un flusso di test minimo, aggiungi i componenti Chat Input e Chat Output. Collega Chat Input all’input del componente CometAPI, quindi collega l’output di CometAPI a Chat Output.
5

Testa in Playground

Apri Playground e invia un breve messaggio. Una risposta chat corretta conferma che Langflow sta chiamando CometAPI.

​
Usa CometAPI all’interno di flussi più grandi

Cambia il tipo di output del componente CometAPI in Language Model quando un altro componente di Langflow richiede un input LLM. Questo è utile per i flussi Agent, Prompt Template e Smart Transform. Per una chat diretta, mantieni l’output predefinito della risposta del modello e collegalo a un componente Chat Output.

​
Esegui il flusso CometAPI da Python

Dopo aver testato il flusso in Playground, puoi richiamare lo stesso flusso Langflow da Python. Il codice Python chiama il tuo server Langflow. Non invia richieste direttamente a CometAPI. Mantieni la chiave API di CometAPI e il model ID nel componente CometAPI all’interno di Langflow. L’esempio REST API invia un input chat a un flow ID o a un nome di endpoint: 
import os

import requests

langflow_url = os.environ.get("LANGFLOW_URL", "http://localhost:7860")
langflow_api_key = os.environ["LANGFLOW_API_KEY"]
flow_id = os.environ["LANGFLOW_FLOW_ID"]

response = requests.post(
    f"{langflow_url}/api/v1/run/{flow_id}",
    headers={
        "x-api-key": langflow_api_key,
        "Content-Type": "application/json",
    },
    json={
        "input_value": "Hello from CometAPI",
        "input_type": "chat",
        "output_type": "chat",
    },
    timeout=60,
)
response.raise_for_status()
print(response.json())
Per i progetti che usano l’SDK Python di Langflow, installa langflow-sdk e richiama lo stesso flusso tramite Client.run(): 
from langflow_sdk import Client

client = Client("http://localhost:7860", api_key="<LANGFLOW_API_KEY>")
response = client.run("FLOW_ID", input_value="Hello from CometAPI")
print(response.first_text_output())
Sostituisci FLOW_ID con il flow ID o il nome dell’endpoint di Langflow. Sostituisci <LANGFLOW_API_KEY> con la tua chiave API di Langflow. Questo valore è diverso dalla tua chiave API di CometAPI.

​
Risoluzione dei problemi

Aggiorna Langflow a una versione che includa il bundle CometAPI. Se la tua distribuzione nasconde alcuni componenti, controlla le impostazioni del bundle o cerca tra i componenti del modello linguistico.
Verifica che la chiave API di CometAPI sia valida e che l’account abbia accesso al modello selezionato. Puoi anche inserire manualmente il model ID.
Controlla che il model ID corrisponda esattamente a CometAPI e che l’input del flow sia collegato all’input del componente CometAPI.

​
Risorse correlate