메인 콘텐츠로 건너뛰기

Documentation Index

Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt

Use this file to discover all available pages before exploring further.

Langflow는 에이전트 및 RAG 워크플로를 구축하기 위한 비주얼 프레임워크입니다. Langflow에는 OpenAI 호환 엔드포인트를 통해 CometAPI 언어 모델을 호출하는 CometAPI 컴포넌트가 포함되어 있습니다.

사전 요구 사항

통합 구성

1

CometAPI 컴포넌트 추가

Langflow 캔버스에서 컴포넌트 메뉴를 엽니다. CometAPI를 검색한 다음, CometAPI 텍스트 생성 컴포넌트를 플로우에 추가합니다.
2

CometAPI API 키 입력

CometAPI 컴포넌트를 선택합니다. 컴포넌트 검사 패널에서 API key 필드에 CometAPI API 키를 입력합니다.
3

model ID 선택

model ID를 CometAPI Models page의 값으로 설정합니다. API 키를 입력한 후 컴포넌트가 모델을 가져올 수 있다면, model 메뉴에서 model ID를 선택합니다.
4

채팅 입력 및 출력 연결

최소 테스트 플로우를 위해 Chat InputChat Output 컴포넌트를 추가합니다. Chat Input을 CometAPI 컴포넌트 입력에 연결한 다음, CometAPI 출력을 Chat Output에 연결합니다.
5

Playground에서 테스트

Playground를 열고 짧은 메시지를 보냅니다. 채팅 응답이 성공적으로 반환되면 Langflow가 CometAPI를 호출하고 있음을 확인할 수 있습니다.

더 큰 플로우 안에서 CometAPI 사용

다른 Langflow 컴포넌트에 LLM 입력이 필요할 때는 CometAPI 컴포넌트의 출력 유형을 Language Model로 변경합니다. 이는 Agent, Prompt Template, Smart Transform 플로우에 유용합니다. 직접 채팅의 경우 기본 model response 출력을 유지하고 이를 Chat Output 컴포넌트에 연결합니다.

Python에서 CometAPI 플로우 실행

Playground에서 플로우를 테스트한 후에는 Python에서 동일한 Langflow 플로우를 호출할 수 있습니다. 이 Python 코드는 Langflow 서버를 호출합니다. 요청을 CometAPI로 직접 보내지는 않습니다. CometAPI API 키와 model ID는 Langflow 내부의 CometAPI 컴포넌트에 유지하세요. REST API 예제는 flow ID 또는 endpoint name으로 채팅 입력을 보냅니다:
import os

import requests

langflow_url = os.environ.get("LANGFLOW_URL", "http://localhost:7860")
langflow_api_key = os.environ["LANGFLOW_API_KEY"]
flow_id = os.environ["LANGFLOW_FLOW_ID"]

response = requests.post(
    f"{langflow_url}/api/v1/run/{flow_id}",
    headers={
        "x-api-key": langflow_api_key,
        "Content-Type": "application/json",
    },
    json={
        "input_value": "Hello from CometAPI",
        "input_type": "chat",
        "output_type": "chat",
    },
    timeout=60,
)
response.raise_for_status()
print(response.json())
Langflow Python SDK를 사용하는 프로젝트의 경우 langflow-sdk를 설치하고 Client.run()으로 동일한 플로우를 호출합니다:
from langflow_sdk import Client

client = Client("http://localhost:7860", api_key="<LANGFLOW_API_KEY>")
response = client.run("FLOW_ID", input_value="Hello from CometAPI")
print(response.first_text_output())
FLOW_ID를 Langflow의 flow ID 또는 endpoint name으로 바꾸세요. <LANGFLOW_API_KEY>는 Langflow API 키로 바꾸세요. 이 값은 CometAPI API 키와는 다릅니다.

문제 해결

CometAPI 번들이 포함된 버전으로 Langflow를 업데이트하세요. 배포 환경에서 일부 컴포넌트가 숨겨져 있다면 번들 설정을 확인하거나 language model 컴포넌트 아래에서 검색해 보세요.
CometAPI API 키가 유효한지, 그리고 계정이 선택한 모델에 대한 접근 권한을 가지고 있는지 확인하세요. model ID를 수동으로 입력할 수도 있습니다.
model ID가 CometAPI와 정확히 일치하는지, 그리고 플로우 입력이 CometAPI 컴포넌트 입력에 연결되어 있는지 확인하세요.

관련 리소스