Langfuse는 LLM 관찰 가능성, 프롬프트 관리, 플레이그라운드, 평가 워크플로를 제공합니다. Langfuse Playground 또는 LLM-as-a-Judge 평가에서 CometAPI 모델을 호출하도록 하려면 CometAPI로 Langfuse LLM Connection을 구성하세요.Documentation Index
Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
Use this file to discover all available pages before exploring further.
사전 준비
- Langfuse Cloud 프로젝트 또는 자체 호스팅 Langfuse 인스턴스
- 활성 API 키가 있는 CometAPI 계정 — 대시보드에서 발급받기
- CometAPI Models page에서 선택한 CometAPI model ID 최소 1개
통합 구성
Langfuse LLM connection 생성
Langfuse에서 Project Settings → LLM Connections를 엽니다. LLM API 키 추가 흐름을 시작하세요.
CometAPI 자격 증명 입력
다음 값으로 connection을 구성합니다:
Langfuse에서 Base URL 필드가 Advanced Settings 아래에 표시된다면, connection을 저장하기 전에 해당 섹션을 펼치세요.
| Field | Value |
|---|---|
| API key | CometAPI API 키 |
| Base URL | https://api.cometapi.com/v1 |
| Custom model IDs | CometAPI Models page의 model ID 하나 이상 |
LLM-as-a-Judge에 CometAPI 사용
Langfuse LLM-as-a-Judge evaluator는 동일한 LLM connection을 사용할 수 있습니다. evaluator 구성에서 CometAPI connection을 선택한 다음, 채점 프롬프트에 구조화된 추출이 필요하다면 tool calling을 지원하는 model ID를 선택하세요. 선택한 CometAPI 모델이 해당 요청 필드를 지원하는 경우에만 provider 옵션을 사용하세요. 모델 탐색에는 CometAPI Models page 또는/v1/models API를 사용하세요.
문제 해결
Langfuse에 모델이 보이지 않습니다
Langfuse에 모델이 보이지 않습니다
LLM connection의 custom model IDs 목록에 정확한 CometAPI model ID를 추가하세요. Langfuse는 사용자 지정 OpenAI 호환 provider에 대해 모든 모델을 자동으로 검색하지는 않습니다.
요청이 잘못된 API 경로를 사용합니다
요청이 잘못된 API 경로를 사용합니다
base URL로
https://api.cometapi.com/v1를 사용하세요. Langfuse는 선택한 어댑터에 맞는 OpenAI 호환 경로를 뒤에 추가합니다.Evaluator 호출이 실패합니다
Evaluator 호출이 실패합니다
선택한 모델이 tool calling 또는 JSON 출력과 같이 evaluator가 사용하는 요청 기능을 지원하는지 확인하세요.