사전 요구 사항
- Langfuse Cloud 프로젝트 또는 자체 호스팅 Langfuse 인스턴스
- 활성 API key가 있는 CometAPI 계정 — 대시보드에서 발급받기
- CometAPI Models 페이지에서 선택한 CometAPI model ID 최소 1개
통합 구성하기
1
Langfuse LLM connection 생성
Langfuse에서 Project Settings → LLM Connections를 엽니다. LLM API key 추가 흐름을 시작하세요.
2
OpenAI adapter 선택
provider로 OpenAI를 선택하세요. Langfuse는 OpenAI API 스키마를 지원하는 model provider에 이 adapter를 사용합니다.
3
CometAPI 자격 증명 입력
다음 값으로 connection을 구성하세요:
Langfuse가 base URL 필드를 Advanced Settings 아래에 표시하는 경우, connection을 저장하기 전에 해당 섹션을 펼치세요.
4
Playground에서 테스트
Langfuse Playground에서 CometAPI LLM connection과 구성된 model ID 중 하나를 선택하세요. 짧은 프롬프트(Prompt)를 보내 Langfuse가 응답을 받는지 확인합니다.
LLM-as-a-Judge에 CometAPI 사용하기
Langfuse LLM-as-a-Judge evaluator는 동일한 LLM connection을 사용할 수 있습니다. evaluator 구성에서 CometAPI connection을 선택한 다음, 채점 프롬프트(Prompt)에 구조화된 추출이 필요하다면 tool calling을 지원하는 model ID를 선택하세요. 선택한 CometAPI model이 해당 요청 필드를 지원하는 경우에만 provider 옵션을 사용하세요. model 탐색에는 CometAPI Models 페이지 또는/v1/models API를 사용하세요.
문제 해결
Langfuse에서 model이 보이지 않습니다
Langfuse에서 model이 보이지 않습니다
LLM connection의 custom model IDs 목록에 정확한 CometAPI model ID를 추가하세요. Langfuse는 사용자 지정 OpenAI 호환 provider에 대해 모든 model을 자동으로 검색하지 않습니다.
요청이 잘못된 API 경로를 사용합니다
요청이 잘못된 API 경로를 사용합니다
base URL로
https://api.cometapi.com/v1을 사용하세요. Langfuse는 선택한 adapter에 맞는 OpenAI 호환 경로를 추가합니다.Evaluator 호출이 실패합니다
Evaluator 호출이 실패합니다
선택한 model이 tool calling 또는 JSON output 등 evaluator가 사용하는 요청 기능을 지원하는지 확인하세요.