Langfuse cung cấp khả năng quan sát LLM, quản lý prompt, playground và quy trình đánh giá. Hãy cấu hình một Langfuse LLM Connection với CometAPI khi bạn muốn Langfuse Playground hoặc các đánh giá LLM-as-a-Judge gọi các model của CometAPI.Documentation Index
Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
Use this file to discover all available pages before exploring further.
Điều kiện tiên quyết
- Một dự án Langfuse Cloud hoặc một phiên bản Langfuse self-hosted
- Một tài khoản CometAPI với API key đang hoạt động — lấy tại dashboard
- Ít nhất một model ID của CometAPI được chọn từ trang CometAPI Models
Cấu hình tích hợp
Tạo một Langfuse LLM connection
Trong Langfuse, mở Project Settings → LLM Connections. Bắt đầu quy trình thêm một API key cho LLM.
Chọn adapter OpenAI
Chọn OpenAI làm nhà cung cấp. Langfuse sử dụng adapter này cho các nhà cung cấp model hỗ trợ schema API của OpenAI.
Nhập thông tin xác thực CometAPI
Cấu hình kết nối với các giá trị sau:
Nếu Langfuse hiển thị trường base URL trong Advanced Settings, hãy mở rộng phần đó trước khi lưu kết nối.
| Field | Value |
|---|---|
| API key | API key CometAPI của bạn |
| Base URL | https://api.cometapi.com/v1 |
| Custom model IDs | Một hoặc nhiều model ID từ trang CometAPI Models |
Sử dụng CometAPI cho LLM-as-a-Judge
Các trình đánh giá LLM-as-a-Judge của Langfuse có thể sử dụng cùng một LLM connection. Chọn kết nối CometAPI trong cấu hình trình đánh giá, sau đó chọn một model ID hỗ trợ tool calling nếu prompt chấm điểm của bạn yêu cầu trích xuất có cấu trúc. Chỉ sử dụng các tùy chọn provider khi model CometAPI đã chọn hỗ trợ các trường request đó. Để khám phá model, hãy dùng trang CometAPI Models hoặc API/v1/models.
Khắc phục sự cố
Model không hiển thị trong Langfuse
Model không hiển thị trong Langfuse
Thêm đúng model ID của CometAPI vào danh sách custom model IDs trong LLM connection. Langfuse không tự động phát hiện mọi model đối với các nhà cung cấp tùy chỉnh tương thích OpenAI.
Request sử dụng sai đường dẫn API
Request sử dụng sai đường dẫn API
Sử dụng
https://api.cometapi.com/v1 làm base URL. Langfuse sẽ nối thêm đường dẫn tương thích OpenAI cho adapter đã chọn.Lệnh gọi evaluator thất bại
Lệnh gọi evaluator thất bại
Xác nhận rằng model đã chọn hỗ trợ các tính năng request mà evaluator sử dụng, chẳng hạn như tool calling hoặc đầu ra JSON.