Prasyarat
- Sebuah project Langfuse Cloud atau instance Langfuse yang di-host sendiri
- Akun CometAPI dengan API key yang aktif — dapatkan milik Anda di dashboard
- Setidaknya satu model ID CometAPI yang dipilih dari halaman Model CometAPI
Konfigurasikan integrasi
1
Buat koneksi Langfuse LLM
Di Langfuse, buka Project Settings → LLM Connections. Mulai alur untuk menambahkan API key LLM.
2
Pilih adapter OpenAI
Pilih OpenAI sebagai provider. Langfuse menggunakan adapter ini untuk provider model yang mendukung skema API OpenAI.
3
Masukkan kredensial CometAPI
Konfigurasikan koneksi dengan nilai berikut:
Jika Langfuse menampilkan field base URL di bawah Advanced Settings, buka bagian tersebut sebelum menyimpan koneksi.
4
Uji di Playground
Di Langfuse Playground, pilih koneksi CometAPI LLM dan salah satu model ID yang telah dikonfigurasi. Kirim prompt singkat untuk memastikan bahwa Langfuse menerima respons.
Gunakan CometAPI untuk LLM-as-a-Judge
Evaluator Langfuse LLM-as-a-Judge dapat menggunakan koneksi LLM yang sama. Pilih koneksi CometAPI dalam konfigurasi evaluator, lalu pilih model ID yang mendukung tool calling jika prompt penilaian Anda memerlukan ekstraksi terstruktur. Gunakan opsi provider hanya ketika model CometAPI yang dipilih mendukung field request tersebut. Untuk penemuan model, gunakan halaman Model CometAPI atau API/v1/models.
Pemecahan masalah
Model tidak terlihat di Langfuse
Model tidak terlihat di Langfuse
Tambahkan model ID CometAPI yang tepat ke daftar custom model IDs di koneksi LLM. Langfuse tidak menemukan setiap model secara otomatis untuk provider kustom yang kompatibel dengan OpenAI.
Request menggunakan path API yang salah
Request menggunakan path API yang salah
Gunakan
https://api.cometapi.com/v1 sebagai base URL. Langfuse menambahkan path yang kompatibel dengan OpenAI untuk adapter yang dipilih.Panggilan evaluator gagal
Panggilan evaluator gagal
Pastikan model yang dipilih mendukung fitur request yang digunakan oleh evaluator, seperti tool calling atau output JSON.