Skip to main content
Langfuse, LLM gözlemlenebilirliği, prompt yönetimi, playground’lar ve değerlendirme iş akışları sunar. Langfuse Playground veya LLM-as-a-Judge değerlendirmelerinin CometAPI modellerini çağırmasını istediğinizde, CometAPI ile bir Langfuse LLM Connection yapılandırın.

​
Ön koşullar

​
Entegrasyonu yapılandırın

1

Bir Langfuse LLM connection oluşturun

Langfuse içinde Project Settings → LLM Connections bölümünü açın. Bir LLM API key ekleme akışını başlatın.
2

OpenAI adapter'ını seçin

provider olarak OpenAI seçin. Langfuse, OpenAI API şemasını destekleyen model provider’ları için bu adapter’ı kullanır.
3

CometAPI kimlik bilgilerini girin

connection’ı şu değerlerle yapılandırın:Langfuse, base URL alanını Advanced Settings altında gösteriyorsa, connection’ı kaydetmeden önce o bölümü genişletin.
4

Playground'da test edin

Langfuse Playground’da CometAPI LLM connection’ını ve yapılandırılmış model ID’lerden birini seçin. Langfuse’un bir yanıt aldığını doğrulamak için kısa bir prompt gönderin.

​
LLM-as-a-Judge için CometAPI kullanın

Langfuse LLM-as-a-Judge değerlendiricileri aynı LLM connection’ı kullanabilir. Değerlendirici yapılandırmasında CometAPI connection’ını seçin, ardından puanlama prompt’unuz yapılandırılmış çıkarım gerektiriyorsa tool calling destekleyen bir model ID seçin. provider seçeneklerini yalnızca seçilen CometAPI modeli bu request alanlarını destekliyorsa kullanın. Model keşfi için CometAPI Models sayfasını veya /v1/models API’sini kullanın.

​
Sorun giderme

Tam CometAPI model ID’yi LLM connection içindeki custom model IDs listesine ekleyin. Langfuse, özel OpenAI-compatible provider’lar için her modeli otomatik olarak keşfetmez.
Base URL olarak https://api.cometapi.com/v1 kullanın. Langfuse, seçilen adapter için OpenAI-compatible path’i ekler.
Seçilen modelin, değerlendiricinin kullandığı tool calling veya JSON output gibi request özelliklerini desteklediğini doğrulayın.

​
İlgili kaynaklar