Ana içeriğe atla

Documentation Index

Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt

Use this file to discover all available pages before exploring further.

Langfuse, LLM gözlemlenebilirliği, prompt yönetimi, playground’lar ve değerlendirme iş akışları sağlar. Langfuse Playground veya LLM-as-a-Judge değerlendirmelerinin CometAPI modellerini çağırmasını istediğinizde, CometAPI ile bir Langfuse LLM Connection yapılandırın.

Ön koşullar

Entegrasyonu yapılandırın

1

Bir Langfuse LLM bağlantısı oluşturun

Langfuse içinde Project SettingsLLM Connections bölümünü açın. Bir LLM API key ekleme akışını başlatın.
2

OpenAI adapter'ı seçin

Sağlayıcı olarak OpenAI seçin. Langfuse, OpenAI API şemasını destekleyen model sağlayıcıları için bu adapter’ı kullanır.
3

CometAPI kimlik bilgilerini girin

Bağlantıyı şu değerlerle yapılandırın:
FieldValue
API keyCometAPI API key’iniz
Base URLhttps://api.cometapi.com/v1
Custom model IDsCometAPI Models sayfasından bir veya daha fazla model ID
Langfuse, base URL alanını Advanced Settings altında gösteriyorsa, bağlantıyı kaydetmeden önce bu bölümü genişletin.
4

Playground'da test edin

Langfuse Playground’da CometAPI LLM bağlantısını ve yapılandırılmış model ID’lerden birini seçin. Langfuse’un bir yanıt aldığını doğrulamak için kısa bir prompt gönderin.

LLM-as-a-Judge için CometAPI’yi kullanın

Langfuse LLM-as-a-Judge değerlendiricileri aynı LLM bağlantısını kullanabilir. Değerlendirici yapılandırmasında CometAPI bağlantısını seçin, ardından puanlama prompt’unuz yapılandırılmış çıkarım gerektiriyorsa tool calling destekleyen bir model ID seçin. Sağlayıcı seçeneklerini yalnızca seçilen CometAPI modeli bu istek alanlarını destekliyorsa kullanın. Model keşfi için CometAPI Models sayfasını veya /v1/models API’sini kullanın.

Sorun giderme

LLM bağlantısındaki custom model IDs listesine tam CometAPI model ID’yi ekleyin. Langfuse, custom OpenAI-compatible sağlayıcılar için her modeli otomatik olarak keşfetmez.
Base URL olarak https://api.cometapi.com/v1 kullanın. Langfuse, seçilen adapter için OpenAI-compatible yolu ekler.
Seçilen modelin, değerlendiricinin kullandığı tool calling veya JSON output gibi istek özelliklerini desteklediğini doğrulayın.

İlgili kaynaklar