Wymagania wstępne
- Projekt Langfuse Cloud lub samodzielnie hostowana instancja Langfuse
- Konto CometAPI z aktywnym kluczem API — uzyskaj go w panelu
- Co najmniej jeden CometAPI model ID wybrany ze strony CometAPI Models
Skonfiguruj integrację
1
Utwórz połączenie Langfuse LLM
W Langfuse otwórz Project Settings → LLM Connections. Rozpocznij proces dodawania klucza API LLM.
2
Wybierz adapter OpenAI
Wybierz OpenAI jako provider. Langfuse używa tego adaptera dla providerów modeli, którzy obsługują schemat API OpenAI.
3
Wprowadź dane uwierzytelniające CometAPI
Skonfiguruj połączenie, używając tych wartości:
Jeśli Langfuse udostępnia pole base URL w sekcji Advanced Settings, rozwiń tę sekcję przed zapisaniem połączenia.
4
Przetestuj w Playground
W Langfuse Playground wybierz połączenie CometAPI LLM oraz jeden ze skonfigurowanych model IDs. Wyślij krótki prompt, aby potwierdzić, że Langfuse otrzymuje odpowiedź.
Użyj CometAPI do LLM-as-a-Judge
Ewaluatory Langfuse LLM-as-a-Judge mogą używać tego samego połączenia LLM. Wybierz połączenie CometAPI w konfiguracji ewaluatora, a następnie wybierz model ID, który obsługuje tool calling, jeśli Twój prompt oceniający wymaga uporządkowanej ekstrakcji. Używaj opcji provider tylko wtedy, gdy wybrany model CometAPI obsługuje te pola żądania. Do odkrywania modeli użyj strony CometAPI Models lub API/v1/models.
Rozwiązywanie problemów
Model nie jest widoczny w Langfuse
Model nie jest widoczny w Langfuse
Dodaj dokładny CometAPI model ID do listy custom model IDs w połączeniu LLM. Langfuse nie wykrywa automatycznie każdego modelu dla niestandardowych providerów zgodnych z OpenAI.
Żądanie używa nieprawidłowej ścieżki API
Żądanie używa nieprawidłowej ścieżki API
Użyj
https://api.cometapi.com/v1 jako base URL. Langfuse dodaje ścieżkę zgodną z OpenAI dla wybranego adaptera.Wywołania ewaluatora kończą się niepowodzeniem
Wywołania ewaluatora kończą się niepowodzeniem
Potwierdź, że wybrany model obsługuje funkcje żądania używane przez ewaluator, takie jak tool calling lub wyjście JSON.