Langfuse надає спостережуваність LLM, керування prompt, playground і робочі процеси оцінювання. Налаштуйте Langfuse LLM Connection з CometAPI, якщо хочете, щоб Langfuse Playground або оцінювання LLM-as-a-Judge викликали моделі CometAPI.Documentation Index
Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
Use this file to discover all available pages before exploring further.
Передумови
- Проєкт Langfuse Cloud або власний екземпляр Langfuse
- Обліковий запис CometAPI з активним API key — отримайте його в dashboard
- Щонайменше один model ID CometAPI, вибраний на сторінці CometAPI Models
Налаштуйте інтеграцію
Створіть Langfuse LLM connection
У Langfuse відкрийте Project Settings → LLM Connections. Запустіть процес додавання API key для LLM.
Виберіть адаптер OpenAI
Виберіть OpenAI як провайдера. Langfuse використовує цей адаптер для провайдерів моделей, які підтримують схему OpenAI API.
Введіть облікові дані CometAPI
Налаштуйте connection із такими значеннями:
Якщо Langfuse показує поле base URL у розділі Advanced Settings, розгорніть цей розділ перед збереженням connection.
| Field | Value |
|---|---|
| API key | Ваш API key CometAPI |
| Base URL | https://api.cometapi.com/v1 |
| Custom model IDs | Один або більше model ID зі сторінки CometAPI Models |
Використання CometAPI для LLM-as-a-Judge
Оцінювачі Langfuse LLM-as-a-Judge можуть використовувати той самий LLM connection. Виберіть connection CometAPI в конфігурації evaluator, а потім виберіть model ID, який підтримує tool calling, якщо ваш prompt для оцінювання потребує структурованого вилучення. Використовуйте provider options лише тоді, коли вибраний model CometAPI підтримує ці поля запиту. Для пошуку моделей використовуйте сторінку CometAPI Models або API/v1/models.
Усунення несправностей
Модель не відображається в Langfuse
Модель не відображається в Langfuse
Додайте точний model ID CometAPI до списку custom model IDs у LLM connection. Langfuse не виявляє автоматично кожну модель для користувацьких OpenAI-compatible провайдерів.
Запит використовує неправильний API path
Запит використовує неправильний API path
Використовуйте
https://api.cometapi.com/v1 як base URL. Langfuse додає OpenAI-compatible path для вибраного адаптера.Виклики evaluator завершуються помилкою
Виклики evaluator завершуються помилкою
Підтвердьте, що вибрана модель підтримує функції запиту, які використовує evaluator, наприклад tool calling або JSON output.