Langfuse предоставляет наблюдаемость LLM, управление Prompt, playground и рабочие процессы оценки. Настройте Langfuse LLM Connection с CometAPI, если хотите, чтобы Langfuse Playground или оценки LLM-as-a-Judge вызывали модели CometAPI.Documentation Index
Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
Use this file to discover all available pages before exploring further.
Предварительные требования
- Проект Langfuse Cloud или самостоятельно размещённый экземпляр Langfuse
- Учётная запись CometAPI с активным API-ключом — получите его в панели управления
- Как минимум один model ID CometAPI, выбранный на странице CometAPI Models page
Настройка интеграции
Create a Langfuse LLM connection
В Langfuse откройте Project Settings → LLM Connections. Запустите процесс добавления API-ключа LLM.
Choose the OpenAI adapter
Выберите OpenAI в качестве провайдера. Langfuse использует этот адаптер для провайдеров моделей, которые поддерживают схему OpenAI API.
Enter CometAPI credentials
Настройте подключение, указав следующие значения:
Если Langfuse показывает поле base URL в разделе Advanced Settings, раскройте этот раздел перед сохранением подключения.
| Field | Value |
|---|---|
| API key | Ваш API-ключ CometAPI |
| Base URL | https://api.cometapi.com/v1 |
| Custom model IDs | Один или несколько model ID со страницы CometAPI Models page |
Использование CometAPI для LLM-as-a-Judge
Оценщики Langfuse LLM-as-a-Judge могут использовать то же LLM Connection. Выберите подключение CometAPI в конфигурации оценщика, затем выберите model ID, который поддерживает tool calling, если ваш Prompt для оценки требует структурированного извлечения. Используйте provider options только тогда, когда выбранная модель CometAPI поддерживает эти поля запроса. Для поиска моделей используйте страницу CometAPI Models page или API/v1/models.
Устранение неполадок
The model is not visible in Langfuse
The model is not visible in Langfuse
Добавьте точный model ID CometAPI в список custom model IDs в LLM Connection. Langfuse не обнаруживает автоматически все модели для пользовательских OpenAI-compatible провайдеров.
The request uses the wrong API path
The request uses the wrong API path
Используйте
https://api.cometapi.com/v1 в качестве base URL. Langfuse добавляет OpenAI-compatible путь для выбранного адаптера.Evaluator calls fail
Evaluator calls fail
Убедитесь, что выбранная модель поддерживает возможности запроса, используемые оценщиком, такие как tool calling или вывод JSON.