Langfuse fornece observabilidade de LLM, gerenciamento de prompt, playgrounds e fluxos de trabalho de avaliação. Configure uma LLM Connection do Langfuse com o CometAPI quando quiser que o Langfuse Playground ou as avaliações LLM-as-a-Judge façam chamadas para modelos do CometAPI.Documentation Index
Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
Use this file to discover all available pages before exploring further.
Pré-requisitos
- Um projeto Langfuse Cloud ou uma instância self-hosted do Langfuse
- Uma conta CometAPI com uma chave de API ativa — obtenha a sua no dashboard
- Pelo menos um model ID do CometAPI selecionado na página de modelos do CometAPI
Configure a integração
Create a Langfuse LLM connection
No Langfuse, abra Project Settings → LLM Connections. Inicie o fluxo para adicionar uma chave de API de LLM.
Choose the OpenAI adapter
Selecione OpenAI como provedor. O Langfuse usa esse adaptador para provedores de modelo que oferecem suporte ao schema da API da OpenAI.
Enter CometAPI credentials
Configure a conexão com estes valores:
Se o Langfuse exibir o campo de base URL em Advanced Settings, expanda essa seção antes de salvar a conexão.
| Field | Value |
|---|---|
| Chave de API | Sua chave de API do CometAPI |
| Base URL | https://api.cometapi.com/v1 |
| Custom model IDs | Um ou mais model IDs da página de modelos do CometAPI |
Use o CometAPI para LLM-as-a-Judge
Os avaliadores LLM-as-a-Judge do Langfuse podem usar a mesma LLM Connection. Selecione a conexão do CometAPI na configuração do avaliador e, em seguida, escolha um model ID que ofereça suporte a tool calling se o seu prompt de pontuação exigir extração estruturada. Use opções do provedor apenas quando o modelo CometAPI selecionado oferecer suporte a esses campos de solicitação. Para descoberta de modelos, use a página de modelos do CometAPI ou a API/v1/models.
Solução de problemas
The model is not visible in Langfuse
The model is not visible in Langfuse
Adicione o model ID exato do CometAPI à lista de custom model IDs na LLM Connection. O Langfuse não descobre automaticamente todos os modelos para provedores personalizados compatíveis com OpenAI.
The request uses the wrong API path
The request uses the wrong API path
Use
https://api.cometapi.com/v1 como base URL. O Langfuse acrescenta o caminho compatível com OpenAI para o adaptador selecionado.Evaluator calls fail
Evaluator calls fail
Confirme que o modelo selecionado oferece suporte aos recursos de solicitação usados pelo avaliador, como tool calling ou saída em JSON.