Criar uma conclusão de chat
Use o CometAPI POST /v1/chat/completions para enviar conversas com várias mensagens a modelos de chat com Streaming, saída estruturada e chamadas de ferramentas.
base_url="https://api.cometapi.com/v1" e sua chave de API do CometAPI.
Os exemplos básicos, de imagem, Streaming e saída estruturada usam gpt-6-astra. O exemplo de chamadas de função usa gpt-5.6-sol, e o exemplo de probabilidade de log usa gpt-4.1.
Funções das mensagens
Enviar entrada Multimodal
Use uma matriz de partes de conteúdo para enviar uma imagem com texto:image_url.detail para selecionar o nível de detalhe do processamento de imagem. Este exemplo usa high.
Transmitir respostas em Streaming
Para receber saída incremental, definastream como true. A resposta é entregue como Server-Sent Events (SSE)). O texto chega em objetos chat.completion.chunk; este exemplo abreviado inclui o bloco de uso final:
Solicitar saída estruturada
Useresponse_format para solicitar saída estruturada:
Chamar ferramentas e funções
Usegpt-5.6-sol com uma definição de função:
finish_reason: "tool_calls" e uma matriz message.tool_calls. Analise os arguments codificados em JSON da função, execute sua função e, em seguida, acrescente a mensagem do assistente e uma mensagem de resultado tool com seu tool_call_id correspondente.
Escolha os parâmetros da solicitação
Parâmetros específicos do modelo
Parâmetros específicos do modelo
reasoning_effort e max_completion_tokens com o Astra GPT-6. Os exemplos de Functions e Logprobs mostram as opções de solicitação para gpt-5.6-sol e gpt-4.1, respectivamente.Para formatos de solicitação específicos de Claude ou Gemini, consulte Anthropic Messages e Gemini Generate content.max_tokens e max_completion_tokens
max_tokens e max_completion_tokens
max_completion_tokens para limitar os tokens gerados nos exemplos do Astra GPT-6. Isso inclui o raciocínio e a saída visível, portanto, reserve espaço para ambos. max_tokens é um parâmetro legado.Funções de instrução
Funções de instrução
developer para instruções do aplicativo nos exemplos do Astra GPT-6. Mantenha o conteúdo do usuário final em mensagens user e preserve as respostas anteriores do assistente ao continuar uma conversa.Perguntas frequentes
Como lidar com limites de taxa?
Ao encontrar429 Too Many Requests, implemente recuo exponencial:
Como manter o contexto da conversa?
Inclua o histórico completo da conversa no arraymessages:
O que finish_reason significa?
Como controlar custos?
- Use
max_completion_tokenspara limitar o comprimento da saída. - Compare os preços dos modelos e escolha um modelo que atenda aos requisitos da sua carga de trabalho.
- Mantenha os Prompts concisos — evite contexto redundante.
- Monitore o uso de Tokens no campo de resposta
usage.
Autorizações
Bearer token authentication. Use your CometAPI key.
Corpo
Model ID to use for this request. See the Models page for current options.
"gpt-6-astra"
Conversation messages, including instructions, user input, assistant replies, and tool results.
If true, partial response tokens are delivered incrementally via server-sent events (SSE). The stream ends with a data: [DONE] message.
Sampling temperature. Omit this field for GPT-6 Astra.
0 <= x <= 2Nucleus sampling threshold. Omit this field for GPT-6 Astra. For sampling overrides, adjust either top_p or temperature.
0 <= x <= 1Number of completion choices to generate for each input message. Defaults to 1.
Stop string or list of up to four strings, for models that support stop sequences.
Legacy output-token limit. Use max_completion_tokens for the GPT-6 Astra examples.
Number between -2.0 and 2.0. Positive values penalize tokens based on whether they have already appeared, encouraging the model to explore new topics.
-2 <= x <= 2Number between -2.0 and 2.0. Positive values penalize tokens proportionally to how often they have appeared, reducing verbatim repetition.
-2 <= x <= 2A JSON object mapping token IDs to bias values from -100 to 100. The bias is added to the model's logits before sampling. Values between -1 and 1 subtly adjust likelihood; -100 or 100 effectively ban or force selection of a token.
A unique identifier for your end-user. Helps with abuse detection and monitoring.
Maximum generated tokens, including visible output and reasoning. Leave enough room for both, as in the image-input example.
Specifies the output format. Use {"type": "json_object"} for JSON mode, or {"type": "json_schema", "json_schema": {...}} for strict structured output.
Function definitions for a model that supports tool calling on Chat Completions. The function example uses GPT-5.6 Sol; use Responses for GPT-6 Astra tool calls.
Controls how the model selects tools. auto (default): model decides. none: no tools. required: must call a tool.
Return token log probabilities. Use gpt-4.1 as shown in the Logprobs example.
Number of most likely tokens to return at each position (0-20). Requires logprobs to be true.
0 <= x <= 20Reasoning effort supported by the selected model. The GPT-6 Astra examples use low; the GPT-5.6 Sol function example uses none. See the model reference for other supported levels.
Options for streaming. Only valid when stream is true.
Specifies the processing tier.
auto, default, flex, priority Resposta
Successful chat completion response.
Unique completion identifier.
"chatcmpl_example"
Object type. Non-streaming responses use chat.completion.
chat.completion "chat.completion"
Unix timestamp of creation.
1788763703
The model used (may include version suffix).
"gpt-6-astra"
Array of completion choices.
Token accounting for this request. Billing uses these counts.
Service tier that processed the request, when returned.
Model configuration fingerprint, when returned.