Een chat completion maken

POST

chat

completions

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.cometapi.com/v1",
    api_key=os.environ["COMETAPI_KEY"],
)

completion = client.chat.completions.create(
    model="gpt-6-astra",
    messages=[
        {
            "role": "developer",
            "content": "You are a helpful assistant.",
        },
        {
            "role": "user",
            "content": "Hello!",
        },
    ],
    reasoning_effort="low",
)

print(completion.choices[0].message)

{
  "choices": [
    {
      "finish_reason": "stop",
      "index": 0,
      "logprobs": null,
      "message": {
        "annotations": [],
        "content": "Hi! How can I help you today?",
        "refusal": null,
        "role": "assistant"
      }
    }
  ],
  "created": 1788763703,
  "id": "chatcmpl_example",
  "model": "gpt-6-astra",
  "object": "chat.completion",
  "usage": {
    "completion_tokens": 12,
    "completion_tokens_details": {
      "accepted_prediction_tokens": 0,
      "audio_tokens": 0,
      "reasoning_tokens": 0,
      "rejected_prediction_tokens": 0
    },
    "prompt_tokens": 18,
    "prompt_tokens_details": {
      "audio_tokens": 0,
      "cache_write_tokens": 0,
      "cached_tokens": 0
    },
    "total_tokens": 30
  }
}

{
  "error": {
    "code": "",
    "message": "model name is required (request id: <request_id>)",
    "type": "comet_api_error"
  }
}

{
  "error": {
    "code": "",
    "message": "invalid token (request id: <request_id>)",
    "type": "comet_api_error"
  }
}

{
  "error": {
    "message": "field messages is required (request id: <request_id>)",
    "type": "comet_api_error",
    "param": "",
    "code": "invalid_request"
  }
}

CometAPI routeert Chat Completions naar meerdere providers — waaronder OpenAI, Claude en Gemini — via één OpenAI-compatibele interface. Wissel tussen modellen door de parameter model te wijzigen; de meeste OpenAI-compatibele SDK’s werken door base_url in te stellen op https://api.cometapi.com/v1.

Aanvraagparameters en antwoordvelden kunnen aanzienlijk verschillen tussen modelproviders. Raadpleeg altijd de officiële documentatie van de provider achter het model dat je gebruikt wanneer je de volledige parameterlijst of providerspecifiek gedrag nodig hebt. Zo geldt reasoning_effort alleen voor reasoning-modellen (o-series, GPT-5.1+) en ondersteunen sommige modellen logprobs of n > 1 niet.

Gebruik voor OpenAI Pro-modellen, reasoning-modellen van o-series en Codex-modellen in plaats daarvan het Responses -endpoint. Deze modelfamilies hebben uitgebreidere ondersteuning in de Responses API.

Berichtrollen

Rol	Beschrijving
`system`	Bepaalt het gedrag en de persoonlijkheid van de assistant. Wordt aan het begin van het gesprek geplaatst.
`developer`	Vervangt `system` voor nieuwere modellen (o1+). Geeft instructies die het model moet volgen, ongeacht gebruikersinvoer.
`user`	Berichten van de eindgebruiker.
`assistant`	Eerdere modelantwoorden, gebruikt om de gesprekshistorie te behouden.
`tool`	Resultaten van tool/function-aanroepen. Moet `tool_call_id` bevatten dat overeenkomt met de oorspronkelijke tool-aanroep.

Gebruik voor nieuwere modellen (GPT-4.1, GPT-5-serie, o-series) bij voorkeur developer in plaats van system voor instructieberichten. Beide werken, maar developer biedt sterkere opvolging van instructies.

Multimodale invoer verzenden

Veel modellen ondersteunen afbeeldingen en audio naast tekst. Gebruik de arrayindeling voor content om multimodale berichten te verzenden:

{
  "role": "user",
  "content": [
    {"type": "text", "text": "Describe this image"},
    {
      "type": "image_url",
      "image_url": {
        "url": "https://example.com/image.png",
        "detail": "high"
      }
    }
  ]
}

De parameter detail bepaalt de diepgang van afbeeldingsanalyse:

low — sneller, gebruikt minder tokens (vaste kosten)
high — gedetailleerde analyse, meer tokens verbruikt
auto — het model beslist (standaard)

Antwoorden streamen

Stel stream in op true om incrementele uitvoer te ontvangen. Het antwoord wordt geleverd als Server-Sent Events (SSE), waarbij elk event een object chat.completion.chunk bevat:

data: {"id":"chatcmpl-xxx","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"role":"assistant"},"finish_reason":null}]}

data: {"id":"chatcmpl-xxx","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"content":"Hello"},"finish_reason":null}]}

data: {"id":"chatcmpl-xxx","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"content":"!"},"finish_reason":null}]}

data: {"id":"chatcmpl-xxx","object":"chat.completion.chunk","choices":[{"index":0,"delta":{},"finish_reason":"stop"}]}

data: [DONE]

Stel stream_options.include_usage in op true om statistieken over tokengebruik in streaming-antwoorden op te nemen. De gebruiksgegevens verschijnen in het laatste chunk vóór [DONE].

Gestructureerde uitvoer aanvragen

Gebruik response_format om het model te dwingen geldige JSON terug te geven die overeenkomt met een specifiek schema:

{
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "result",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "answer": {"type": "string"},
          "confidence": {"type": "number"}
        },
        "required": ["answer", "confidence"],
        "additionalProperties": false
      }
    }
  }
}

{
  "response_format": {"type": "json_object"}
}

De JSON Schema-modus (json_schema) garandeert dat de uitvoer exact overeenkomt met je schema. De JSON Object-modus (json_object) garandeert alleen geldige JSON — de structuur wordt niet afgedwongen.

Tools en functies aanroepen

Geef tooldefinities op om het model externe functies te laten aanroepen:

{
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get current weather for a city",
        "parameters": {
          "type": "object",
          "properties": {
            "location": {"type": "string", "description": "City name"}
          },
          "required": ["location"]
        }
      }
    }
  ],
  "tool_choice": "auto"
}

Wanneer het model besluit een tool aan te roepen, bevat het antwoord finish_reason: "tool_calls" en bevat de array message.tool_calls de functienaam en argumenten. Vervolgens voer je de functie uit en stuur je het resultaat terug als een bericht tool met de overeenkomende tool_call_id.

Opmerkingen over providers

Parameterondersteuning bij providers

Parameter	OpenAI GPT	Claude (via compat)	Gemini (via compat)
`temperature`	0–2	0–1	0–2
`top_p`	0–1	0–1	0–1
`n`	1–128	alleen 1	1–8
`stop`	Maximaal 4	Maximaal 4	Maximaal 5
`tools`	✅	✅	✅
`response_format`	✅	✅ (json_schema)	✅
`logprobs`	✅	❌	❌
`reasoning_effort`	o-series, GPT-5.1+	❌	❌ (gebruik `thinking` voor native Gemini)

max_tokens versus max_completion_tokens

max_tokens — De verouderde parameter. Werkt met de meeste modellen, maar is verouderd voor nieuwere OpenAI-modellen.
max_completion_tokens — De aanbevolen parameter voor modellen van GPT-4.1, de GPT-5-serie en o-series. Vereist voor reasoning-modellen, omdat deze zowel uitvoertokens als reasoning-tokens omvat.

CometAPI verwerkt de toewijzing automatisch bij routering naar verschillende providers.

system versus developer-rol

system — De traditionele instructierol. Werkt met alle modellen.
developer — Geïntroduceerd met modellen van o1. Biedt sterkere opvolging van instructies voor nieuwere modellen. Valt bij oudere modellen terug op het gedrag van system.

Gebruik developer voor nieuwe projecten die gericht zijn op modellen van GPT-4.1+ of o-series.

Veelgestelde vragen

Hoe ga je om met rate limits?

Implementeer exponential backoff wanneer je 429 Too Many Requests tegenkomt:

import os
import time
import random
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.cometapi.com/v1",
    api_key=os.environ["COMETAPI_KEY"],
)

def chat_with_retry(messages, max_retries=3):
    for i in range(max_retries):
        try:
            return client.chat.completions.create(
                model="gpt-5.6-sol",
                messages=messages,
            )
        except RateLimitError:
            if i < max_retries - 1:
                wait_time = (2 ** i) + random.random()
                time.sleep(wait_time)
            else:
                raise

Hoe behoud je gesprekscontext?

Neem de volledige gesprekshistorie op in de array messages:

messages = [
    {"role": "developer", "content": "You are a helpful assistant."},
    {"role": "user", "content": "What is Python?"},
    {"role": "assistant", "content": "Python is a high-level programming language..."},
    {"role": "user", "content": "What are its main advantages?"},
]

Wat betekent `finish_reason`?

Waarde	Betekenis
`stop`	Natuurlijke voltooiing of een stopsequentie bereikt.
`length`	Limiet voor `max_tokens` of `max_completion_tokens` bereikt.
`tool_calls`	Het model heeft een of meer tool/function-aanroepen uitgevoerd.
`content_filter`	De uitvoer is gefilterd vanwege het contentbeleid.

Hoe beheers je kosten?

Gebruik max_completion_tokens om de uitvoerlengte te beperken.
Gebruik gpt-5.6-terra voor een balans tussen intelligentie en kosten, of gpt-5.6-luna voor efficiënte workloads met hoge volumes.
Houd Prompts beknopt — vermijd overbodige context.
Controleer het tokengebruik in het antwoordveld usage.

Autorisaties

Authorization

string

header

vereist

Bearer token authentication. Use your CometAPI key.

Body

application/json

model

string

standaard:gpt-6-astra

vereist

Model ID to use for this request. See the Models page for current options.

Voorbeeld:

"gpt-6-astra"

messages

object[]

vereist

Conversation messages, including instructions, user input, assistant replies, and tool results.

Show child attributes

stream

boolean

If true, partial response tokens are delivered incrementally via server-sent events (SSE). The stream ends with a data: [DONE] message.

temperature

number

Sampling temperature. Omit this field for GPT-6 Astra.

Vereist bereik: 0 <= x <= 2

top_p

number

Nucleus sampling threshold. Omit this field for GPT-6 Astra. For sampling overrides, adjust either top_p or temperature.

Vereist bereik: 0 <= x <= 1

integer

Number of completion choices to generate for each input message. Defaults to 1.

stop

Stop string or list of up to four strings, for models that support stop sequences.

max_tokens

integer

verouderd

Legacy output-token limit. Use max_completion_tokens for the GPT-6 Astra examples.

presence_penalty

number

Number between -2.0 and 2.0. Positive values penalize tokens based on whether they have already appeared, encouraging the model to explore new topics.

Vereist bereik: -2 <= x <= 2

frequency_penalty

number

Number between -2.0 and 2.0. Positive values penalize tokens proportionally to how often they have appeared, reducing verbatim repetition.

Vereist bereik: -2 <= x <= 2

logit_bias

object

A JSON object mapping token IDs to bias values from -100 to 100. The bias is added to the model's logits before sampling. Values between -1 and 1 subtly adjust likelihood; -100 or 100 effectively ban or force selection of a token.

user

string

A unique identifier for your end-user. Helps with abuse detection and monitoring.

max_completion_tokens

integer

Maximum generated tokens, including visible output and reasoning. Leave enough room for both, as in the image-input example.

response_format

object

Specifies the output format. Use {"type": "json_object"} for JSON mode, or {"type": "json_schema", "json_schema": {...}} for strict structured output.

Show child attributes

tools

object[]

Function definitions for a model that supports tool calling on Chat Completions. The function example uses GPT-5.6 Sol; use Responses for GPT-6 Astra tool calls.

Show child attributes

tool_choice

Controls how the model selects tools. auto (default): model decides. none: no tools. required: must call a tool.

logprobs

boolean

Return token log probabilities. Use gpt-4.1 as shown in the Logprobs example.

top_logprobs

integer

Number of most likely tokens to return at each position (0-20). Requires logprobs to be true.

Vereist bereik: 0 <= x <= 20

reasoning_effort

string

Reasoning effort supported by the selected model. The GPT-6 Astra examples use low; the GPT-5.6 Sol function example uses none. See the model reference for other supported levels.

stream_options

object

Options for streaming. Only valid when stream is true.

Show child attributes

service_tier

enum<string>

Specifies the processing tier.

Beschikbare opties:

auto,

default,

flex,

priority

Respons

Successful chat completion response.

string

Unique completion identifier.

Voorbeeld:

"chatcmpl_example"

object

enum<string>

Object type. Non-streaming responses use chat.completion.

Beschikbare opties:

chat.completion

Voorbeeld:

"chat.completion"

created

integer

Unix timestamp of creation.

Voorbeeld:

1788763703

model

string

The model used (may include version suffix).

Voorbeeld:

"gpt-6-astra"

choices

object[]

Array of completion choices.

Show child attributes

usage

object

Token accounting for this request. Billing uses these counts.

Show child attributes

service_tier

string

Service tier that processed the request, when returned.

system_fingerprint

string | null

Model configuration fingerprint, when returned.

Laatst gewijzigd op 10 juli 2026

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.cometapi.com/v1",
    api_key=os.environ["COMETAPI_KEY"],
)

completion = client.chat.completions.create(
    model="gpt-6-astra",
    messages=[
        {
            "role": "developer",
            "content": "You are a helpful assistant.",
        },
        {
            "role": "user",
            "content": "Hello!",
        },
    ],
    reasoning_effort="low",
)

print(completion.choices[0].message)

{
  "choices": [
    {
      "finish_reason": "stop",
      "index": 0,
      "logprobs": null,
      "message": {
        "annotations": [],
        "content": "Hi! How can I help you today?",
        "refusal": null,
        "role": "assistant"
      }
    }
  ],
  "created": 1788763703,
  "id": "chatcmpl_example",
  "model": "gpt-6-astra",
  "object": "chat.completion",
  "usage": {
    "completion_tokens": 12,
    "completion_tokens_details": {
      "accepted_prediction_tokens": 0,
      "audio_tokens": 0,
      "reasoning_tokens": 0,
      "rejected_prediction_tokens": 0
    },
    "prompt_tokens": 18,
    "prompt_tokens_details": {
      "audio_tokens": 0,
      "cache_write_tokens": 0,
      "cached_tokens": 0
    },
    "total_tokens": 30
  }
}

{
  "error": {
    "code": "",
    "message": "model name is required (request id: <request_id>)",
    "type": "comet_api_error"
  }
}

{
  "error": {
    "code": "",
    "message": "invalid token (request id: <request_id>)",
    "type": "comet_api_error"
  }
}

{
  "error": {
    "message": "field messages is required (request id: <request_id>)",
    "type": "comet_api_error",
    "param": "",
    "code": "invalid_request"
  }
}

Contentmoderatie

API-sleutels

Berichtrollen

Multimodale invoer verzenden

Antwoorden streamen

Gestructureerde uitvoer aanvragen

Tools en functies aanroepen

Opmerkingen over providers

Veelgestelde vragen

Hoe ga je om met rate limits?

Hoe behoud je gesprekscontext?

Wat betekent `finish_reason`?

Hoe beheers je kosten?

Autorisaties

Body

Respons

​Berichtrollen

​Multimodale invoer verzenden

​Antwoorden streamen

​Gestructureerde uitvoer aanvragen

​Tools en functies aanroepen

​Opmerkingen over providers

​Veelgestelde vragen

​Hoe ga je om met rate limits?

​Hoe behoud je gesprekscontext?

​Wat betekent finish_reason?

​Hoe beheers je kosten?

Autorisaties

Body

Respons

Berichtrollen

Multimodale invoer verzenden

Antwoorden streamen

Gestructureerde uitvoer aanvragen

Tools en functies aanroepen

Opmerkingen over providers

Veelgestelde vragen

Hoe ga je om met rate limits?

Hoe behoud je gesprekscontext?

Wat betekent `finish_reason`?

Hoe beheers je kosten?