Opprett en chat completion

POST

chat

completions

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.cometapi.com/v1",
    api_key=os.environ["COMETAPI_KEY"],
)

completion = client.chat.completions.create(
    model="gpt-6-astra",
    messages=[
        {
            "role": "developer",
            "content": "You are a helpful assistant.",
        },
        {
            "role": "user",
            "content": "Hello!",
        },
    ],
    reasoning_effort="low",
)

print(completion.choices[0].message)

{
  "choices": [
    {
      "finish_reason": "stop",
      "index": 0,
      "logprobs": null,
      "message": {
        "annotations": [],
        "content": "Hi! How can I help you today?",
        "refusal": null,
        "role": "assistant"
      }
    }
  ],
  "created": 1788763703,
  "id": "chatcmpl_example",
  "model": "gpt-6-astra",
  "object": "chat.completion",
  "usage": {
    "completion_tokens": 12,
    "completion_tokens_details": {
      "accepted_prediction_tokens": 0,
      "audio_tokens": 0,
      "reasoning_tokens": 0,
      "rejected_prediction_tokens": 0
    },
    "prompt_tokens": 18,
    "prompt_tokens_details": {
      "audio_tokens": 0,
      "cache_write_tokens": 0,
      "cached_tokens": 0
    },
    "total_tokens": 30
  }
}

{
  "error": {
    "code": "",
    "message": "model name is required (request id: <request_id>)",
    "type": "comet_api_error"
  }
}

{
  "error": {
    "code": "",
    "message": "invalid token (request id: <request_id>)",
    "type": "comet_api_error"
  }
}

{
  "error": {
    "message": "field messages is required (request id: <request_id>)",
    "type": "comet_api_error",
    "param": "",
    "code": "invalid_request"
  }
}

Send samtaler via det OpenAI-kompatible Chat Completions API-et. Konfigurer SDK-en med base_url="https://api.cometapi.com/v1" og CometAPI API-nøkkelen din. Eksemplene for grunnleggende bruk, bilder, Streaming og strukturert utdata bruker gpt-6-astra. Function Calling-eksempelet bruker gpt-5.6-sol, og eksempelet med loggsannsynlighet bruker gpt-4.1.

Bruk OpenAI Chat Completions-referansen for parameterdefinisjoner. For GPT-6 Astra-verktøykall bruker du Responses, og følger OpenAIs modellveiledning.

Meldingsroller

Rolle	Beskrivelse
`system`	Angir assistentens atferd og personlighet. Plasseres i starten av samtalen.
`developer`	Inneholder applikasjonsinstruksjoner. Eksemplene for GPT-6 Astra bruker denne rollen.
`user`	Meldinger fra sluttbrukeren.
`assistant`	Tidligere modellsvar, brukt for å opprettholde samtalehistorikken.
`tool`	Resultater fra verktøy-/funksjonskall. Må inneholde `tool_call_id` som samsvarer med det opprinnelige verktøykallet.

Plasser applikasjonsinstruksjoner i en developer-melding før brukermeldinger når du bruker eksemplene for GPT-6 Astra.

Send Multimodal-inndata

Bruk en matrise med innholdsdeler for å sende et bilde med tekst:

{
  "model": "gpt-6-astra",
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "type": "text",
          "text": "Describe the road and surrounding landscape in this image."
        },
        {
          "type": "image_url",
          "image_url": {
            "url": "https://images.unsplash.com/photo-1500530855697-b586d89ba3ee?w=1200",
            "detail": "high"
          }
        }
      ]
    }
  ],
  "reasoning_effort": "low",
  "max_completion_tokens": 4096
}

Bruk image_url.detail for å velge detaljnivå for bildebehandling. Dette eksempelet bruker high.

Strøm responser

For å motta trinnvis utdata setter du stream til true. Responsen leveres som Server-Sent Events (SSE). Teksten kommer i chat.completion.chunk-objekter; dette forkortede eksemplet inkluderer den endelige bruksblokken:

data: {"choices":[{"delta":{"content":"","refusal":null,"role":"assistant"},"finish_reason":null,"index":0,"logprobs":null}],"created":1788765075,"id":"chatcmpl_example","model":"gpt-6-astra-2026-09-03","object":"chat.completion.chunk"}

data: {"choices":[{"delta":{"content":"Hi"},"finish_reason":null,"index":0,"logprobs":null}],"created":1788765075,"id":"chatcmpl_example","model":"gpt-6-astra-2026-09-03","object":"chat.completion.chunk"}

: Additional text deltas omitted

data: {"choices":[{"delta":{},"finish_reason":"stop","index":0,"logprobs":null}],"created":1788765075,"id":"chatcmpl_example","model":"gpt-6-astra-2026-09-03","object":"chat.completion.chunk"}

data: {"choices":[],"created":1788765075,"id":"chatcmpl_example","model":"gpt-6-astra-2026-09-03","object":"chat.completion.chunk","usage":{"completion_tokens":12,"completion_tokens_details":{"accepted_prediction_tokens":0,"audio_tokens":0,"reasoning_tokens":0,"rejected_prediction_tokens":0},"prompt_tokens":18,"prompt_tokens_details":{"audio_tokens":0,"cache_write_tokens":0,"cached_tokens":0},"total_tokens":30}}

data: [DONE]

For å inkludere token-bruksstatistikk i strømmende responser setter du stream_options.include_usage til true. Bruksdataene vises i en siste del før [DONE]. Deler kan ha en tom choices-matrise; kontroller den før du åpner choices[0].

Be om strukturert utdata

Bruk response_format for å be om strukturert utdata:

{
  "model": "gpt-6-astra",
  "messages": [
    {
      "role": "user",
      "content": "What is the capital of France? Return the answer and your confidence as a number from 0 to 1."
    }
  ],
  "reasoning_effort": "low",
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "result",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "answer": {
            "type": "string",
            "description": "The answer to the question."
          },
          "confidence": {
            "type": "number",
            "description": "Confidence between zero and one."
          }
        },
        "required": [
          "answer",
          "confidence"
        ],
        "additionalProperties": false
      }
    }
  }
}

{
  "model": "gpt-6-astra",
  "messages": [
    {
      "role": "user",
      "content": "Return a JSON object with the key answer and the capital of France as its value."
    }
  ],
  "reasoning_effort": "low",
  "response_format": {
    "type": "json_object"
  }
}

JSON Schema-modus angir den nødvendige strukturen. JSON Object-modus ber om gyldig JSON uten å håndheve skjemaet ditt. Se etter et avslag eller en lengdebegrenset respons før du bruker resultatet.

Kall verktøy og funksjoner

Bruk gpt-5.6-sol med en funksjonsdefinisjon:

{
  "model": "gpt-5.6-sol",
  "messages": [
    {
      "role": "user",
      "content": "What is the weather in Boston, MA, in celsius? Use the weather tool."
    }
  ],
  "reasoning_effort": "none",
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "get_current_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
          "type": "object",
          "properties": {
            "location": {
              "type": "string",
              "description": "City and state, for example Boston, MA."
            },
            "unit": {
              "type": "string",
              "enum": [
                "celsius",
                "fahrenheit"
              ],
              "description": "Temperature unit."
            }
          },
          "required": [
            "location",
            "unit"
          ],
          "additionalProperties": false
        },
        "strict": true
      }
    }
  ],
  "tool_choice": "auto"
}

Et funksjonskall returnerer finish_reason: "tool_calls" og en message.tool_calls-array. Analyser funksjonens JSON-kodede arguments, kjør funksjonen, og legg deretter til assistentmeldingen og en resultatmelding av typen tool med tilhørende tool_call_id.

Velg forespørselsparametere

Modellspesifikke parametere

Bruk reasoning_effort og max_completion_tokens med GPT-6 Astra. Eksemplene for Functions og Logprobs viser forespørselsalternativene for henholdsvis gpt-5.6-sol og gpt-4.1.For Claude- eller Gemini-spesifikke forespørselsformater, se Anthropic Messages og Gemini Generate content.

max_tokens og max_completion_tokens

Bruk max_completion_tokens for å begrense genererte Tokens for eksemplene med GPT-6 Astra. Dette inkluderer resonnering og synlig utdata, så sørg for plass til begge deler. max_tokens er en eldre parameter.

Instruksjonsroller

Bruk developer for applikasjonsinstruksjoner i eksemplene med GPT-6 Astra. Behold sluttbrukerinnhold i user-meldinger, og ta vare på tidligere assistentsvar når du fortsetter en samtale.

Vanlige spørsmål

Hvordan håndterer du hastighetsgrenser?

Når du støter på 429 Too Many Requests, implementerer du eksponentiell tilbakegang:

import os
import time
import random
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.cometapi.com/v1",
    api_key=os.environ["COMETAPI_KEY"],
)

def chat_with_retry(messages, max_retries=3):
    for i in range(max_retries):
        try:
            return client.chat.completions.create(
                model="gpt-6-astra",
                messages=messages,
                reasoning_effort="low",
            )
        except RateLimitError:
            if i < max_retries - 1:
                wait_time = (2 ** i) + random.random()
                time.sleep(wait_time)
            else:
                raise

Hvordan opprettholder du samtalekontekst?

Inkluder hele samtalehistorikken i messages-arrayet:

messages = [
    {"role": "developer", "content": "You are a helpful assistant."},
    {"role": "user", "content": "What is Python?"},
    {"role": "assistant", "content": "Python is a high-level programming language..."},
    {"role": "user", "content": "What are its main advantages?"},
]

Hva betyr `finish_reason` ?

Verdi	Betydning
`stop`	Naturlig avslutning eller traff en stoppsekvens.
`length`	Nådde grensen for `max_tokens` eller `max_completion_tokens`.
`tool_calls`	Modellen utførte ett eller flere verktøy-/funksjonskall.
`content_filter`	Utdata ble filtrert på grunn av innholdspolicyen.

Hvordan kontrollerer du kostnader?

Bruk max_completion_tokens for å begrense utdatalengden.
Sammenlign modellpriser og velg en modell som oppfyller kravene til arbeidsbelastningen din.
Hold prompts konsise — unngå overflødig kontekst.
Overvåk Token-bruken i პასუხsfeltet usage.

Autorisasjoner

Authorization

string

header

påkrevd

Bearer token authentication. Use your CometAPI key.

Kropp

application/json

model

string

standard:gpt-6-astra

påkrevd

Model ID to use for this request. See the Models page for current options.

Eksempel:

"gpt-6-astra"

messages

object[]

påkrevd

Conversation messages, including instructions, user input, assistant replies, and tool results.

Show child attributes

stream

boolean

If true, partial response tokens are delivered incrementally via server-sent events (SSE). The stream ends with a data: [DONE] message.

temperature

number

Sampling temperature. Omit this field for GPT-6 Astra.

Nødvendig område: 0 <= x <= 2

top_p

number

Nucleus sampling threshold. Omit this field for GPT-6 Astra. For sampling overrides, adjust either top_p or temperature.

Nødvendig område: 0 <= x <= 1

integer

Number of completion choices to generate for each input message. Defaults to 1.

stop

Stop string or list of up to four strings, for models that support stop sequences.

max_tokens

integer

utdatert

Legacy output-token limit. Use max_completion_tokens for the GPT-6 Astra examples.

presence_penalty

number

Number between -2.0 and 2.0. Positive values penalize tokens based on whether they have already appeared, encouraging the model to explore new topics.

Nødvendig område: -2 <= x <= 2

frequency_penalty

number

Number between -2.0 and 2.0. Positive values penalize tokens proportionally to how often they have appeared, reducing verbatim repetition.

Nødvendig område: -2 <= x <= 2

logit_bias

object

A JSON object mapping token IDs to bias values from -100 to 100. The bias is added to the model's logits before sampling. Values between -1 and 1 subtly adjust likelihood; -100 or 100 effectively ban or force selection of a token.

user

string

A unique identifier for your end-user. Helps with abuse detection and monitoring.

max_completion_tokens

integer

Maximum generated tokens, including visible output and reasoning. Leave enough room for both, as in the image-input example.

response_format

object

Specifies the output format. Use {"type": "json_object"} for JSON mode, or {"type": "json_schema", "json_schema": {...}} for strict structured output.

Show child attributes

tools

object[]

Function definitions for a model that supports tool calling on Chat Completions. The function example uses GPT-5.6 Sol; use Responses for GPT-6 Astra tool calls.

Show child attributes

tool_choice

Controls how the model selects tools. auto (default): model decides. none: no tools. required: must call a tool.

logprobs

boolean

Return token log probabilities. Use gpt-4.1 as shown in the Logprobs example.

top_logprobs

integer

Number of most likely tokens to return at each position (0-20). Requires logprobs to be true.

Nødvendig område: 0 <= x <= 20

reasoning_effort

string

Reasoning effort supported by the selected model. The GPT-6 Astra examples use low; the GPT-5.6 Sol function example uses none. See the model reference for other supported levels.

stream_options

object

Options for streaming. Only valid when stream is true.

Show child attributes

service_tier

enum<string>

Specifies the processing tier.

Tilgjengelige alternativer:

auto,

default,

flex,

priority

Svar

Successful chat completion response.

string

Unique completion identifier.

Eksempel:

"chatcmpl_example"

object

enum<string>

Object type. Non-streaming responses use chat.completion.

Tilgjengelige alternativer:

chat.completion

Eksempel:

"chat.completion"

created

integer

Unix timestamp of creation.

Eksempel:

1788763703

model

string

The model used (may include version suffix).

Eksempel:

"gpt-6-astra"

choices

object[]

Array of completion choices.

Show child attributes

usage

object

Token accounting for this request. Billing uses these counts.

Show child attributes

service_tier

string

Service tier that processed the request, when returned.

system_fingerprint

string | null

Model configuration fingerprint, when returned.

Sist endret 8. september 2026

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.cometapi.com/v1",
    api_key=os.environ["COMETAPI_KEY"],
)

completion = client.chat.completions.create(
    model="gpt-6-astra",
    messages=[
        {
            "role": "developer",
            "content": "You are a helpful assistant.",
        },
        {
            "role": "user",
            "content": "Hello!",
        },
    ],
    reasoning_effort="low",
)

print(completion.choices[0].message)

{
  "choices": [
    {
      "finish_reason": "stop",
      "index": 0,
      "logprobs": null,
      "message": {
        "annotations": [],
        "content": "Hi! How can I help you today?",
        "refusal": null,
        "role": "assistant"
      }
    }
  ],
  "created": 1788763703,
  "id": "chatcmpl_example",
  "model": "gpt-6-astra",
  "object": "chat.completion",
  "usage": {
    "completion_tokens": 12,
    "completion_tokens_details": {
      "accepted_prediction_tokens": 0,
      "audio_tokens": 0,
      "reasoning_tokens": 0,
      "rejected_prediction_tokens": 0
    },
    "prompt_tokens": 18,
    "prompt_tokens_details": {
      "audio_tokens": 0,
      "cache_write_tokens": 0,
      "cached_tokens": 0
    },
    "total_tokens": 30
  }
}

{
  "error": {
    "code": "",
    "message": "model name is required (request id: <request_id>)",
    "type": "comet_api_error"
  }
}

{
  "error": {
    "code": "",
    "message": "invalid token (request id: <request_id>)",
    "type": "comet_api_error"
  }
}

{
  "error": {
    "message": "field messages is required (request id: <request_id>)",
    "type": "comet_api_error",
    "param": "",
    "code": "invalid_request"
  }
}

Innholdsmoderering

API-nøkler

Meldingsroller

Send Multimodal-inndata

Strøm responser

Be om strukturert utdata

Kall verktøy og funksjoner

Velg forespørselsparametere

Vanlige spørsmål

Hvordan håndterer du hastighetsgrenser?

Hvordan opprettholder du samtalekontekst?

Hva betyr `finish_reason` ?

Hvordan kontrollerer du kostnader?

Autorisasjoner

Kropp

Svar

​Meldingsroller

​Send Multimodal-inndata

​Strøm responser

​Be om strukturert utdata

​Kall verktøy og funksjoner

​Velg forespørselsparametere

​Vanlige spørsmål

​Hvordan håndterer du hastighetsgrenser?

​Hvordan opprettholder du samtalekontekst?

​Hva betyr finish_reason ?

​Hvordan kontrollerer du kostnader?

Autorisasjoner

Kropp

Svar

Meldingsroller

Send Multimodal-inndata

Strøm responser

Be om strukturert utdata

Kall verktøy og funksjoner

Velg forespørselsparametere

Vanlige spørsmål

Hvordan håndterer du hastighetsgrenser?

Hvordan opprettholder du samtalekontekst?

Hva betyr `finish_reason` ?

Hvordan kontrollerer du kostnader?