Eine Chat Completion erstellen

POST

chat

completions

import os
from openai import OpenAI
client = OpenAI(
    base_url="https://api.cometapi.com/v1",
    api_key=os.environ["COMETAPI_KEY"],
)

completion = client.chat.completions.create(
    model="gpt-5.6-sol",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Hello!"},
    ],
)

print(completion.choices[0].message)

{
  "id": "chatcmpl-DNA27oKtBUL8TmbGpBM3B3zhWgYfZ",
  "object": "chat.completion",
  "created": 1774412483,
  "model": "gpt-4.1-nano-2025-04-14",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "Four",
        "refusal": null,
        "annotations": []
      },
      "logprobs": null,
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 29,
    "completion_tokens": 2,
    "total_tokens": 31,
    "prompt_tokens_details": {
      "cached_tokens": 0,
      "audio_tokens": 0
    },
    "completion_tokens_details": {
      "reasoning_tokens": 0,
      "audio_tokens": 0,
      "accepted_prediction_tokens": 0,
      "rejected_prediction_tokens": 0
    }
  },
  "service_tier": "default",
  "system_fingerprint": "fp_490a4ad033"
}

{
  "error": {
    "code": "",
    "message": "model name is required (request id: <request_id>)",
    "type": "comet_api_error"
  }
}

{
  "error": {
    "code": "",
    "message": "invalid token (request id: <request_id>)",
    "type": "comet_api_error"
  }
}

{
  "error": {
    "message": "field messages is required (request id: <request_id>)",
    "type": "comet_api_error",
    "param": "",
    "code": "invalid_request"
  }
}

CometAPI leitet Chat Completions über eine einzige OpenAI-kompatible Schnittstelle an mehrere Anbieter weiter, darunter OpenAI, Claude und Gemini. Wechseln Sie zwischen Modellen, indem Sie den Parameter model ändern; die meisten OpenAI-kompatiblen SDKs funktionieren, wenn base_url auf https://api.cometapi.com/v1 gesetzt wird.

Anfrageparameter und Antwortfelder können sich je nach Modellanbieter erheblich unterscheiden. Prüfen Sie die offizielle Dokumentation des Anbieters hinter dem verwendeten Modell, wenn Sie die vollständige Parameterliste oder anbieterspezifisches Verhalten benötigen. Beispielsweise gilt reasoning_effort nur für Reasoning-Modelle (o-series, GPT-5.1+), und einige Modelle unterstützen logprobs oder n > 1 nicht.

Verwenden Sie für OpenAI-Pro-Modelle, o-series Reasoning-Modelle und Codex-Modelle stattdessen den Responses Endpunkt. Diese Modellfamilien werden von der Responses API umfassender unterstützt.

Nachrichtenrollen

Rolle	Beschreibung
`system`	Legt das Verhalten und die Persönlichkeit des Assistenten fest. Wird an den Anfang der Unterhaltung gestellt.
`developer`	Ersetzt `system` für neuere Modelle (o1+). Enthält Anweisungen, denen das Modell unabhängig von der Benutzereingabe folgen soll.
`user`	Nachrichten des Endbenutzers.
`assistant`	Frühere Modellantworten, die zur Aufrechterhaltung des Unterhaltungsverlaufs verwendet werden.
`tool`	Ergebnisse von Tool-/Funktionsaufrufen. Muss `tool_call_id` enthalten, das mit dem ursprünglichen Tool-Aufruf übereinstimmt.

Bei neueren Modellen (GPT-4.1, GPT-5-Serie, o-series) sollten Sie für Anweisungsnachrichten developer gegenüber system bevorzugen. Beide funktionieren, aber developer sorgt für eine stärkere Befolgung von Anweisungen.

Multimodal-Eingaben senden

Viele Modelle unterstützen neben Text auch Bilder und Audio. Verwenden Sie zum Senden von Multimodal-Nachrichten das Array-Format für content:

{
  "role": "user",
  "content": [
    {"type": "text", "text": "Describe this image"},
    {
      "type": "image_url",
      "image_url": {
        "url": "https://example.com/image.png",
        "detail": "high"
      }
    }
  ]
}

Der Parameter detail steuert die Analysetiefe für Bilder:

low — schneller, verwendet weniger Tokens (feste Kosten)
high — detaillierte Analyse, verbraucht mehr Tokens
auto — das Modell entscheidet (Standard)

Antworten streamen

Um inkrementelle Ausgaben zu erhalten, setzen Sie stream auf true. Die Antwort wird als Server-Sent Events (SSE), wobei jedes Ereignis ein chat.completion.chunk-Objekt enthält:

data: {"id":"chatcmpl-xxx","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"role":"assistant"},"finish_reason":null}]}

data: {"id":"chatcmpl-xxx","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"content":"Hello"},"finish_reason":null}]}

data: {"id":"chatcmpl-xxx","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"content":"!"},"finish_reason":null}]}

data: {"id":"chatcmpl-xxx","object":"chat.completion.chunk","choices":[{"index":0,"delta":{},"finish_reason":"stop"}]}

data: [DONE]

Um Token-Nutzungsstatistiken in Streaming-Antworten einzuschließen, setzen Sie stream_options.include_usage auf true. Die Nutzungsdaten erscheinen im letzten Chunk vor [DONE].

Strukturierte Ausgabe anfordern

Um das Modell dazu zu zwingen, gültiges JSON zurückzugeben, das einem bestimmten Schema entspricht, verwenden Sie response_format:

{
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "result",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "answer": {"type": "string"},
          "confidence": {"type": "number"}
        },
        "required": ["answer", "confidence"],
        "additionalProperties": false
      }
    }
  }
}

{
  "response_format": {"type": "json_object"}
}

Der JSON-Schema-Modus (json_schema) garantiert, dass die Ausgabe exakt Ihrem Schema entspricht. Der JSON-Object-Modus (json_object) garantiert nur gültiges JSON – die Struktur wird nicht erzwungen.

Tools und Funktionen aufrufen

Um dem Modell den Aufruf externer Funktionen zu ermöglichen, stellen Sie Tool-Definitionen bereit:

{
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get current weather for a city",
        "parameters": {
          "type": "object",
          "properties": {
            "location": {"type": "string", "description": "City name"}
          },
          "required": ["location"]
        }
      }
    }
  ],
  "tool_choice": "auto"
}

Wenn das Modell entscheidet, ein Tool aufzurufen, enthält die Antwort finish_reason: "tool_calls", und das Array message.tool_calls enthält den Funktionsnamen und die Argumente. Führen Sie anschließend die Funktion aus und senden Sie das Ergebnis als tool-Nachricht mit dem passenden tool_call_id zurück.

Hinweise anbieterübergreifend

Parameterunterstützung bei verschiedenen Anbietern

Parameter	OpenAI GPT	Claude (über compat)	Gemini (über compat)
`temperature`	0–2	0–1	0–2
`top_p`	0–1	0–1	0–1
`n`	1–128	nur 1	1–8
`stop`	Bis zu 4	Bis zu 4	Bis zu 5
`tools`	✅	✅	✅
`response_format`	✅	✅ (json_schema)	✅
`logprobs`	✅	❌	❌
`reasoning_effort`	o-series, GPT-5.1+	❌	❌ (Verwenden Sie `thinking` für natives Gemini)

max_tokens im Vergleich zu max_completion_tokens

max_tokens — Der Legacy-Parameter. Funktioniert mit den meisten Modellen, ist aber für neuere OpenAI-Modelle veraltet.
max_completion_tokens — Der empfohlene Parameter für GPT-4.1, die GPT-5-Serie und o-series-Modelle. Für Reasoning-Modelle erforderlich, da er sowohl Ausgabe-Tokens als auch Reasoning-Tokens umfasst.

CometAPI übernimmt beim Routing an verschiedene Anbieter automatisch die Zuordnung.

system- im Vergleich zur developer-Rolle

system — Die traditionelle Anweisungsrolle. Funktioniert mit allen Modellen.
developer — Mit o1-Modellen eingeführt. Bietet für neuere Modelle eine stärkere Befolgung von Anweisungen. Fällt bei älteren Modellen auf das Verhalten von system zurück.

Verwenden Sie developer für neue Projekte, die auf GPT-4.1+- oder o-series-Modelle ausgerichtet sind.

FAQ

Wie gehe ich mit Ratenlimits um?

Implementieren Sie bei Auftreten von 429 Too Many Requests exponentielles Backoff:

import os
import time
import random
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.cometapi.com/v1",
    api_key=os.environ["COMETAPI_KEY"],
)

def chat_with_retry(messages, max_retries=3):
    for i in range(max_retries):
        try:
            return client.chat.completions.create(
                model="gpt-5.6-sol",
                messages=messages,
            )
        except RateLimitError:
            if i < max_retries - 1:
                wait_time = (2 ** i) + random.random()
                time.sleep(wait_time)
            else:
                raise

Wie kann der Unterhaltungskontext erhalten werden?

Fügen Sie den vollständigen Unterhaltungsverlauf in das Array messages ein:

messages = [
    {"role": "developer", "content": "You are a helpful assistant."},
    {"role": "user", "content": "What is Python?"},
    {"role": "assistant", "content": "Python is a high-level programming language..."},
    {"role": "user", "content": "What are its main advantages?"},
]

Was bedeutet `finish_reason`?

Wert	Bedeutung
`stop`	Natürlicher Abschluss oder Erreichen einer Stop-Sequenz.
`length`	Das Limit für `max_tokens` oder `max_completion_tokens` wurde erreicht.
`tool_calls`	Das Modell hat einen oder mehrere Tool-/Funktionsaufrufe ausgelöst.
`content_filter`	Die Ausgabe wurde aufgrund der Inhaltsrichtlinie gefiltert.

Wie lassen sich Kosten kontrollieren?

Verwenden Sie max_completion_tokens, um die Ausgabelänge zu begrenzen.
Verwenden Sie gpt-5.6-terra für ein Gleichgewicht zwischen Leistungsfähigkeit und Kosten oder gpt-5.6-luna für effiziente Workloads mit hohem Volumen.
Halten Sie Prompts prägnant – vermeiden Sie redundanten Kontext.
Überwachen Sie die Token-Nutzung im Antwortfeld usage.

Autorisierungen

Authorization

string

header

erforderlich

Bearer token authentication. Use your CometAPI key.

Body

application/json

model

string

Standard:gpt-5.6-sol

erforderlich

Model ID to use for this request. See the Models page for current options.

Beispiel:

"gpt-4.1"

messages

object[]

erforderlich

A list of messages forming the conversation. Each message has a role (system, user, assistant, or developer) and content (text string or multimodal content array).

Show child attributes

stream

boolean

If true, partial response tokens are delivered incrementally via server-sent events (SSE). The stream ends with a data: [DONE] message.

temperature

number

Standard:1

Sampling temperature between 0 and 2. Higher values (e.g., 0.8) produce more random output; lower values (e.g., 0.2) make output more focused and deterministic. Recommended to adjust this or top_p, but not both.

Erforderlicher Bereich: 0 <= x <= 2

top_p

number

Standard:1

Nucleus sampling parameter. The model considers only the tokens whose cumulative probability reaches top_p. For example, 0.1 means only the top 10% probability tokens are considered. Recommended to adjust this or temperature, but not both.

Erforderlicher Bereich: 0 <= x <= 1

integer

Standard:1

Number of completion choices to generate for each input message. Defaults to 1.

stop

string

Up to 4 sequences where the API will stop generating further tokens. Can be a string or an array of strings.

max_tokens

integer

Maximum number of tokens to generate in the completion. The total of input + output tokens is capped by the model's context length.

presence_penalty

number

Standard:0

Number between -2.0 and 2.0. Positive values penalize tokens based on whether they have already appeared, encouraging the model to explore new topics.

Erforderlicher Bereich: -2 <= x <= 2

frequency_penalty

number

Standard:0

Number between -2.0 and 2.0. Positive values penalize tokens proportionally to how often they have appeared, reducing verbatim repetition.

Erforderlicher Bereich: -2 <= x <= 2

logit_bias

object

A JSON object mapping token IDs to bias values from -100 to 100. The bias is added to the model's logits before sampling. Values between -1 and 1 subtly adjust likelihood; -100 or 100 effectively ban or force selection of a token.

user

string

A unique identifier for your end-user. Helps with abuse detection and monitoring.

max_completion_tokens

integer

An upper bound for the number of tokens to generate, including visible output tokens and reasoning tokens. Use this instead of max_tokens for GPT-4.1+, GPT-5 series, and o-series models.

response_format

object

Specifies the output format. Use {"type": "json_object"} for JSON mode, or {"type": "json_schema", "json_schema": {...}} for strict structured output.

Show child attributes

tools

object[]

A list of tools the model may call. Currently supports function type tools.

Show child attributes

tool_choice

Standard:auto

Controls how the model selects tools. auto (default): model decides. none: no tools. required: must call a tool.

logprobs

boolean

Standard:false

Whether to return log probabilities of the output tokens.

top_logprobs

integer

Number of most likely tokens to return at each position (0-20). Requires logprobs to be true.

Erforderlicher Bereich: 0 <= x <= 20

reasoning_effort

enum<string>

Controls the reasoning effort for o-series and GPT-5.1+ models.

Verfügbare Optionen:

low,

medium,

high

stream_options

object

Options for streaming. Only valid when stream is true.

Show child attributes

service_tier

enum<string>

Specifies the processing tier.

Verfügbare Optionen:

auto,

default,

flex,

priority

Antwort

Successful chat completion response.

string

Unique completion identifier.

Beispiel:

"chatcmpl-abc123"

object

enum<string>

Object type. Non-streaming responses use chat.completion.

Verfügbare Optionen:

chat.completion

Beispiel:

"chat.completion"

created

integer

Unix timestamp of creation.

Beispiel:

1774412483

model

string

The model used (may include version suffix).

Beispiel:

"gpt-5.4-2026-03-05"

choices

object[]

Array of completion choices.

Show child attributes

usage

object

Token accounting for this request. Billing uses these counts.

Show child attributes

service_tier

string

Service tier that processed the request, when the provider reports one.

Beispiel:

"default"

system_fingerprint

string | null

Provider backend configuration fingerprint, when the provider reports one.

Beispiel:

"fp_490a4ad033"

Text- und Chat-APIs

Zurück

Eine Modellantwort erstellen

Weiter

import os
from openai import OpenAI
client = OpenAI(
    base_url="https://api.cometapi.com/v1",
    api_key=os.environ["COMETAPI_KEY"],
)

completion = client.chat.completions.create(
    model="gpt-5.6-sol",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Hello!"},
    ],
)

print(completion.choices[0].message)

{
  "id": "chatcmpl-DNA27oKtBUL8TmbGpBM3B3zhWgYfZ",
  "object": "chat.completion",
  "created": 1774412483,
  "model": "gpt-4.1-nano-2025-04-14",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "Four",
        "refusal": null,
        "annotations": []
      },
      "logprobs": null,
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 29,
    "completion_tokens": 2,
    "total_tokens": 31,
    "prompt_tokens_details": {
      "cached_tokens": 0,
      "audio_tokens": 0
    },
    "completion_tokens_details": {
      "reasoning_tokens": 0,
      "audio_tokens": 0,
      "accepted_prediction_tokens": 0,
      "rejected_prediction_tokens": 0
    }
  },
  "service_tier": "default",
  "system_fingerprint": "fp_490a4ad033"
}

{
  "error": {
    "code": "",
    "message": "model name is required (request id: <request_id>)",
    "type": "comet_api_error"
  }
}

{
  "error": {
    "code": "",
    "message": "invalid token (request id: <request_id>)",
    "type": "comet_api_error"
  }
}

{
  "error": {
    "message": "field messages is required (request id: <request_id>)",
    "type": "comet_api_error",
    "param": "",
    "code": "invalid_request"
  }
}

Inhaltsmoderation

API-Schlüssel

Nachrichtenrollen

Multimodal-Eingaben senden

Antworten streamen

Strukturierte Ausgabe anfordern

Tools und Funktionen aufrufen

Hinweise anbieterübergreifend

FAQ

Wie gehe ich mit Ratenlimits um?

Wie kann der Unterhaltungskontext erhalten werden?

Was bedeutet `finish_reason`?

Wie lassen sich Kosten kontrollieren?

Autorisierungen

Body

Antwort

​Nachrichtenrollen

​Multimodal-Eingaben senden

​Antworten streamen

​Strukturierte Ausgabe anfordern

​Tools und Funktionen aufrufen

​Hinweise anbieterübergreifend

​FAQ

​Wie gehe ich mit Ratenlimits um?

​Wie kann der Unterhaltungskontext erhalten werden?

​Was bedeutet finish_reason?

​Wie lassen sich Kosten kontrollieren?

Autorisierungen

Body

Antwort

Nachrichtenrollen

Multimodal-Eingaben senden

Antworten streamen

Strukturierte Ausgabe anfordern

Tools und Funktionen aufrufen

Hinweise anbieterübergreifend

FAQ

Wie gehe ich mit Ratenlimits um?

Wie kann der Unterhaltungskontext erhalten werden?

Was bedeutet `finish_reason`?

Wie lassen sich Kosten kontrollieren?