Anthropic Messages - CometAPI Documentation

POST

messages

import anthropic

client = anthropic.Anthropic(
    base_url="https://api.cometapi.com",
    api_key="<COMETAPI_KEY>",
)

message = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,
    system="You are a helpful assistant.",
    messages=[
        {"role": "user", "content": "Hello, world"}
    ],
)

print(message.content[0].text)

{
  "id": "<string>",
  "content": [
    {
      "text": "<string>",
      "thinking": "<string>",
      "signature": "<string>",
      "id": "<string>",
      "name": "<string>",
      "input": {}
    }
  ],
  "model": "<string>",
  "stop_sequence": "<string>",
  "usage": {
    "input_tokens": 123,
    "output_tokens": 123,
    "cache_creation_input_tokens": 123,
    "cache_read_input_tokens": 123,
    "cache_creation": {
      "ephemeral_5m_input_tokens": 123,
      "ephemeral_1h_input_tokens": 123
    }
  }
}

CometAPI нативно поддерживает API Anthropic Messages, предоставляя вам прямой доступ к моделям Claude со всеми специфичными для Anthropic возможностями. Используйте этот endpoint для эксклюзивных возможностей Claude, таких как extended thinking, prompt caching и управление effort.

Для аутентификации поддерживаются оба заголовка: x-api-key и Authorization: Bearer. Официальные SDK Anthropic по умолчанию используют x-api-key.

Быстрый старт

Чтобы использовать официальный SDK Anthropic с CometAPI, задайте base URL:

import anthropic

client = anthropic.Anthropic(
    base_url="https://api.cometapi.com",
    api_key="<COMETAPI_KEY>",
)

message = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello!"}],
)
print(message.content[0].text)

Включение extended thinking

Включите пошаговое рассуждение Claude с помощью параметра thinking. Ответ включает блоки содержимого thinking, показывающие внутреннее рассуждение Claude перед финальным ответом.

message = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=16000,
    thinking={
        "type": "enabled",
        "budget_tokens": 10000,
    },
    messages=[
        {"role": "user", "content": "Prove that there are infinitely many primes."}
    ],
)

for block in message.content:
    if block.type == "thinking":
        print(f"Thinking: {block.thinking[:200]}...")
    elif block.type == "text":
        print(f"Answer: {block.text}")

Для thinking требуется минимум 1,024 budget_tokens. Tokens thinking учитываются в вашем лимите max_tokens — установите max_tokens достаточно большим, чтобы хватило и на thinking, и на сам ответ.

Кэширование Prompt

Чтобы уменьшить задержку и стоимость последующих запросов, кэшируйте большие system prompt или префиксы диалога. Добавьте cache_control к блокам содержимого, которые нужно кэшировать:

message = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,
    system=[
        {
            "type": "text",
            "text": "You are an expert code reviewer. [Long detailed instructions...]",
            "cache_control": {"type": "ephemeral"},
        }
    ],
    messages=[{"role": "user", "content": "Review this code..."}],
)

Использование кэша отражается в поле ответа usage:

cache_creation_input_tokens — tokens, записанные в кэш (тарифицируются по более высокой ставке)
cache_read_input_tokens — tokens, прочитанные из кэша (тарифицируются по сниженной ставке)

Для prompt caching требуется минимум 1,024 tokens в кэшируемом блоке содержимого. Более короткое содержимое кэшироваться не будет.

Потоковая передача ответов

Чтобы передавать ответы через Server-Sent Events (SSE), установите stream: true. События приходят в таком порядке:

message_start — содержит метаданные сообщения и начальное usage
content_block_start — отмечает начало каждого блока содержимого
content_block_delta — инкрементальные фрагменты текста (text_delta)
content_block_stop — отмечает конец каждого блока содержимого
message_delta — финальный stop_reason и полный usage
message_stop — сигнализирует о завершении потока

with client.messages.stream(
    model="claude-sonnet-4-6",
    max_tokens=256,
    messages=[{"role": "user", "content": "Hello"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="")

Управление effort

Чтобы контролировать, сколько effort Claude вкладывает в генерацию ответа, используйте output_config.effort:

message = client.messages.create(
    model="claude-opus-4-6",
    max_tokens=4096,
    messages=[
        {"role": "user", "content": "Summarize this briefly."}
    ],
    output_config={"effort": "low"},  # "low", "medium", or "high"
)

Использование server tools

Claude поддерживает серверные инструменты, выполняющиеся в инфраструктуре Anthropic:

Web Fetch
Web Search

Получение и анализ содержимого по URL:

message = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,
    messages=[
        {"role": "user", "content": "Analyze the content at https://arxiv.org/abs/1512.03385"}
    ],
    tools=[
        {"type": "web_fetch_20250910", "name": "web_fetch", "max_uses": 5}
    ],
)

Поиск в интернете информации в реальном времени:

message = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,
    messages=[
        {"role": "user", "content": "What are the latest developments in AI?"}
    ],
    tools=[
        {"type": "web_search_20250305", "name": "web_search", "max_uses": 5}
    ],
)

Пример ответа

Типичный ответ от endpoint Anthropic в CometAPI:

{
  "id": "msg_bdrk_01UjHdmSztrL7QYYm7CKBDFB",
  "type": "message",
  "role": "assistant",
  "content": [
    {
      "type": "text",
      "text": "Hello!"
    }
  ],
  "model": "claude-sonnet-4-6",
  "stop_reason": "end_turn",
  "stop_sequence": null,
  "usage": {
    "input_tokens": 19,
    "cache_creation_input_tokens": 0,
    "cache_read_input_tokens": 0,
    "cache_creation": {
      "ephemeral_5m_input_tokens": 0,
      "ephemeral_1h_input_tokens": 0
    },
    "output_tokens": 4
  }
}

Сравнение с OpenAI-compatible endpoint

Возможность	Anthropic Messages (`/v1/messages`)	OpenAI-Compatible (`/v1/chat/completions`)
Extended thinking	параметр `thinking` с `budget_tokens`	Недоступно
Prompt caching	`cache_control` в блоках содержимого	Недоступно
Управление effort	`output_config.effort`	Недоступно
Web fetch/search	Server tools (`web_fetch`, `web_search`)	Недоступно
Заголовок auth	`x-api-key` или `Bearer`	Только `Bearer`
Формат ответа	Формат Anthropic (блоки `content`)	Формат OpenAI (`choices`, `message`)
Модели	Только Claude	Мультипровайдерный (GPT, Claude, Gemini и т. д.)

Авторизации

x-api-key

string

header

обязательно

Your CometAPI key passed via the x-api-key header. Authorization: Bearer <key> is also supported.

Заголовки

anthropic-version

string

по умолчанию:2023-06-01

The Anthropic API version to use. Defaults to 2023-06-01.

Пример:

"2023-06-01"

anthropic-beta

string

Comma-separated list of beta features to enable. Examples: max-tokens-3-5-sonnet-2024-07-15, pdfs-2024-09-25, output-128k-2025-02-19.

Тело

application/json

model

string

обязательно

The Claude model to use. See the Models page for current Claude model IDs.

Пример:

"claude-sonnet-4-6"

messages

object[]

обязательно

The conversation messages. Must alternate between user and assistant roles. Each message's content can be a string or an array of content blocks (text, image, document, tool_use, tool_result). There is a limit of 100,000 messages per request.

Show child attributes

max_tokens

integer

обязательно

The maximum number of tokens to generate. The model may stop before reaching this limit. When using thinking, the thinking tokens count towards this limit.

Требуемый диапазон: x >= 1

Пример:

1024

system

System prompt providing context and instructions to Claude. Can be a plain string or an array of content blocks (useful for prompt caching).

temperature

number

по умолчанию:1

Controls randomness in the response. Range: 0.0–1.0. Use lower values for analytical tasks and higher values for creative tasks. Defaults to 1.0.

Требуемый диапазон: 0 <= x <= 1

top_p

number

Nucleus sampling threshold. Only tokens with cumulative probability up to this value are considered. Range: 0.0–1.0. Use either temperature or top_p, not both.

Требуемый диапазон: 0 <= x <= 1

top_k

integer

Only sample from the top K most probable tokens. Recommended for advanced use cases only.

Требуемый диапазон: x >= 0

stream

boolean

по умолчанию:false

If true, stream the response incrementally using Server-Sent Events (SSE). Events include message_start, content_block_start, content_block_delta, content_block_stop, message_delta, and message_stop.

stop_sequences

string[]

Custom strings that cause the model to stop generating when encountered. The stop sequence is not included in the response.

thinking

object

Enable extended thinking — Claude's step-by-step reasoning process. When enabled, the response includes thinking content blocks before the answer. Requires a minimum budget_tokens of 1,024.

Show child attributes

tools

object[]

Tools the model may use. Supports client-defined functions, web search (web_search_20250305), web fetch (web_fetch_20250910), code execution (code_execution_20250522), and more.

Show child attributes

tool_choice

object

Controls how the model uses tools.

Show child attributes

metadata

object

Request metadata for tracking and analytics.

Show child attributes

output_config

object

Configuration for output behavior.

Show child attributes

service_tier

enum<string>

The service tier to use. auto tries priority capacity first, standard_only uses only standard capacity.

Доступные опции:

auto,

standard_only

Ответ

200 - application/json

Successful response. When stream is true, the response is a stream of SSE events.

string

Unique identifier for this message (e.g., msg_01XFDUDYJgAACzvnptvVoYEL).

type

enum<string>

Always message.

Доступные опции:

message

role

enum<string>

Always assistant.

Доступные опции:

assistant

content

object[]

The response content blocks. May include text, thinking, tool_use, and other block types.

Show child attributes

model

string

The specific model version that generated this response (e.g., claude-sonnet-4-6).

stop_reason

enum<string>

Why the model stopped generating.

Доступные опции:

end_turn,

max_tokens,

stop_sequence,

tool_use,

pause_turn

stop_sequence

string | null

The stop sequence that caused the model to stop, if applicable.

usage

object

Token usage statistics.

Show child attributes

Responses

Gemini Generating Content

import anthropic

client = anthropic.Anthropic(
    base_url="https://api.cometapi.com",
    api_key="<COMETAPI_KEY>",
)

message = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,
    system="You are a helpful assistant.",
    messages=[
        {"role": "user", "content": "Hello, world"}
    ],
)

print(message.content[0].text)

{
  "id": "<string>",
  "content": [
    {
      "text": "<string>",
      "thinking": "<string>",
      "signature": "<string>",
      "id": "<string>",
      "name": "<string>",
      "input": {}
    }
  ],
  "model": "<string>",
  "stop_sequence": "<string>",
  "usage": {
    "input_tokens": 123,
    "output_tokens": 123,
    "cache_creation_input_tokens": 123,
    "cache_read_input_tokens": 123,
    "cache_creation": {
      "ephemeral_5m_input_tokens": 123,
      "ephemeral_1h_input_tokens": 123
    }
  }
}

Documentation Index

​Быстрый старт

​Включение extended thinking

​Кэширование Prompt

​Потоковая передача ответов

​Управление effort

​Использование server tools

​Пример ответа

​Сравнение с OpenAI-compatible endpoint

Авторизации

Заголовки

Тело

Ответ

Быстрый старт

Включение extended thinking

Кэширование Prompt

Потоковая передача ответов

Управление effort

Использование server tools

Пример ответа

Сравнение с OpenAI-compatible endpoint