Anthropic Messages - CometAPI Documentation

POST

messages

import anthropic

client = anthropic.Anthropic(
    base_url="https://api.cometapi.com",
    api_key="<COMETAPI_KEY>",
)

message = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,
    system="You are a helpful assistant.",
    messages=[
        {"role": "user", "content": "Hello, world"}
    ],
)

print(message.content[0].text)

{
  "id": "<string>",
  "content": [
    {
      "text": "<string>",
      "thinking": "<string>",
      "signature": "<string>",
      "id": "<string>",
      "name": "<string>",
      "input": {}
    }
  ],
  "model": "<string>",
  "stop_sequence": "<string>",
  "usage": {
    "input_tokens": 123,
    "output_tokens": 123,
    "cache_creation_input_tokens": 123,
    "cache_read_input_tokens": 123,
    "cache_creation": {
      "ephemeral_5m_input_tokens": 123,
      "ephemeral_1h_input_tokens": 123
    }
  }
}

CometAPI нативно підтримує API Anthropic Messages, надаючи вам прямий доступ до моделей Claude з усіма специфічними можливостями Anthropic. Використовуйте цей endpoint для ексклюзивних можливостей Claude, таких як extended thinking, кешування Prompt і керування effort.

Для автентифікації підтримуються заголовки x-api-key і Authorization: Bearer. Офіційні SDK Anthropic за замовчуванням використовують x-api-key.

Швидкий старт

Щоб використовувати офіційний SDK Anthropic з CometAPI, установіть base URL:

import anthropic

client = anthropic.Anthropic(
    base_url="https://api.cometapi.com",
    api_key="<COMETAPI_KEY>",
)

message = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello!"}],
)
print(message.content[0].text)

Увімкнення extended thinking

Увімкніть покрокове міркування Claude за допомогою параметра thinking. Відповідь містить блоки вмісту thinking, які показують внутрішнє міркування Claude перед остаточною відповіддю.

message = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=16000,
    thinking={
        "type": "enabled",
        "budget_tokens": 10000,
    },
    messages=[
        {"role": "user", "content": "Prove that there are infinitely many primes."}
    ],
)

for block in message.content:
    if block.type == "thinking":
        print(f"Thinking: {block.thinking[:200]}...")
    elif block.type == "text":
        print(f"Answer: {block.text}")

Для thinking потрібен мінімальний budget_tokens у 1,024. Tokens thinking зараховуються до вашого ліміту max_tokens — установіть max_tokens достатньо високим, щоб охопити і thinking, і відповідь.

Кешування Prompt

Щоб зменшити затримку й вартість у наступних запитах, кешуйте великі системні Prompt або префікси розмови. Додайте cache_control до блоків вмісту, які потрібно кешувати:

message = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,
    system=[
        {
            "type": "text",
            "text": "You are an expert code reviewer. [Long detailed instructions...]",
            "cache_control": {"type": "ephemeral"},
        }
    ],
    messages=[{"role": "user", "content": "Review this code..."}],
)

Використання кешу відображається у полі usage відповіді:

cache_creation_input_tokens — Tokens, записані в кеш (тарифікуються за вищою ставкою)
cache_read_input_tokens — Tokens, прочитані з кешу (тарифікуються за зниженою ставкою)

Кешування Prompt потребує мінімум 1,024 Tokens у кешованому блоці вмісту. Вміст, коротший за це, не буде кешуватися.

Потокові Responses

Щоб передавати Responses потоково за допомогою Server-Sent Events (SSE), установіть stream: true. Події надходять у такому порядку:

message_start — містить метадані повідомлення та початкове використання
content_block_start — позначає початок кожного блоку контенту
content_block_delta — інкрементні текстові фрагменти (text_delta)
content_block_stop — позначає кінець кожного блоку контенту
message_delta — фінальний stop_reason і повне usage
message_stop — сигналізує про завершення потоку

with client.messages.stream(
    model="claude-sonnet-4-6",
    max_tokens=256,
    messages=[{"role": "user", "content": "Hello"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="")

Керування effort

Щоб керувати тим, скільки effort Claude вкладає в генерування відповіді, використовуйте output_config.effort:

message = client.messages.create(
    model="claude-opus-4-6",
    max_tokens=4096,
    messages=[
        {"role": "user", "content": "Summarize this briefly."}
    ],
    output_config={"effort": "low"},  # "low", "medium", or "high"
)

Використання server tools

Claude підтримує server-side tools, які працюють в інфраструктурі Anthropic:

Web Fetch
Web Search

Отримання та аналіз контенту з URL-адрес:

message = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,
    messages=[
        {"role": "user", "content": "Analyze the content at https://arxiv.org/abs/1512.03385"}
    ],
    tools=[
        {"type": "web_fetch_20250910", "name": "web_fetch", "max_uses": 5}
    ],
)

Пошук у вебі інформації в реальному часі:

message = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,
    messages=[
        {"role": "user", "content": "What are the latest developments in AI?"}
    ],
    tools=[
        {"type": "web_search_20250305", "name": "web_search", "max_uses": 5}
    ],
)

Приклад відповіді

Типова відповідь від Anthropic endpoint у CometAPI:

{
  "id": "msg_bdrk_01UjHdmSztrL7QYYm7CKBDFB",
  "type": "message",
  "role": "assistant",
  "content": [
    {
      "type": "text",
      "text": "Hello!"
    }
  ],
  "model": "claude-sonnet-4-6",
  "stop_reason": "end_turn",
  "stop_sequence": null,
  "usage": {
    "input_tokens": 19,
    "cache_creation_input_tokens": 0,
    "cache_read_input_tokens": 0,
    "cache_creation": {
      "ephemeral_5m_input_tokens": 0,
      "ephemeral_1h_input_tokens": 0
    },
    "output_tokens": 4
  }
}

Порівняння з OpenAI-compatible endpoint

Функція	Anthropic Messages (`/v1/messages`)	OpenAI-Compatible (`/v1/chat/completions`)
Розширене мислення	параметр `thinking` з `budget_tokens`	Недоступно
Кешування Prompt	`cache_control` у блоках контенту	Недоступно
Керування effort	`output_config.effort`	Недоступно
Web fetch/search	Server tools (`web_fetch`, `web_search`)	Недоступно
Заголовок автентифікації	`x-api-key` або `Bearer`	Лише `Bearer`
Формат відповіді	Формат Anthropic (блоки `content`)	Формат OpenAI (`choices`, `message`)
Моделі	Лише Claude	Кілька провайдерів (GPT, Claude, Gemini тощо)

Авторизації

x-api-key

string

header

обов'язково

Your CometAPI key passed via the x-api-key header. Authorization: Bearer <key> is also supported.

Заголовки

anthropic-version

string

за замовчуванням:2023-06-01

The Anthropic API version to use. Defaults to 2023-06-01.

Приклад:

"2023-06-01"

anthropic-beta

string

Comma-separated list of beta features to enable. Examples: max-tokens-3-5-sonnet-2024-07-15, pdfs-2024-09-25, output-128k-2025-02-19.

Тіло

application/json

model

string

обов'язково

The Claude model to use. See the Models page for current Claude model IDs.

Приклад:

"claude-sonnet-4-6"

messages

object[]

обов'язково

The conversation messages. Must alternate between user and assistant roles. Each message's content can be a string or an array of content blocks (text, image, document, tool_use, tool_result). There is a limit of 100,000 messages per request.

Show child attributes

max_tokens

integer

обов'язково

The maximum number of tokens to generate. The model may stop before reaching this limit. When using thinking, the thinking tokens count towards this limit.

Необхідний діапазон: x >= 1

Приклад:

1024

system

System prompt providing context and instructions to Claude. Can be a plain string or an array of content blocks (useful for prompt caching).

temperature

number

за замовчуванням:1

Controls randomness in the response. Range: 0.0–1.0. Use lower values for analytical tasks and higher values for creative tasks. Defaults to 1.0.

Необхідний діапазон: 0 <= x <= 1

top_p

number

Nucleus sampling threshold. Only tokens with cumulative probability up to this value are considered. Range: 0.0–1.0. Use either temperature or top_p, not both.

Необхідний діапазон: 0 <= x <= 1

top_k

integer

Only sample from the top K most probable tokens. Recommended for advanced use cases only.

Необхідний діапазон: x >= 0

stream

boolean

за замовчуванням:false

If true, stream the response incrementally using Server-Sent Events (SSE). Events include message_start, content_block_start, content_block_delta, content_block_stop, message_delta, and message_stop.

stop_sequences

string[]

Custom strings that cause the model to stop generating when encountered. The stop sequence is not included in the response.

thinking

object

Enable extended thinking — Claude's step-by-step reasoning process. When enabled, the response includes thinking content blocks before the answer. Requires a minimum budget_tokens of 1,024.

Show child attributes

tools

object[]

Tools the model may use. Supports client-defined functions, web search (web_search_20250305), web fetch (web_fetch_20250910), code execution (code_execution_20250522), and more.

Show child attributes

tool_choice

object

Controls how the model uses tools.

Show child attributes

metadata

object

Request metadata for tracking and analytics.

Show child attributes

output_config

object

Configuration for output behavior.

Show child attributes

service_tier

enum<string>

The service tier to use. auto tries priority capacity first, standard_only uses only standard capacity.

Доступні опції:

auto,

standard_only

Відповідь

200 - application/json

Successful response. When stream is true, the response is a stream of SSE events.

string

Unique identifier for this message (e.g., msg_01XFDUDYJgAACzvnptvVoYEL).

type

enum<string>

Always message.

Доступні опції:

message

role

enum<string>

Always assistant.

Доступні опції:

assistant

content

object[]

The response content blocks. May include text, thinking, tool_use, and other block types.

Show child attributes

model

string

The specific model version that generated this response (e.g., claude-sonnet-4-6).

stop_reason

enum<string>

Why the model stopped generating.

Доступні опції:

end_turn,

max_tokens,

stop_sequence,

tool_use,

pause_turn

stop_sequence

string | null

The stop sequence that caused the model to stop, if applicable.

usage

object

Token usage statistics.

Show child attributes

Responses

Попередня

Gemini Generating Content

Наступна

import anthropic

client = anthropic.Anthropic(
    base_url="https://api.cometapi.com",
    api_key="<COMETAPI_KEY>",
)

message = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,
    system="You are a helpful assistant.",
    messages=[
        {"role": "user", "content": "Hello, world"}
    ],
)

print(message.content[0].text)

{
  "id": "<string>",
  "content": [
    {
      "text": "<string>",
      "thinking": "<string>",
      "signature": "<string>",
      "id": "<string>",
      "name": "<string>",
      "input": {}
    }
  ],
  "model": "<string>",
  "stop_sequence": "<string>",
  "usage": {
    "input_tokens": 123,
    "output_tokens": 123,
    "cache_creation_input_tokens": 123,
    "cache_read_input_tokens": 123,
    "cache_creation": {
      "ephemeral_5m_input_tokens": 123,
      "ephemeral_1h_input_tokens": 123
    }
  }
}

Documentation Index

​Швидкий старт

​Увімкнення extended thinking

​Кешування Prompt

​Потокові Responses

​Керування effort

​Використання server tools

​Приклад відповіді

​Порівняння з OpenAI-compatible endpoint

Авторизації

Заголовки

Тіло

Відповідь

Швидкий старт

Увімкнення extended thinking

Кешування Prompt

Потокові Responses

Керування effort

Використання server tools

Приклад відповіді

Порівняння з OpenAI-compatible endpoint