Tạo một Message

POST

messages

import os
import anthropic

client = anthropic.Anthropic(
    base_url="https://api.cometapi.com",
    api_key=os.environ["COMETAPI_KEY"],
)

message = client.messages.create(
    model="claude-sonnet-5",
    max_tokens=1024,
    system="You are a helpful assistant.",
    messages=[
        {"role": "user", "content": "Hello, world"}
    ],
)

print(message.content[0].text)

{
  "id": "<string>",
  "type": "message",
  "role": "assistant",
  "content": [
    {
      "text": "<string>",
      "thinking": "<string>",
      "signature": "<string>",
      "id": "<string>",
      "name": "<string>",
      "input": {}
    }
  ],
  "model": "<string>",
  "stop_sequence": "<string>",
  "usage": {
    "input_tokens": 123,
    "output_tokens": 123,
    "cache_creation_input_tokens": 123,
    "cache_read_input_tokens": 123,
    "cache_creation": {
      "ephemeral_5m_input_tokens": 123,
      "ephemeral_1h_input_tokens": 123
    },
    "output_tokens_details": {
      "thinking_tokens": 123
    }
  }
}

CometAPI hỗ trợ Anthropic Messages API một cách nguyên bản, cho phép bạn truy cập trực tiếp vào các model Claude với các tính năng dành riêng cho Anthropic. Hãy dùng endpoint này cho các khả năng của Claude như adaptive thinking, prompt caching và effort control.

Sử dụng tài liệu tham khảo Anthropic Messages API chính thức làm nguồn chuẩn cho danh sách tham số đầy đủ, schema phản hồi và hành vi đặc thù của Claude. Trang CometAPI này giải thích cách gửi dạng request đó thông qua CometAPI.

Các tham số request và trường response của Anthropic có thể thay đổi khi các tính năng của Claude phát triển. Hãy xem tài liệu Anthropic Messages API để biết danh sách tham số đầy đủ mới nhất và hành vi riêng của từng nhà cung cấp.

Nhiều model Claude mới hơn từ chối các giá trị temperature, top_p và top_k không mặc định trên Messages API. Hãy bỏ qua các trường sampling này trừ khi bạn đã xác minh model được chọn có hỗ trợ. Nếu model trả về lỗi tham số không được hỗ trợ hoặc đã bị ngừng sử dụng, hãy xóa trường đó khỏi request.

Cả header x-api-key và Authorization: Bearer đều được hỗ trợ để xác thực. Các SDK Anthropic chính thức mặc định sử dụng x-api-key.

Bắt đầu nhanh

Để sử dụng SDK Anthropic chính thức với CometAPI, hãy đặt base URL:

import os
import anthropic

client = anthropic.Anthropic(
    base_url="https://api.cometapi.com",
    api_key=os.environ["COMETAPI_KEY"],
)

message = client.messages.create(
    model="claude-sonnet-5",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello!"}],
)
print(message.content[0].text)

import Anthropic from "@anthropic-ai/sdk";

const client = new Anthropic({
    apiKey: process.env.COMETAPI_KEY,
    baseURL: "https://api.cometapi.com",
});

const message = await client.messages.create({
    model: "claude-sonnet-5",
    max_tokens: 1024,
    messages: [{ role: "user", content: "Hello!" }],
});
console.log(message.content[0].text);

Kiểm soát adaptive thinking

Sử dụng adaptive thinking với output_config.effort để kiểm soát mức độ xử lý mà Claude áp dụng cho một response. Các model Claude mới hơn từ chối cấu trúc manual thinking cũ thinking={"type": "enabled", "budget_tokens": ...}.

message = client.messages.create(
    model="claude-sonnet-5",
    max_tokens=4096,
    thinking={"type": "adaptive"},
    output_config={"effort": "xhigh"},
    messages=[
        {
            "role": "user",
            "content": "Analyze the trade-offs between a monolithic architecture and microservices for a small engineering team.",
        }
    ],
)

for block in message.content:
    if block.type == "text":
        print(block.text)

Thinking tokens được tính vào giới hạn max_tokens của bạn. Hãy đặt max_tokens đủ cao cho cả phần suy nghĩ và câu trả lời cuối cùng khi bạn sử dụng các mức effort cao hơn.

Lưu cache prompt

Để giảm độ trễ và chi phí cho các yêu cầu tiếp theo, hãy lưu cache các system prompt lớn hoặc tiền tố hội thoại. Thêm cache_control vào các khối content cần được lưu cache:

message = client.messages.create(
    model="claude-sonnet-5",
    max_tokens=1024,
    system=[
        {
            "type": "text",
            "text": "You are an expert code reviewer. [Long detailed instructions...]",
            "cache_control": {"type": "ephemeral"},
        }
    ],
    messages=[{"role": "user", "content": "Review this code..."}],
)

Mức sử dụng cache được báo cáo trong trường usage của phản hồi:

cache_creation_input_tokens — tokens được ghi vào cache (được tính phí ở mức cao hơn)
cache_read_input_tokens — tokens được đọc từ cache (được tính phí ở mức thấp hơn)

Prompt caching yêu cầu tối thiểu 1.024 tokens trong khối content được lưu cache. Content ngắn hơn mức này sẽ không được lưu cache.

Stream phản hồi

Để stream phản hồi bằng Server-Sent Events (SSE), đặt stream: true. Các sự kiện sẽ đến theo thứ tự sau:

message_start — chứa metadata của message và usage ban đầu
content_block_start — đánh dấu phần bắt đầu của mỗi khối content
content_block_delta — các đoạn văn bản tăng dần (text_delta)
content_block_stop — đánh dấu phần kết thúc của mỗi khối content
message_delta — stop_reason cuối cùng và usage đầy đủ
message_stop — báo hiệu kết thúc luồng

with client.messages.stream(
    model="claude-sonnet-5",
    max_tokens=256,
    messages=[{"role": "user", "content": "Hello"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="")

Kiểm soát mức độ nỗ lực

Để kiểm soát Claude bỏ ra bao nhiêu công sức khi tạo phản hồi, hãy dùng output_config.effort:

message = client.messages.create(
    model="claude-sonnet-5",
    max_tokens=4096,
    messages=[
        {"role": "user", "content": "Summarize this briefly."}
    ],
    output_config={"effort": "low"},  # "low", "medium", "high", "xhigh", or "max"
)

Sử dụng công cụ phía máy chủ

Claude hỗ trợ các công cụ phía máy chủ chạy trên hạ tầng của Anthropic:

Web Fetch
Web Search

Truy xuất và phân tích nội dung từ URL:

message = client.messages.create(
    model="claude-sonnet-5",
    max_tokens=1024,
    messages=[
        {"role": "user", "content": "Analyze the content at https://arxiv.org/abs/1512.03385"}
    ],
    tools=[
        {"type": "web_fetch_20250910", "name": "web_fetch", "max_uses": 5}
    ],
)

Tìm kiếm trên web để lấy thông tin theo thời gian thực:

message = client.messages.create(
    model="claude-sonnet-5",
    max_tokens=1024,
    messages=[
        {"role": "user", "content": "What are the latest developments in AI?"}
    ],
    tools=[
        {"type": "web_search_20250305", "name": "web_search", "max_uses": 5}
    ],
)

Ví dụ phản hồi

Một phản hồi điển hình từ endpoint Anthropic của CometAPI:

{
  "id": "msg_bdrk_01UjHdmSztrL7QYYm7CKBDFB",
  "type": "message",
  "role": "assistant",
  "content": [
    {
      "type": "text",
      "text": "Hello!"
    }
  ],
  "model": "claude-sonnet-5",
  "stop_reason": "end_turn",
  "stop_sequence": null,
  "usage": {
    "input_tokens": 19,
    "cache_creation_input_tokens": 0,
    "cache_read_input_tokens": 0,
    "cache_creation": {
      "ephemeral_5m_input_tokens": 0,
      "ephemeral_1h_input_tokens": 0
    },
    "output_tokens": 4
  }
}

So sánh với endpoint tương thích OpenAI

Tính năng	Anthropic Messages (`/v1/messages`)	Tương thích OpenAI (`/v1/chat/completions`)
Adaptive thinking	`thinking` với `type: "adaptive"` và `output_config.effort`	Không khả dụng
Prompt caching	`cache_control` trên các khối content	Không khả dụng
Điều khiển effort	`output_config.effort`	Không khả dụng
Web fetch/search	Công cụ phía server (`web_fetch`, `web_search`)	Không khả dụng
Header xác thực	`x-api-key` hoặc `Bearer`	Chỉ `Bearer`
Định dạng phản hồi	Định dạng Anthropic (`content` blocks)	Định dạng OpenAI (`choices`, `message`)
Models	Chỉ Claude	Nhiều nhà cung cấp (GPT, Claude, Gemini, v.v.)

Ủy quyền

x-api-key

string

header

bắt buộc

Your CometAPI key passed via the x-api-key header. Authorization: Bearer $COMETAPI_KEY is also supported.

Tiêu đề

anthropic-version

string

mặc định:2023-06-01

The Anthropic API version to use. Defaults to 2023-06-01.

Ví dụ:

"2023-06-01"

anthropic-beta

string

Comma-separated list of beta features to enable. Examples: max-tokens-3-5-sonnet-2024-07-15, pdfs-2024-09-25, output-128k-2025-02-19.

Nội dung

application/json

model

string

bắt buộc

The Claude model to use. See the Models page for available Claude model IDs.

Ví dụ:

"claude-sonnet-5"

messages

object[]

bắt buộc

The conversation messages. Must alternate between user and assistant roles. Each message's content can be a string or an array of content blocks (text, image, document, tool_use, tool_result). There is a limit of 100,000 messages per request.

Show child attributes

max_tokens

integer

bắt buộc

The maximum number of tokens to generate. The model may stop before reaching this limit. When using thinking, the thinking tokens count towards this limit.

Phạm vi bắt buộc: x >= 1

Ví dụ:

1024

system

System prompt providing context and instructions to Claude. Can be a plain string or an array of content blocks (useful for prompt caching).

temperature

number

mặc định:1

Model-dependent sampling control. Many newer Claude models reject non-default temperature values on the Messages API. Omit this field unless you have verified that the selected model accepts it; if the model returns an unsupported or deprecated-parameter error, remove the field instead of substituting another sampling value.

Phạm vi bắt buộc: 0 <= x <= 1

Ví dụ:

1

top_p

number

Model-dependent nucleus sampling control. Many newer Claude models reject non-default top_p values on the Messages API. Omit this field unless you have verified support for the selected model. Do not set temperature and top_p together.

Phạm vi bắt buộc: 0 <= x <= 1

Ví dụ:

1

top_k

integer

Model-dependent top-k sampling control. Many newer Claude models reject non-default top_k values on the Messages API. Omit this field unless you have verified support for the selected model.

Phạm vi bắt buộc: x >= 0

Ví dụ:

0

stream

boolean

mặc định:false

If true, stream the response incrementally using Server-Sent Events (SSE). Events include message_start, content_block_start, content_block_delta, content_block_stop, message_delta, and message_stop.

stop_sequences

string[]

Custom strings that cause the model to stop generating when encountered. The stop sequence is not included in the response.

thinking

object

Controls Claude thinking when the selected model supports a configurable thinking mode. For newer adaptive-thinking models, use {"type":"adaptive"} with output_config.effort, or omit thinking when adaptive thinking is already the model default. Manual {"type":"enabled","budget_tokens":...} is supported only by older models and is rejected by newer Claude models.

Show child attributes

tools

object[]

Tools the model may use. Supports client-defined functions, web search (web_search_20250305), web fetch (web_fetch_20250910), code execution (code_execution_20250522), and more.

Show child attributes

tool_choice

object

Controls how the model uses tools.

Show child attributes

metadata

object

Request metadata for tracking and analytics.

Show child attributes

output_config

object

Configuration for response effort and output format. Field support depends on the selected Claude model.

Show child attributes

service_tier

enum<string>

The service tier to use. auto tries priority capacity first, standard_only uses only standard capacity.

Tùy chọn có sẵn:

auto,

standard_only

Phản hồi

200 - application/json

Successful response. When stream is true, the response is a stream of SSE events.

string

Unique identifier for this message (e.g., msg_01XFDUDYJgAACzvnptvVoYEL).

type

enum<string>

Always message.

Tùy chọn có sẵn:

message

role

enum<string>

Always assistant.

Tùy chọn có sẵn:

assistant

content

object[]

The response content blocks. May include text, thinking, tool_use, and other block types.

Show child attributes

model

string

The specific model version that generated this response, such as claude-sonnet-5.

stop_reason

enum<string>

Why the model stopped generating. refusal can be returned as a successful HTTP response when the model declines a request.

Tùy chọn có sẵn:

end_turn,

max_tokens,

stop_sequence,

tool_use,

pause_turn,

refusal

stop_sequence

string | null

The stop sequence that caused the model to stop, if applicable.

usage

object

Token usage statistics.

Show child attributes

Tạo phản hồi model

Tạo nội dung

import os
import anthropic

client = anthropic.Anthropic(
    base_url="https://api.cometapi.com",
    api_key=os.environ["COMETAPI_KEY"],
)

message = client.messages.create(
    model="claude-sonnet-5",
    max_tokens=1024,
    system="You are a helpful assistant.",
    messages=[
        {"role": "user", "content": "Hello, world"}
    ],
)

print(message.content[0].text)

{
  "id": "<string>",
  "type": "message",
  "role": "assistant",
  "content": [
    {
      "text": "<string>",
      "thinking": "<string>",
      "signature": "<string>",
      "id": "<string>",
      "name": "<string>",
      "input": {}
    }
  ],
  "model": "<string>",
  "stop_sequence": "<string>",
  "usage": {
    "input_tokens": 123,
    "output_tokens": 123,
    "cache_creation_input_tokens": 123,
    "cache_read_input_tokens": 123,
    "cache_creation": {
      "ephemeral_5m_input_tokens": 123,
      "ephemeral_1h_input_tokens": 123
    },
    "output_tokens_details": {
      "thinking_tokens": 123
    }
  }
}

Kiểm duyệt nội dung

Khóa API

Bắt đầu nhanh

Kiểm soát adaptive thinking

Lưu cache prompt

Stream phản hồi

Kiểm soát mức độ nỗ lực

Sử dụng công cụ phía máy chủ

Ví dụ phản hồi

So sánh với endpoint tương thích OpenAI

Ủy quyền

Tiêu đề

Nội dung

Phản hồi

​Bắt đầu nhanh

​Kiểm soát adaptive thinking

​Lưu cache prompt

​Stream phản hồi

​Kiểm soát mức độ nỗ lực

​Sử dụng công cụ phía máy chủ

​Ví dụ phản hồi

​So sánh với endpoint tương thích OpenAI

Ủy quyền

Tiêu đề

Nội dung

Phản hồi

Bắt đầu nhanh

Kiểm soát adaptive thinking

Lưu cache prompt

Stream phản hồi

Kiểm soát mức độ nỗ lực

Sử dụng công cụ phía máy chủ

Ví dụ phản hồi

So sánh với endpoint tương thích OpenAI