Chuyển đến nội dung chính
POST
/
v1
/
moderations
curl https://api.cometapi.com/v1/moderations \
  -X POST \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -d '{
  "model": "omni-moderation-latest",
  "input": "I want to bake cookies for my family."
}'
{
  "id": "modr-1594",
  "model": "omni-moderation-latest",
  "results": [
    {
      "flagged": false,
      "categories": {
        "harassment": false,
        "harassment/threatening": false,
        "hate": false,
        "hate/threatening": false,
        "illicit": false,
        "illicit/violent": false,
        "self-harm": false,
        "self-harm/intent": false,
        "self-harm/instructions": false,
        "sexual": false,
        "sexual/minors": false,
        "violence": false,
        "violence/graphic": false
      },
      "category_scores": {
        "harassment": 0.0001,
        "harassment/threatening": 0.0001,
        "hate": 0.0001,
        "hate/threatening": 0.0001,
        "illicit": 0.0001,
        "illicit/violent": 0.0001,
        "self-harm": 0.0001,
        "self-harm/intent": 0.0001,
        "self-harm/instructions": 0.0001,
        "sexual": 0.0001,
        "sexual/minors": 0.0001,
        "violence": 0.0001,
        "violence/graphic": 0.0001
      },
      "category_applied_input_types": {
        "harassment": [
          "text"
        ],
        "harassment/threatening": [
          "text"
        ],
        "hate": [
          "text"
        ],
        "hate/threatening": [
          "text"
        ],
        "illicit": [
          "text"
        ],
        "illicit/violent": [
          "text"
        ],
        "self-harm": [
          "text"
        ],
        "self-harm/intent": [
          "text"
        ],
        "self-harm/instructions": [
          "text"
        ],
        "sexual": [
          "text"
        ],
        "sexual/minors": [
          "text"
        ],
        "violence": [
          "text"
        ],
        "violence/graphic": [
          "text"
        ]
      }
    }
  ],
  "usage": {
    "prompt_tokens": 12,
    "completion_tokens": 0,
    "total_tokens": 12,
    "input_tokens": 12,
    "output_tokens": 0,
    "prompt_tokens_details": {
      "cached_tokens": 0
    },
    "completion_tokens_details": {
      "reasoning_tokens": 0
    },
    "input_tokens_details": null,
    "claude_cache_creation_1_h_tokens": 0,
    "claude_cache_creation_5_m_tokens": 0
  }
}
Sử dụng endpoint này để kiểm tra nội dung do người dùng tạo trước khi bạn gửi nó đến một endpoint model. Gửi một yêu cầu moderation tương thích với OpenAI kèm giá trị model và input.
Sử dụng API key CometAPI trong bearer header: Authorization: Bearer $COMETAPI_KEY.

​
Nội dung yêu cầu

FieldTypeRequiredDescription
inputstring hoặc arrayYesNội dung cần kiểm tra. Dùng một string cho một đầu vào văn bản, một array các string để kiểm tra văn bản theo lô, hoặc các phần đa phương thức theo kiểu OpenAI như văn bản cộng với image_url.
modelstringYesmodel ID của moderation. Sử dụng omni-moderation-latest cho moderation văn bản và hình ảnh trừ khi bạn có yêu cầu cụ thể về model moderation.
Đối với moderation đa phương thức, hãy gửi đầu vào đa phương thức theo kiểu OpenAI với một model hỗ trợ tính năng đó, chẳng hạn như omni-moderation-latest. URL hình ảnh công khai phải có thể được máy chủ CometAPI tải xuống. Để thử nghiệm hình ảnh có thể sao chép, hãy sử dụng một base64 data URL.

​
Ví dụ yêu cầu

Gửi một chuỗi văn bản đơn khi bạn chỉ cần phân loại một đầu vào văn bản: 
curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -d '{
    "model": "omni-moderation-latest",
    "input": "I want to bake cookies for my family."
  }'
Gửi một array các string khi bạn muốn kiểm tra nhiều đầu vào văn bản trong một yêu cầu: 
curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      "I want to bake cookies.",
      "I want to kill someone."
    ]
  }'
Gửi văn bản cùng với một URL hình ảnh khi đầu vào moderation của bạn bao gồm một hình ảnh mà CometAPI có thể tải xuống: 
curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      { "type": "text", "text": "...text to classify goes here..." },
      {
        "type": "image_url",
        "image_url": {
          "url": "https://www.gstatic.com/webp/gallery/1.png"
        }
      }
    ]
  }'
Sử dụng một base64 data URL khi bạn cần một yêu cầu hình ảnh tự chứa: 
curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      { "type": "text", "text": "...text to classify goes here..." },
      {
        "type": "image_url",
        "image_url": {
          "url": "data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAAAEAAAABCAAAAAA6fptVAAAADElEQVR4nGP4//8/AAX+Av4N70a4AAAAAElFTkSuQmCC"
        }
      }
    ]
  }'

​
Cấu trúc phản hồi

Phản hồi bao gồm id, model, results và usage. Mỗi mục trong results cho biết đầu vào tương ứng có bị gắn cờ hay không, các giá trị boolean của category, điểm số category và các loại đầu vào được áp dụng cho từng category. Với yêu cầu văn bản theo lô, results chứa một mục cho mỗi chuỗi đầu vào. Sử dụng usage cho các trường phục vụ thanh toán và giám sát.

Ủy quyền

​
Authorization
string
header
bắt buộc

CometAPI API key used for model requests. Send it as Authorization: Bearer $COMETAPI_KEY.

Nội dung

application/json
​
model
string
bắt buộc

Required moderation model ID. Use omni-moderation-latest for text and image moderation unless you have a specific moderation model requirement.

Ví dụ:

"omni-moderation-latest"

​
input
bắt buộc

Content to check. Use a string for one text input, an array of strings for batch text checks, or OpenAI-style multimodal parts such as text plus image_url when the selected model supports it.

Ví dụ:

"I want to check this text before sending it to a model."

Phản hồi

Moderation decisions and token usage.

​
id
string
bắt buộc

Moderation request ID.

Ví dụ:

"modr-1594"

​
model
string
bắt buộc

Model used for moderation.

Ví dụ:

"omni-moderation-latest"

​
results
object[]
bắt buộc

Moderation decisions. For batch text input, this array contains one result per input string.

​
usage
object
bắt buộc

Token usage for the moderation request. Additional provider accounting fields can be present.