Chuyển đến nội dung chính
POST
/
v1
/
moderations
curl https://api.cometapi.com/v1/moderations \
  -X POST \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <COMETAPI_KEY>" \
  -d '{
  "model": "omni-moderation-latest",
  "input": "I want to bake cookies for my family."
}'
{
  "id": "modr-1594",
  "model": "omni-moderation-latest",
  "results": [
    {
      "flagged": false,
      "categories": {
        "harassment": false,
        "harassment/threatening": false,
        "hate": false,
        "hate/threatening": false,
        "illicit": false,
        "illicit/violent": false,
        "self-harm": false,
        "self-harm/intent": false,
        "self-harm/instructions": false,
        "sexual": false,
        "sexual/minors": false,
        "violence": false,
        "violence/graphic": false
      },
      "category_scores": {
        "harassment": 0.0001,
        "harassment/threatening": 0.0001,
        "hate": 0.0001,
        "hate/threatening": 0.0001,
        "illicit": 0.0001,
        "illicit/violent": 0.0001,
        "self-harm": 0.0001,
        "self-harm/intent": 0.0001,
        "self-harm/instructions": 0.0001,
        "sexual": 0.0001,
        "sexual/minors": 0.0001,
        "violence": 0.0001,
        "violence/graphic": 0.0001
      },
      "category_applied_input_types": {
        "harassment": [
          "text"
        ],
        "harassment/threatening": [
          "text"
        ],
        "hate": [
          "text"
        ],
        "hate/threatening": [
          "text"
        ],
        "illicit": [
          "text"
        ],
        "illicit/violent": [
          "text"
        ],
        "self-harm": [
          "text"
        ],
        "self-harm/intent": [
          "text"
        ],
        "self-harm/instructions": [
          "text"
        ],
        "sexual": [
          "text"
        ],
        "sexual/minors": [
          "text"
        ],
        "violence": [
          "text"
        ],
        "violence/graphic": [
          "text"
        ]
      }
    }
  ],
  "usage": {
    "prompt_tokens": 12,
    "completion_tokens": 0,
    "total_tokens": 12,
    "input_tokens": 12,
    "output_tokens": 0,
    "prompt_tokens_details": {
      "cached_tokens": 0
    },
    "completion_tokens_details": {
      "reasoning_tokens": 0
    },
    "input_tokens_details": null,
    "claude_cache_creation_1_h_tokens": 0,
    "claude_cache_creation_5_m_tokens": 0
  }
}

Documentation Index

Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt

Use this file to discover all available pages before exploring further.

Sử dụng endpoint này để kiểm tra nội dung do người dùng tạo trước khi bạn gửi đến một model endpoint. Gửi một yêu cầu moderation tương thích OpenAI với giá trị model và input.
Sử dụng CometAPI API key trong bearer header: Authorization: Bearer <COMETAPI_KEY>.

​
Request body

FieldTypeRequiredDescription
inputstring hoặc arrayYesNội dung cần kiểm tra. Dùng một string cho một đầu vào văn bản, một array các string để kiểm tra hàng loạt văn bản, hoặc các phần multimodal theo kiểu OpenAI như văn bản cộng với image_url.
modelstringYesmodel ID moderation. Sử dụng omni-moderation-latest cho moderation văn bản và hình ảnh trừ khi bạn có yêu cầu cụ thể về model moderation.
Đối với moderation multimodal, hãy gửi đầu vào multimodal theo kiểu OpenAI với một model hỗ trợ nó, chẳng hạn như omni-moderation-latest. URL hình ảnh công khai phải có thể được máy chủ CometAPI tải xuống. Để kiểm thử hình ảnh có thể sao chép, hãy dùng một base64 data URL.

​
Request examples

Gửi một chuỗi văn bản duy nhất khi bạn chỉ cần phân loại một đầu vào văn bản: 
curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <COMETAPI_KEY>" \
  -d '{
    "model": "omni-moderation-latest",
    "input": "I want to bake cookies for my family."
  }'
Gửi một array các string khi bạn muốn kiểm tra nhiều đầu vào văn bản trong một request: 
curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <COMETAPI_KEY>" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      "I want to bake cookies.",
      "I want to kill someone."
    ]
  }'
Gửi văn bản cùng với một URL hình ảnh khi đầu vào moderation của bạn bao gồm một hình ảnh mà CometAPI có thể tải xuống: 
curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <COMETAPI_KEY>" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      { "type": "text", "text": "...text to classify goes here..." },
      {
        "type": "image_url",
        "image_url": {
          "url": "https://www.gstatic.com/webp/gallery/1.png"
        }
      }
    ]
  }'
Sử dụng một base64 data URL khi bạn cần một request hình ảnh tự chứa: 
curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <COMETAPI_KEY>" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      { "type": "text", "text": "...text to classify goes here..." },
      {
        "type": "image_url",
        "image_url": {
          "url": "data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAAAEAAAABCAAAAAA6fptVAAAADElEQVR4nGP4//8/AAX+Av4N70a4AAAAAElFTkSuQmCC"
        }
      }
    ]
  }'

​
Response shape

Phản hồi bao gồm id, model, results và usage. Mỗi mục trong results cho biết đầu vào tương ứng có bị gắn cờ hay không, các giá trị boolean của category, điểm số category và các kiểu đầu vào được áp dụng cho từng category. Đối với một request văn bản theo lô, results chứa một mục cho mỗi chuỗi đầu vào. Sử dụng usage cho các trường tính phí và giám sát.

Ủy quyền

​
Authorization
string
header
bắt buộc

CometAPI API key used for model requests. Send it as Authorization: Bearer <COMETAPI_KEY>.

Nội dung

application/json
​
model
string
bắt buộc

Required moderation model ID. Use omni-moderation-latest for text and image moderation unless you have a specific moderation model requirement.

Ví dụ:

"omni-moderation-latest"

​
input
bắt buộc

Content to check. Use a string for one text input, an array of strings for batch text checks, or OpenAI-style multimodal parts such as text plus image_url when the selected model supports it.

Ví dụ:

"I want to check this text before sending it to a model."

Phản hồi

Moderation decisions and token usage.

​
id
string
bắt buộc

Moderation request ID.

Ví dụ:

"modr-1594"

​
model
string
bắt buộc

Model used for moderation.

Ví dụ:

"omni-moderation-latest"

​
results
object[]
bắt buộc

Moderation decisions. For batch text input, this array contains one result per input string.

​
usage
object
bắt buộc

Token usage for the moderation request. Additional provider accounting fields can be present.