Перейти к основному содержанию
POST
/
v1
/
moderations
curl https://api.cometapi.com/v1/moderations \
  -X POST \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <COMETAPI_KEY>" \
  -d '{
  "model": "omni-moderation-latest",
  "input": "I want to bake cookies for my family."
}'
{
  "id": "modr-1594",
  "model": "omni-moderation-latest",
  "results": [
    {
      "flagged": false,
      "categories": {
        "harassment": false,
        "harassment/threatening": false,
        "hate": false,
        "hate/threatening": false,
        "illicit": false,
        "illicit/violent": false,
        "self-harm": false,
        "self-harm/intent": false,
        "self-harm/instructions": false,
        "sexual": false,
        "sexual/minors": false,
        "violence": false,
        "violence/graphic": false
      },
      "category_scores": {
        "harassment": 0.0001,
        "harassment/threatening": 0.0001,
        "hate": 0.0001,
        "hate/threatening": 0.0001,
        "illicit": 0.0001,
        "illicit/violent": 0.0001,
        "self-harm": 0.0001,
        "self-harm/intent": 0.0001,
        "self-harm/instructions": 0.0001,
        "sexual": 0.0001,
        "sexual/minors": 0.0001,
        "violence": 0.0001,
        "violence/graphic": 0.0001
      },
      "category_applied_input_types": {
        "harassment": [
          "text"
        ],
        "harassment/threatening": [
          "text"
        ],
        "hate": [
          "text"
        ],
        "hate/threatening": [
          "text"
        ],
        "illicit": [
          "text"
        ],
        "illicit/violent": [
          "text"
        ],
        "self-harm": [
          "text"
        ],
        "self-harm/intent": [
          "text"
        ],
        "self-harm/instructions": [
          "text"
        ],
        "sexual": [
          "text"
        ],
        "sexual/minors": [
          "text"
        ],
        "violence": [
          "text"
        ],
        "violence/graphic": [
          "text"
        ]
      }
    }
  ],
  "usage": {
    "prompt_tokens": 12,
    "completion_tokens": 0,
    "total_tokens": 12,
    "input_tokens": 12,
    "output_tokens": 0,
    "prompt_tokens_details": {
      "cached_tokens": 0
    },
    "completion_tokens_details": {
      "reasoning_tokens": 0
    },
    "input_tokens_details": null,
    "claude_cache_creation_1_h_tokens": 0,
    "claude_cache_creation_5_m_tokens": 0
  }
}

Documentation Index

Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt

Use this file to discover all available pages before exploring further.

Используйте этот endpoint, чтобы проверять пользовательский контент перед отправкой в endpoint модели. Отправьте совместимый с OpenAI запрос moderation с значениями model и input.
Используйте API-ключ CometAPI в bearer-заголовке: Authorization: Bearer <COMETAPI_KEY>.

​
Тело запроса

FieldTypeRequiredDescription
inputstring or arrayYesКонтент для проверки. Используйте строку для одного текстового ввода, массив строк для пакетной проверки текста или multimodal-части в стиле OpenAI, например текст плюс image_url.
modelstringYesmodel ID moderation. Используйте omni-moderation-latest для moderation текста и изображений, если у вас нет требований к конкретной модели moderation.
Для multimodal moderation отправляйте multimodal-ввод в стиле OpenAI с моделью, которая это поддерживает, например omni-moderation-latest. Публичные URL изображений должны быть доступны для скачивания серверами CometAPI. Для теста изображения, который можно легко скопировать, используйте base64 data URL.

​
Примеры запросов

Отправляйте одну текстовую строку, если вам нужно классифицировать только один текстовый ввод: 
curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <COMETAPI_KEY>" \
  -d '{
    "model": "omni-moderation-latest",
    "input": "I want to bake cookies for my family."
  }'
Отправляйте массив строк, если хотите проверить несколько текстовых вводов в одном запросе: 
curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <COMETAPI_KEY>" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      "I want to bake cookies.",
      "I want to kill someone."
    ]
  }'
Отправляйте текст и URL изображения, если входные данные moderation включают изображение, которое CometAPI может скачать: 
curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <COMETAPI_KEY>" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      { "type": "text", "text": "...text to classify goes here..." },
      {
        "type": "image_url",
        "image_url": {
          "url": "https://www.gstatic.com/webp/gallery/1.png"
        }
      }
    ]
  }'
Используйте base64 data URL, если вам нужен самодостаточный запрос с изображением: 
curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <COMETAPI_KEY>" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      { "type": "text", "text": "...text to classify goes here..." },
      {
        "type": "image_url",
        "image_url": {
          "url": "data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAAAEAAAABCAAAAAA6fptVAAAADElEQVR4nGP4//8/AAX+Av4N70a4AAAAAElFTkSuQmCC"
        }
      }
    ]
  }'

​
Структура ответа

Ответ включает id, model, results и usage. Каждый элемент в results сообщает, был ли помечен соответствующий ввод, логические значения категорий, оценки категорий и типы ввода, применённые к каждой категории. Для пакетного текстового запроса results содержит по одному элементу на каждую входную строку. Используйте usage для полей биллинга и мониторинга.

Авторизации

​
Authorization
string
header
обязательно

CometAPI API key used for model requests. Send it as Authorization: Bearer <COMETAPI_KEY>.

Тело

application/json
​
model
string
обязательно

Required moderation model ID. Use omni-moderation-latest for text and image moderation unless you have a specific moderation model requirement.

Пример:

"omni-moderation-latest"

​
input
обязательно

Content to check. Use a string for one text input, an array of strings for batch text checks, or OpenAI-style multimodal parts such as text plus image_url when the selected model supports it.

Пример:

"I want to check this text before sending it to a model."

Ответ

Moderation decisions and token usage.

​
id
string
обязательно

Moderation request ID.

Пример:

"modr-1594"

​
model
string
обязательно

Model used for moderation.

Пример:

"omni-moderation-latest"

​
results
object[]
обязательно

Moderation decisions. For batch text input, this array contains one result per input string.

​
usage
object
обязательно

Token usage for the moderation request. Additional provider accounting fields can be present.