Bir moderation oluşturma

POST

moderations

curl https://api.cometapi.com/v1/moderations \
  -X POST \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -d '{
  "model": "omni-moderation-latest",
  "input": "I want to bake cookies for my family."
}'

{
  "id": "modr-1594",
  "model": "omni-moderation-latest",
  "results": [
    {
      "flagged": false,
      "categories": {
        "harassment": false,
        "harassment/threatening": false,
        "hate": false,
        "hate/threatening": false,
        "illicit": false,
        "illicit/violent": false,
        "self-harm": false,
        "self-harm/intent": false,
        "self-harm/instructions": false,
        "sexual": false,
        "sexual/minors": false,
        "violence": false,
        "violence/graphic": false
      },
      "category_scores": {
        "harassment": 0.0001,
        "harassment/threatening": 0.0001,
        "hate": 0.0001,
        "hate/threatening": 0.0001,
        "illicit": 0.0001,
        "illicit/violent": 0.0001,
        "self-harm": 0.0001,
        "self-harm/intent": 0.0001,
        "self-harm/instructions": 0.0001,
        "sexual": 0.0001,
        "sexual/minors": 0.0001,
        "violence": 0.0001,
        "violence/graphic": 0.0001
      },
      "category_applied_input_types": {
        "harassment": [
          "text"
        ],
        "harassment/threatening": [
          "text"
        ],
        "hate": [
          "text"
        ],
        "hate/threatening": [
          "text"
        ],
        "illicit": [
          "text"
        ],
        "illicit/violent": [
          "text"
        ],
        "self-harm": [
          "text"
        ],
        "self-harm/intent": [
          "text"
        ],
        "self-harm/instructions": [
          "text"
        ],
        "sexual": [
          "text"
        ],
        "sexual/minors": [
          "text"
        ],
        "violence": [
          "text"
        ],
        "violence/graphic": [
          "text"
        ]
      }
    }
  ],
  "usage": {
    "prompt_tokens": 12,
    "completion_tokens": 0,
    "total_tokens": 12,
    "input_tokens": 12,
    "output_tokens": 0,
    "prompt_tokens_details": {
      "cached_tokens": 0
    },
    "completion_tokens_details": {
      "reasoning_tokens": 0
    },
    "input_tokens_details": null,
    "claude_cache_creation_1_h_tokens": 0,
    "claude_cache_creation_5_m_tokens": 0
  }
}

Bu endpoint’i, kullanıcı tarafından oluşturulan içeriği bir model endpoint’ine göndermeden önce kontrol etmek için kullanın. model ve input değeri içeren OpenAI uyumlu bir moderation isteği gönderin.

Bearer header’ında bir CometAPI API key kullanın: Authorization: Bearer $COMETAPI_KEY.

Request body

Field	Type	Required	Description
`input`	string veya array	Evet	Kontrol edilecek içerik. Tek bir metin girdisi için string, toplu metin kontrolleri için string dizisi veya metin artı `image_url` gibi OpenAI tarzı multimodal parçalar kullanın.
`model`	string	Evet	Moderation model ID. Belirli bir moderation modeli gereksiniminiz yoksa metin ve görsel moderation için `omni-moderation-latest` kullanın.

Multimodal moderation için, bunu destekleyen bir modelle OpenAI tarzı multimodal input gönderin; örneğin omni-moderation-latest. Herkese açık görsel URL’leri CometAPI sunucuları tarafından indirilebilir olmalıdır. Kopyalanabilir bir görsel testi için base64 data URL kullanın.

Request examples

Yalnızca tek bir metin girdisini sınıflandırmanız gerekiyorsa tek bir metin string’i gönderin:

curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -d '{
    "model": "omni-moderation-latest",
    "input": "I want to bake cookies for my family."
  }'

Bir istekte birden fazla metin girdisini kontrol etmek istediğinizde bir string dizisi gönderin:

curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      "I want to bake cookies.",
      "I want to kill someone."
    ]
  }'

Moderation girdiniz, CometAPI’nin indirebildiği bir görsel içerdiğinde metin artı bir görsel URL’si gönderin:

curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      { "type": "text", "text": "...text to classify goes here..." },
      {
        "type": "image_url",
        "image_url": {
          "url": "https://www.gstatic.com/webp/gallery/1.png"
        }
      }
    ]
  }'

Kendi içinde yeterli bir görsel isteğine ihtiyaç duyduğunuzda base64 data URL kullanın:

curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      { "type": "text", "text": "...text to classify goes here..." },
      {
        "type": "image_url",
        "image_url": {
          "url": "data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAAAEAAAABCAAAAAA6fptVAAAADElEQVR4nGP4//8/AAX+Av4N70a4AAAAAElFTkSuQmCC"
        }
      }
    ]
  }'

Response shape

Yanıt id, model, results ve usage içerir. results içindeki her öğe, eşleşen girdinin işaretlenip işaretlenmediğini, kategori boolean değerlerini, kategori skorlarını ve her kategoriye uygulanan girdi türlerini bildirir. Toplu metin isteğinde results, her input string’i için bir öğe içerir. Faturalandırma ve izleme alanları için usage kullanın.

Yetkilendirmeler

Authorization

string

header

gerekli

CometAPI API key used for model requests. Send it as Authorization: Bearer $COMETAPI_KEY.

Gövde

application/json

model

string

gerekli

Required moderation model ID. Use omni-moderation-latest for text and image moderation unless you have a specific moderation model requirement.

Örnek:

"omni-moderation-latest"

input

gerekli

Content to check. Use a string for one text input, an array of strings for batch text checks, or OpenAI-style multimodal parts such as text plus image_url when the selected model supports it.

Örnek:

"I want to check this text before sending it to a model."

Yanıt

Moderation decisions and token usage.

string

gerekli

Moderation request ID.

Örnek:

"modr-1594"

model

string

gerekli

Model used for moderation.

Örnek:

"omni-moderation-latest"

results

object[]

gerekli

Moderation decisions. For batch text input, this array contains one result per input string.

Show child attributes

usage

object

gerekli

Token usage for the moderation request.

Show child attributes

Create embeddings

Mevcut API anahtarını al

curl https://api.cometapi.com/v1/moderations \
  -X POST \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -d '{
  "model": "omni-moderation-latest",
  "input": "I want to bake cookies for my family."
}'

{
  "id": "modr-1594",
  "model": "omni-moderation-latest",
  "results": [
    {
      "flagged": false,
      "categories": {
        "harassment": false,
        "harassment/threatening": false,
        "hate": false,
        "hate/threatening": false,
        "illicit": false,
        "illicit/violent": false,
        "self-harm": false,
        "self-harm/intent": false,
        "self-harm/instructions": false,
        "sexual": false,
        "sexual/minors": false,
        "violence": false,
        "violence/graphic": false
      },
      "category_scores": {
        "harassment": 0.0001,
        "harassment/threatening": 0.0001,
        "hate": 0.0001,
        "hate/threatening": 0.0001,
        "illicit": 0.0001,
        "illicit/violent": 0.0001,
        "self-harm": 0.0001,
        "self-harm/intent": 0.0001,
        "self-harm/instructions": 0.0001,
        "sexual": 0.0001,
        "sexual/minors": 0.0001,
        "violence": 0.0001,
        "violence/graphic": 0.0001
      },
      "category_applied_input_types": {
        "harassment": [
          "text"
        ],
        "harassment/threatening": [
          "text"
        ],
        "hate": [
          "text"
        ],
        "hate/threatening": [
          "text"
        ],
        "illicit": [
          "text"
        ],
        "illicit/violent": [
          "text"
        ],
        "self-harm": [
          "text"
        ],
        "self-harm/intent": [
          "text"
        ],
        "self-harm/instructions": [
          "text"
        ],
        "sexual": [
          "text"
        ],
        "sexual/minors": [
          "text"
        ],
        "violence": [
          "text"
        ],
        "violence/graphic": [
          "text"
        ]
      }
    }
  ],
  "usage": {
    "prompt_tokens": 12,
    "completion_tokens": 0,
    "total_tokens": 12,
    "input_tokens": 12,
    "output_tokens": 0,
    "prompt_tokens_details": {
      "cached_tokens": 0
    },
    "completion_tokens_details": {
      "reasoning_tokens": 0
    },
    "input_tokens_details": null,
    "claude_cache_creation_1_h_tokens": 0,
    "claude_cache_creation_5_m_tokens": 0
  }
}

İçerik moderasyonu

API anahtarları

Request body

Request examples

Response shape

Yetkilendirmeler

Gövde

Yanıt

​Request body

​Request examples

​Response shape

Yetkilendirmeler

Gövde

Yanıt

Request body

Request examples

Response shape