Vai al contenuto principale
POST
/
v1
/
moderations
curl https://api.cometapi.com/v1/moderations \
  -X POST \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <COMETAPI_KEY>" \
  -d '{
  "model": "omni-moderation-latest",
  "input": "I want to bake cookies for my family."
}'
{
  "id": "modr-1594",
  "model": "omni-moderation-latest",
  "results": [
    {
      "flagged": false,
      "categories": {
        "harassment": false,
        "harassment/threatening": false,
        "hate": false,
        "hate/threatening": false,
        "illicit": false,
        "illicit/violent": false,
        "self-harm": false,
        "self-harm/intent": false,
        "self-harm/instructions": false,
        "sexual": false,
        "sexual/minors": false,
        "violence": false,
        "violence/graphic": false
      },
      "category_scores": {
        "harassment": 0.0001,
        "harassment/threatening": 0.0001,
        "hate": 0.0001,
        "hate/threatening": 0.0001,
        "illicit": 0.0001,
        "illicit/violent": 0.0001,
        "self-harm": 0.0001,
        "self-harm/intent": 0.0001,
        "self-harm/instructions": 0.0001,
        "sexual": 0.0001,
        "sexual/minors": 0.0001,
        "violence": 0.0001,
        "violence/graphic": 0.0001
      },
      "category_applied_input_types": {
        "harassment": [
          "text"
        ],
        "harassment/threatening": [
          "text"
        ],
        "hate": [
          "text"
        ],
        "hate/threatening": [
          "text"
        ],
        "illicit": [
          "text"
        ],
        "illicit/violent": [
          "text"
        ],
        "self-harm": [
          "text"
        ],
        "self-harm/intent": [
          "text"
        ],
        "self-harm/instructions": [
          "text"
        ],
        "sexual": [
          "text"
        ],
        "sexual/minors": [
          "text"
        ],
        "violence": [
          "text"
        ],
        "violence/graphic": [
          "text"
        ]
      }
    }
  ],
  "usage": {
    "prompt_tokens": 12,
    "completion_tokens": 0,
    "total_tokens": 12,
    "input_tokens": 12,
    "output_tokens": 0,
    "prompt_tokens_details": {
      "cached_tokens": 0
    },
    "completion_tokens_details": {
      "reasoning_tokens": 0
    },
    "input_tokens_details": null,
    "claude_cache_creation_1_h_tokens": 0,
    "claude_cache_creation_5_m_tokens": 0
  }
}

Documentation Index

Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt

Use this file to discover all available pages before exploring further.

Usa questo endpoint per controllare contenuti generati dagli utenti prima di inviarli a un endpoint model. Invia una richiesta di moderazione compatibile con OpenAI con un valore model e un valore input.
Usa una chiave API CometAPI nell’header bearer: Authorization: Bearer <COMETAPI_KEY>.

​
Corpo della richiesta

FieldTypeRequiredDescription
inputstring o arrayYesIl contenuto da controllare. Usa una stringa per un singolo input di testo, un array di stringhe per controlli batch del testo, oppure parti multimodali in stile OpenAI come testo più image_url.
modelstringYesmodel ID di moderazione. Usa omni-moderation-latest per la moderazione di testo e immagini, a meno che tu non abbia un requisito specifico per un model di moderazione.
Per la moderazione multimodale, invia un input multimodale in stile OpenAI con un model che lo supporta, come omni-moderation-latest. Gli URL di immagini pubbliche devono essere scaricabili dai server CometAPI. Per un test immagine copiabile, usa un URL di dati base64.

​
Esempi di richiesta

Invia una singola stringa di testo quando devi classificare un solo input di testo: 
curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <COMETAPI_KEY>" \
  -d '{
    "model": "omni-moderation-latest",
    "input": "I want to bake cookies for my family."
  }'
Invia un array di stringhe quando vuoi controllare più input di testo in una sola richiesta: 
curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <COMETAPI_KEY>" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      "I want to bake cookies.",
      "I want to kill someone."
    ]
  }'
Invia testo più un URL immagine quando il tuo input di moderazione include un’immagine che CometAPI può scaricare: 
curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <COMETAPI_KEY>" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      { "type": "text", "text": "...text to classify goes here..." },
      {
        "type": "image_url",
        "image_url": {
          "url": "https://www.gstatic.com/webp/gallery/1.png"
        }
      }
    ]
  }'
Usa un URL di dati base64 quando ti serve una richiesta immagine autonoma: 
curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <COMETAPI_KEY>" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      { "type": "text", "text": "...text to classify goes here..." },
      {
        "type": "image_url",
        "image_url": {
          "url": "data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAAAEAAAABCAAAAAA6fptVAAAADElEQVR4nGP4//8/AAX+Av4N70a4AAAAAElFTkSuQmCC"
        }
      }
    ]
  }'

​
Struttura della risposta

La risposta include id, model, results e usage. Ogni elemento in results indica se l’input corrispondente è stato segnalato, i booleani delle categorie, i punteggi delle categorie e i tipi di input applicati a ciascuna categoria. Per una richiesta batch di testo, results contiene un elemento per ogni stringa di input. Usa usage per i campi di fatturazione e monitoraggio.

Autorizzazioni

​
Authorization
string
header
obbligatorio

CometAPI API key used for model requests. Send it as Authorization: Bearer <COMETAPI_KEY>.

Corpo

application/json
​
model
string
obbligatorio

Required moderation model ID. Use omni-moderation-latest for text and image moderation unless you have a specific moderation model requirement.

Esempio:

"omni-moderation-latest"

​
input
obbligatorio

Content to check. Use a string for one text input, an array of strings for batch text checks, or OpenAI-style multimodal parts such as text plus image_url when the selected model supports it.

Esempio:

"I want to check this text before sending it to a model."

Risposta

Moderation decisions and token usage.

​
id
string
obbligatorio

Moderation request ID.

Esempio:

"modr-1594"

​
model
string
obbligatorio

Model used for moderation.

Esempio:

"omni-moderation-latest"

​
results
object[]
obbligatorio

Moderation decisions. For batch text input, this array contains one result per input string.

​
usage
object
obbligatorio

Token usage for the moderation request. Additional provider accounting fields can be present.