Crear una moderación

POST

moderations

curl https://api.cometapi.com/v1/moderations \
  -X POST \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -d '{
  "model": "omni-moderation-latest",
  "input": "I want to bake cookies for my family."
}'

{
  "id": "modr-1594",
  "model": "omni-moderation-latest",
  "results": [
    {
      "flagged": false,
      "categories": {
        "harassment": false,
        "harassment/threatening": false,
        "hate": false,
        "hate/threatening": false,
        "illicit": false,
        "illicit/violent": false,
        "self-harm": false,
        "self-harm/intent": false,
        "self-harm/instructions": false,
        "sexual": false,
        "sexual/minors": false,
        "violence": false,
        "violence/graphic": false
      },
      "category_scores": {
        "harassment": 0.0001,
        "harassment/threatening": 0.0001,
        "hate": 0.0001,
        "hate/threatening": 0.0001,
        "illicit": 0.0001,
        "illicit/violent": 0.0001,
        "self-harm": 0.0001,
        "self-harm/intent": 0.0001,
        "self-harm/instructions": 0.0001,
        "sexual": 0.0001,
        "sexual/minors": 0.0001,
        "violence": 0.0001,
        "violence/graphic": 0.0001
      },
      "category_applied_input_types": {
        "harassment": [
          "text"
        ],
        "harassment/threatening": [
          "text"
        ],
        "hate": [
          "text"
        ],
        "hate/threatening": [
          "text"
        ],
        "illicit": [
          "text"
        ],
        "illicit/violent": [
          "text"
        ],
        "self-harm": [
          "text"
        ],
        "self-harm/intent": [
          "text"
        ],
        "self-harm/instructions": [
          "text"
        ],
        "sexual": [
          "text"
        ],
        "sexual/minors": [
          "text"
        ],
        "violence": [
          "text"
        ],
        "violence/graphic": [
          "text"
        ]
      }
    }
  ],
  "usage": {
    "prompt_tokens": 12,
    "completion_tokens": 0,
    "total_tokens": 12,
    "input_tokens": 12,
    "output_tokens": 0,
    "prompt_tokens_details": {
      "cached_tokens": 0
    },
    "completion_tokens_details": {
      "reasoning_tokens": 0
    },
    "input_tokens_details": null,
    "claude_cache_creation_1_h_tokens": 0,
    "claude_cache_creation_5_m_tokens": 0
  }
}

Usa este endpoint para verificar contenido generado por usuarios antes de enviarlo a un endpoint de modelo. Envía una solicitud de moderación compatible con OpenAI con un valor model y un valor input.

Usa una clave API de CometAPI en el encabezado bearer: Authorization: Bearer $COMETAPI_KEY.

Cuerpo de la solicitud

Field	Type	Required	Description
`input`	string or array	Yes	El contenido que se va a verificar. Usa un string para una entrada de texto, un array de strings para verificaciones de texto por lotes, o partes multimodales al estilo de OpenAI, como texto más `image_url`.
`model`	string	Yes	model ID de moderación. Usa `omni-moderation-latest` para moderación de texto e imágenes, a menos que tengas un requisito específico de modelo de moderación.

Para la moderación multimodal, envía una entrada multimodal al estilo de OpenAI con un modelo que la admita, como omni-moderation-latest. Las URL de imágenes públicas deben poder descargarse por los servidores de CometAPI. Para una prueba de imagen que se pueda copiar, usa una URL de datos base64.

Ejemplos de solicitud

Envía un solo string de texto cuando solo necesites clasificar una entrada de texto:

curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -d '{
    "model": "omni-moderation-latest",
    "input": "I want to bake cookies for my family."
  }'

Envía un array de strings cuando quieras verificar varias entradas de texto en una sola solicitud:

curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      "I want to bake cookies.",
      "I want to kill someone."
    ]
  }'

Envía texto más una URL de imagen cuando tu entrada de moderación incluya una imagen que CometAPI pueda descargar:

curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      { "type": "text", "text": "...text to classify goes here..." },
      {
        "type": "image_url",
        "image_url": {
          "url": "https://www.gstatic.com/webp/gallery/1.png"
        }
      }
    ]
  }'

Usa una URL de datos base64 cuando necesites una solicitud de imagen autocontenida:

curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      { "type": "text", "text": "...text to classify goes here..." },
      {
        "type": "image_url",
        "image_url": {
          "url": "data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAAAEAAAABCAAAAAA6fptVAAAADElEQVR4nGP4//8/AAX+Av4N70a4AAAAAElFTkSuQmCC"
        }
      }
    ]
  }'

Estructura de la respuesta

La respuesta incluye id, model, results y usage. Cada elemento de results informa si la entrada correspondiente fue marcada, los booleanos de categoría, las puntuaciones de categoría y los tipos de entrada aplicados a cada categoría. Para una solicitud de texto por lotes, results contiene un elemento por cada string de entrada. Usa usage para los campos de facturación y monitoreo.

Autorizaciones

Authorization

string

header

requerido

CometAPI API key used for model requests. Send it as Authorization: Bearer $COMETAPI_KEY.

Cuerpo

application/json

model

string

requerido

Required moderation model ID. Use omni-moderation-latest for text and image moderation unless you have a specific moderation model requirement.

Ejemplo:

"omni-moderation-latest"

input

requerido

Content to check. Use a string for one text input, an array of strings for batch text checks, or OpenAI-style multimodal parts such as text plus image_url when the selected model supports it.

Ejemplo:

"I want to check this text before sending it to a model."

Respuesta

Moderation decisions and token usage.

string

requerido

Moderation request ID.

Ejemplo:

"modr-1594"

model

string

requerido

Model used for moderation.

Ejemplo:

"omni-moderation-latest"

results

object[]

requerido

Moderation decisions. For batch text input, this array contains one result per input string.

Show child attributes

usage

object

requerido

Token usage for the moderation request.

Show child attributes

Create embeddings

Obtener la API key actual

curl https://api.cometapi.com/v1/moderations \
  -X POST \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -d '{
  "model": "omni-moderation-latest",
  "input": "I want to bake cookies for my family."
}'

{
  "id": "modr-1594",
  "model": "omni-moderation-latest",
  "results": [
    {
      "flagged": false,
      "categories": {
        "harassment": false,
        "harassment/threatening": false,
        "hate": false,
        "hate/threatening": false,
        "illicit": false,
        "illicit/violent": false,
        "self-harm": false,
        "self-harm/intent": false,
        "self-harm/instructions": false,
        "sexual": false,
        "sexual/minors": false,
        "violence": false,
        "violence/graphic": false
      },
      "category_scores": {
        "harassment": 0.0001,
        "harassment/threatening": 0.0001,
        "hate": 0.0001,
        "hate/threatening": 0.0001,
        "illicit": 0.0001,
        "illicit/violent": 0.0001,
        "self-harm": 0.0001,
        "self-harm/intent": 0.0001,
        "self-harm/instructions": 0.0001,
        "sexual": 0.0001,
        "sexual/minors": 0.0001,
        "violence": 0.0001,
        "violence/graphic": 0.0001
      },
      "category_applied_input_types": {
        "harassment": [
          "text"
        ],
        "harassment/threatening": [
          "text"
        ],
        "hate": [
          "text"
        ],
        "hate/threatening": [
          "text"
        ],
        "illicit": [
          "text"
        ],
        "illicit/violent": [
          "text"
        ],
        "self-harm": [
          "text"
        ],
        "self-harm/intent": [
          "text"
        ],
        "self-harm/instructions": [
          "text"
        ],
        "sexual": [
          "text"
        ],
        "sexual/minors": [
          "text"
        ],
        "violence": [
          "text"
        ],
        "violence/graphic": [
          "text"
        ]
      }
    }
  ],
  "usage": {
    "prompt_tokens": 12,
    "completion_tokens": 0,
    "total_tokens": 12,
    "input_tokens": 12,
    "output_tokens": 0,
    "prompt_tokens_details": {
      "cached_tokens": 0
    },
    "completion_tokens_details": {
      "reasoning_tokens": 0
    },
    "input_tokens_details": null,
    "claude_cache_creation_1_h_tokens": 0,
    "claude_cache_creation_5_m_tokens": 0
  }
}

Moderación de contenido

Claves API

Cuerpo de la solicitud

Ejemplos de solicitud

Estructura de la respuesta

Autorizaciones

Cuerpo

Respuesta

​Cuerpo de la solicitud

​Ejemplos de solicitud

​Estructura de la respuesta

Autorizaciones

Cuerpo

Respuesta

Cuerpo de la solicitud

Ejemplos de solicitud

Estructura de la respuesta