Как оценить стоимость перед вызовом модели?

Оценивайте стоимость до вызова модели, комбинируя цену из каталога моделей с единицами, по которым тарифицируется endpoint: tokens, изображения, длительность аудио или видео-задачи. Рассматривайте такую оценку как ограничитель бюджета, а после завершения запроса опирайтесь на фактическое usage и данные биллинга.

Оценка вызовов на основе tokens

Следующий пример на Python оценивает стоимость запроса на основе tokens по заданным значениям цен:

import math
import os

prompt = "Write a short product description for CometAPI."
max_output_tokens = 200

input_price_per_1m = float(os.environ["MODEL_INPUT_PRICE_PER_1M"])
output_price_per_1m = float(os.environ["MODEL_OUTPUT_PRICE_PER_1M"])

estimated_input_tokens = math.ceil(len(prompt) / 4)

estimated_cost = (
    estimated_input_tokens * input_price_per_1m
    + max_output_tokens * output_price_per_1m
) / 1_000_000

print(f"Estimated maximum cost: ${estimated_cost:.6f}")

Результат — это оценка до вызова:

Estimated maximum cost: $0.000123

Установите максимальный бюджет на выход

Следующий запрос ограничивает сгенерированный вывод, чтобы у оценки была верхняя граница:

curl https://api.cometapi.com/v1/chat/completions \
  -H "Authorization: Bearer $COMETAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "your-model-id",
    "messages": [
      {
        "role": "user",
        "content": "Write a short product description for CometAPI."
      }
    ],
    "max_completion_tokens": 200
  }'

Ответ включает фактическое usage после вызова модели:

{
  "usage": {
    "prompt_tokens": 10,
    "completion_tokens": 42,
    "total_tokens": 52
  }
}

Оценка вызовов на основе задач

Следующий пример на JavaScript оценивает workflow на основе задач, например генерацию изображений или видео:

const taskCount = 3;
const pricePerTask = Number(process.env.MODEL_PRICE_PER_TASK);

const estimatedCost = taskCount * pricePerTask;

console.log(`Estimated maximum cost: $${estimatedCost.toFixed(4)}`);

Результат — это бюджет задачи:

Estimated maximum cost: $0.4500

Распространённые ошибки

Ошибка	Исправление
Использование цены от другой модели	Скопируйте цену для того же model ID из каталога моделей.
Игнорирование output tokens	Установите `max_completion_tokens` или ограничение на output, специфичное для endpoint.
Использование оценки как счёта	Сравнивайте оценки с фактическим usage после вызова.
Отсутствующие множители задач	Для изображений, аудио и видео проверьте, идёт ли тарификация за задачу, за секунду или за каждый сгенерированный объект.

Documentation Index

​Оценка вызовов на основе tokens

​Установите максимальный бюджет на выход

​Оценка вызовов на основе задач

​Распространённые ошибки

​Связанные ссылки

Оценка вызовов на основе tokens

Установите максимальный бюджет на выход

Оценка вызовов на основе задач

Распространённые ошибки

Связанные ссылки