Skip to main content
Promptfoo — это фреймворк для оценки prompt, регрессионного тестирования и AI red teaming. Promptfoo включает provider cometapi, который вызывает CometAPI через OpenAI-совместимые endpoints.

Предварительные требования

Настройка интеграции

1

Установите ваш CometAPI API key

Установите COMETAPI_KEY перед запуском оценок:
2

Выберите формат provider

Promptfoo использует следующий формат provider ID для CometAPI:
Используйте следующие типы provider:Вы также можете использовать cometapi:your-model-id для режима chat по умолчанию.
3

Запустите оценку через CLI

Следующая команда запускает оценку chat с одним prompt:
4

Создайте файл конфигурации Promptfoo

Следующий файл promptfooconfig.yaml оценивает тот же prompt на модели CometAPI:
Запустите файл конфигурации с помощью Promptfoo:

Примеры provider

Используйте тип provider, соответствующий поведению модели, которое вы хотите оценить:
Для multimodal-тестов сохраняйте тип provider chat и передавайте переменные изображения через тестовые переменные Promptfoo.

Устранение неполадок

Убедитесь, что COMETAPI_KEY экспортирован в той же сессии shell, в которой выполняется promptfoo eval.
Используйте chat для разговорных и multimodal-моделей, embedding для embedding-моделей и image для моделей генерации изображений.
Замените your-model-id на точный model ID со страницы моделей CometAPI.

Связанные ресурсы