Skip to main content
Promptfoo 是一個用於 Prompt 評估、回歸測試與 AI 紅隊測試的框架。Promptfoo 內含一個 cometapi provider,可透過與 OpenAI 相容的端點呼叫 CometAPI。

先決條件

設定整合

1

設定你的 CometAPI API key

在執行評估前先設定 COMETAPI_KEY
2

選擇 provider 格式

Promptfoo 對 CometAPI 使用以下 provider ID 格式:
請使用以下 provider 類型:你也可以使用 cometapi:your-model-id 作為預設聊天模式。
3

執行 CLI 評估

以下指令會執行單一 Prompt 的聊天評估:
4

建立 Promptfoo 設定檔

以下 promptfooconfig.yaml 會使用 CometAPI 模型評估相同的 Prompt:
使用 Promptfoo 執行此設定檔:

Provider 範例

使用與你想評估之模型行為相符的 provider 類型:
對於多模態(Multimodal)測試,請保持使用 chat provider 類型,並透過 Promptfoo 測試變數傳遞圖片變數。

疑難排解

請確認 COMETAPI_KEY 已在執行 promptfoo eval 的同一個 shell 工作階段中匯出。
對話式與多模態模型請使用 chat,嵌入模型請使用 embedding,圖像生成模型請使用 image
請將 your-model-id 替換為來自 CometAPI Models 頁面 的精確 model ID。

相關資源