Skip to main content
Promptfoo to framework do oceny promptów, testów regresji i AI red teaming. Promptfoo zawiera provider cometapi, który wywołuje CometAPI przez endpointy zgodne z OpenAI.

Wymagania wstępne

Skonfiguruj integrację

1

Ustaw klucz API CometAPI

Ustaw COMETAPI_KEY przed uruchomieniem ocen:
2

Wybierz format provider

Promptfoo używa następującego formatu provider ID dla CometAPI:
Użyj tych typów provider:Możesz również użyć cometapi:your-model-id dla domyślnego trybu chat.
3

Uruchom ocenę z CLI

Następujące polecenie uruchamia ocenę chat z jednym promptem:
4

Utwórz plik konfiguracyjny Promptfoo

Następujący plik promptfooconfig.yaml ocenia ten sam prompt względem modelu CometAPI:
Uruchom plik konfiguracyjny za pomocą Promptfoo:

Przykłady provider

Użyj typu provider, który odpowiada zachowaniu modelu, jakie chcesz ocenić:
W testach multimodalnych zachowaj typ provider chat i przekazuj zmienne obrazów przez zmienne testowe Promptfoo.

Rozwiązywanie problemów

Potwierdź, że COMETAPI_KEY jest wyeksportowany w tej samej sesji powłoki, w której uruchamiasz promptfoo eval.
Użyj chat dla modeli konwersacyjnych i multimodalnych, embedding dla modeli embedding, a image dla modeli generowania obrazów.
Zastąp your-model-id dokładnym model ID ze strony CometAPI Models.

Powiązane zasoby