Использование AI SDK с CometAPI - CometAPI Documentation

Провайдер CometAPI для AI SDK предоставляет доступ к более чем 500 AI-моделям через унифицированный интерфейс TypeScript. Используйте его, чтобы добавить генерацию текста, Streaming, Embeddings и генерацию изображений в любое приложение, работающее в Node.js или Edge runtime.

Поддерживаемые возможности

Возможность	Метод	Статус
Генерация текста	`generateText()`	Поддерживается
Потоковая передача текста	`streamText()`	Поддерживается
Text embeddings	`textEmbeddingModel()`	Поддерживается
Генерация изображений	`imageModel()`	Поддерживается

Предварительные требования

Node.js 18+
Аккаунт CometAPI с активным API key — получите его здесь

1

Установите провайдер

Установите @cometapi/ai-sdk-provider вместе с основным пакетом AI SDK:

npm install @cometapi/ai-sdk-provider ai

pnpm add @cometapi/ai-sdk-provider ai

yarn add @cometapi/ai-sdk-provider ai

2

Укажите свой API key

По умолчанию провайдер считывает переменную окружения COMETAPI_KEY:

read -rsp "CometAPI API key: " COMETAPI_KEY
printf '\n'
export COMETAPI_KEY

Используйте переменные окружения, чтобы не хардкодить учетные данные в исходном коде.

3

Импортируйте провайдер

Импортируйте экземпляр провайдера по умолчанию:

import { cometapi } from '@cometapi/ai-sdk-provider';

Чтобы переопределить API key, base URL или другие настройки, используйте createCometAPI:

import { createCometAPI } from '@cometapi/ai-sdk-provider';

const cometapi = createCometAPI({
  apiKey: process.env.COMETAPI_KEY,       // override env variable
  baseURL: 'https://api.cometapi.com/v1',  // default
});

Использование

Генерация текста

Используйте generateText() для получения одноразового ответа:

import { cometapi } from '@cometapi/ai-sdk-provider';
import { generateText } from 'ai';

const { text } = await generateText({
  model: cometapi('your-model-id'),
  prompt: 'What is CometAPI?',
});

console.log(text);

Потоковая передача текста

Используйте streamText() для вывода по частям в реальном времени:

import { cometapi } from '@cometapi/ai-sdk-provider';
import { streamText } from 'ai';

const result = streamText({
  model: cometapi('your-model-id'),
  prompt: 'Write a short story about AI.',
});

for await (const chunk of result.textStream) {
  process.stdout.write(chunk);
}

Генерация embeddings

Используйте textEmbeddingModel() для создания векторных embeddings:

import { cometapi } from '@cometapi/ai-sdk-provider';

const model = cometapi.textEmbeddingModel('text-embedding-3-small');

// Single embedding
const single = await model.doEmbed({ values: ['Hello, world!'] });
console.log('Dimensions:', single.embeddings[0].length);

// Batch embeddings
const batch = await model.doEmbed({
  values: ['sunny day', 'rainy afternoon', 'cold winter night'],
});
console.log('Count:', batch.embeddings.length);

Генерация изображений

Используйте imageModel() для генерации изображений по текстовым Prompt:

import { cometapi } from '@cometapi/ai-sdk-provider';
import { experimental_generateImage as generateImage } from 'ai';

const { image } = await generateImage({
  model: cometapi.imageModel('your-model-id'),
  prompt: 'A beautiful sunset over mountains',
});

Конфигурация провайдера

createCometAPI принимает следующие параметры:

Option	Type	Default	Description
`apiKey`	`string`	`process.env.COMETAPI_KEY`	API-ключ CometAPI
`baseURL`	`string`	`https://api.cometapi.com/v1`	Базовый URL API
`headers`	`Record<string, string>`	—	Пользовательские заголовки запроса
`fetch`	`FetchFunction`	—	Пользовательская реализация fetch

Методы моделей

Провайдер предоставляет несколько конструкторов моделей:

Method	Returns	Use case
`cometapi(modelId)`	`LanguageModelV2`	Генерация текста и Streaming (сокращённая запись)
`cometapi.chatModel(modelId)`	`LanguageModelV2`	Chat Completions
`cometapi.completionModel(modelId)`	`LanguageModelV2`	Завершение текста
`cometapi.languageModel(modelId)`	`LanguageModelV2`	Псевдоним для `chatModel`
`cometapi.textEmbeddingModel(modelId)`	`EmbeddingModelV2`	Текстовые Embeddings
`cometapi.imageModel(modelId)`	`ImageModelV2`	Генерация изображений

Полный список доступных model ID можно посмотреть на странице Models page.

Советы и устранение неполадок

Выбор модели: Любая модель из каталога моделей CometAPI работает с соответствующим методом модели — chat-модели через cometapi(), embedding-модели через textEmbeddingModel(), модели изображений через imageModel().
Тонкая настройка ответов: Передавайте temperature, maxTokens и topP напрямую в generateText() или streamText(), например: generateText(\{..., temperature: 0.7\}).
Обработка ошибок: Оборачивайте вызовы в try/catch, чтобы обрабатывать ошибки аутентификации, ограничения rate limit или проблемы сети.
Безопасность: Никогда не коммитьте API-ключи в систему контроля версий. Используйте переменные окружения или менеджер секретов.
Rate limits: Отслеживайте использование в консоли CometAPI.

Связанные ресурсы

Использование Promptfoo с CometAPI

Предыдущий

Использование LiteLLM с CometAPI

Следующий