> ## Documentation Index
> Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
> Use this file to discover all available pages before exploring further.
# Использование LiteLLM с CometAPI
> Используйте это руководство, чтобы настроить LiteLLM с CometAPI, указав базовый URL, API key, а также параметры model или provider.
LiteLLM предоставляет унифицированный Python API для 100+ провайдеров LLM. CometAPI поддерживается нативно — используйте префикс `cometapi/`, чтобы направлять запросы через каталог моделей CometAPI.
## Предварительные требования
* Python 3.6+
* Аккаунт CometAPI с активным API key — [получите его здесь](https://www.cometapi.com/console/token)
```bash theme={null}
pip install litellm
```
Задайте API key как переменную окружения (рекомендуется) или передайте его inline:
```python theme={null}
import os
from litellm import completion
# Recommended: environment variable
os.environ["COMETAPI_KEY"] = ""
# Alternative: pass inline
api_key = ""
```
Используйте переменные окружения, чтобы не хардкодить чувствительные учетные данные в ваших скриптах.
Используйте формат `cometapi/` для указания моделей. Вы можете передать ключ через переменную окружения или явно:
```python theme={null}
messages = [{"content": "Hello, how are you?", "role": "user"}]
# Method 1: environment variable (recommended)
response = completion(model="cometapi/your-model-id", messages=messages)
# Method 2: explicit API key
response = completion(model="cometapi/your-model-id", messages=messages, api_key=api_key)
print(response.choices[0].message.content)
```
Используйте `acompletion` с `stream=True` для неблокирующих ответов в реальном времени:
```python theme={null}
from litellm import acompletion
import asyncio, traceback
async def stream_call():
try:
response = await acompletion(
model="cometapi/your-model-id",
messages=[{"content": "Hello, how are you?", "role": "user"}],
stream=True,
)
async for chunk in response:
print(chunk)
except Exception:
print(f"Error: {traceback.format_exc()}")
asyncio.run(stream_call())
```
* **Формат модели**: модели CometAPI используют префикс `cometapi/`, например `cometapi/your-model-id`. Доступные модели смотрите на странице [Модели CometAPI](/ru/overview/models).
* **Параметры отклика**: LiteLLM поддерживает `temperature`, `max_tokens` и `top_p` — добавляйте их в любой вызов `completion()`, например `completion(..., temperature=0.7)`.
* **Обработка ошибок**: Оборачивайте вызовы в `try/except`, чтобы перехватывать ошибки недействительного ключа или проблемы сети.
* **Безопасность**: Никогда не коммитьте API keys в систему контроля версий. Используйте переменные окружения или менеджер секретов.
* **Лимиты запросов**: Отслеживайте использование в [консоли CometAPI](https://www.cometapi.com/console).
* **Больше документации**: [Документация LiteLLM](https://docs.litellm.ai/docs/) — [быстрый старт CometAPI](/ru/overview/quick-start)