> ## Documentation Index
> Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
> Use this file to discover all available pages before exploring further.
# Использование LlamaIndex с CometAPI
> Используйте это руководство, чтобы настроить LlamaIndex с CometAPI, задав base URL, API key и параметры model или provider.
LlamaIndex предоставляет класс `CometLLM` как нативную интеграцию с CometAPI. Используйте его для работы RAG-конвейеров, агентов и цепочек LLM с любой моделью из каталога CometAPI.
## Предварительные требования
* Python 3.8+
* Аккаунт CometAPI с активным API key — [получите его здесь](https://www.cometapi.com/console/token)
```bash theme={null}
pip install llama-index-llms-cometapi llama-index
```
```python theme={null}
from llama_index.llms.cometapi import CometLLM
import os
os.environ["COMETAPI_KEY"] = ""
api_key = os.getenv("COMETAPI_KEY")
```
Использовать переменные окружения безопаснее, чем хардкодить учетные данные в скриптах.
```python theme={null}
from llama_index.core.llms import ChatMessage
llm = CometLLM(
api_key=api_key,
max_tokens=256,
context_window=4096,
model="your-model-id",
)
# Chat call
messages = [
ChatMessage(role="system", content="You are a helpful assistant"),
ChatMessage(role="user", content="Say 'Hi' only!"),
]
resp = llm.chat(messages)
print(resp)
# Completion call
resp = llm.complete("Who is Kaiming He?")
print(resp)
```
Используйте `stream_chat` или `stream_complete` для вывода фрагментов в реальном времени:
```python theme={null}
# Streaming chat
message = ChatMessage(role="user", content="Tell me what ResNet is")
for chunk in llm.stream_chat([message]):
print(chunk.delta, end="")
# Streaming completion
for chunk in llm.stream_complete("Tell me about Large Language Models"):
print(chunk.delta, end="")
```
* **Модели**: См. [страницу моделей CometAPI](/ru/overview/models) для всех доступных вариантов.
* **Использование других моделей**: Инициализируйте с другим текущим model ID, например `CometLLM(api_key=api_key, model="your-model-id", max_tokens=1024)`.
* **Fine-tuning**: Передавайте `temperature` и `max_tokens` напрямую в `CometLLM(...)`.
* **Обработка ошибок**: Оборачивайте вызовы в `try/except`, чтобы перехватывать ошибки ключа или проблемы сети.
* **Безопасность**: Никогда не коммитьте API key в систему контроля версий. Используйте переменные окружения.
* **Больше документации**: [документация LlamaIndex](https://docs.llamaindex.ai/) — [быстрый старт CometAPI](/ru/overview/quick-start) — [пример в Colab](https://colab.research.google.com/github/run-llama/llama_index/blob/main/docs/docs/examples/llm/cometapi.ipynb)