> ## Documentation Index
> Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
> Use this file to discover all available pages before exploring further.
# Usa LlamaIndex con CometAPI
> Usa questa guida per configurare LlamaIndex con CometAPI impostando il base URL, la chiave API e le opzioni di model o provider.
LlamaIndex offre la classe `CometLLM` come integrazione di primo livello con CometAPI. Usala per alimentare pipeline RAG, agenti e catene LLM con qualsiasi modello nel catalogo di CometAPI.
## Prerequisiti
* Python 3.8+
* Un account CometAPI con una chiave API attiva — [ottieni la tua qui](https://www.cometapi.com/console/token)
```bash theme={null}
pip install llama-index-llms-cometapi llama-index
```
```python theme={null}
from llama_index.llms.cometapi import CometLLM
import os
os.environ["COMETAPI_KEY"] = ""
api_key = os.getenv("COMETAPI_KEY")
```
Usare le variabili d’ambiente è più sicuro che inserire le credenziali direttamente negli script.
```python theme={null}
from llama_index.core.llms import ChatMessage
llm = CometLLM(
api_key=api_key,
max_tokens=256,
context_window=4096,
model="your-model-id",
)
# Chat call
messages = [
ChatMessage(role="system", content="You are a helpful assistant"),
ChatMessage(role="user", content="Say 'Hi' only!"),
]
resp = llm.chat(messages)
print(resp)
# Completion call
resp = llm.complete("Who is Kaiming He?")
print(resp)
```
Usa `stream_chat` o `stream_complete` per un output in tempo reale suddiviso in chunk:
```python theme={null}
# Streaming chat
message = ChatMessage(role="user", content="Tell me what ResNet is")
for chunk in llm.stream_chat([message]):
print(chunk.delta, end="")
# Streaming completion
for chunk in llm.stream_complete("Tell me about Large Language Models"):
print(chunk.delta, end="")
```
* **Models**: Consulta la [pagina Models di CometAPI](/it/overview/models) per tutte le opzioni disponibili.
* **Uso di altri models**: Inizializza con un model ID corrente diverso, ad esempio `CometLLM(api_key=api_key, model="your-model-id", max_tokens=1024)`.
* **Fine-tuning**: Passa `temperature` e `max_tokens` direttamente a `CometLLM(...)`.
* **Gestione degli errori**: Racchiudi le chiamate in `try/except` per intercettare errori relativi alla chiave o problemi di rete.
* **Sicurezza**: Non salvare mai le chiavi API nel controllo di versione. Usa le variabili d’ambiente.
* **Altra documentazione**: [documentazione di LlamaIndex](https://docs.llamaindex.ai/) — [guida rapida di CometAPI](/it/overview/quick-start) — [esempio Colab](https://colab.research.google.com/github/run-llama/llama_index/blob/main/docs/docs/examples/llm/cometapi.ipynb)