> ## Documentation Index
> Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
> Use this file to discover all available pages before exploring further.
# Bruk LlamaIndex med CometAPI
> Bruk denne veiledningen til å konfigurere LlamaIndex med CometAPI ved å angi base URL, API-nøkkel og modell- eller leverandørvalg.
LlamaIndex tilbyr `CometLLM`-klassen som en førsteklasses integrasjon med CometAPI. Bruk den til å drive RAG-pipelines, agenter og LLM-kjeder med en hvilken som helst modell i CometAPIs katalog.
## Forutsetninger
* Python 3.8+
* En CometAPI-konto med en aktiv API-nøkkel — [skaff din her](https://www.cometapi.com/console/token)
```bash theme={null}
pip install llama-index-llms-cometapi llama-index
```
```python theme={null}
from llama_index.llms.cometapi import CometLLM
import os
os.environ["COMETAPI_KEY"] = ""
api_key = os.getenv("COMETAPI_KEY")
```
Å bruke miljøvariabler er tryggere enn å hardkode legitimasjon i skript.
```python theme={null}
from llama_index.core.llms import ChatMessage
llm = CometLLM(
api_key=api_key,
max_tokens=256,
context_window=4096,
model="your-model-id",
)
# Chat call
messages = [
ChatMessage(role="system", content="You are a helpful assistant"),
ChatMessage(role="user", content="Say 'Hi' only!"),
]
resp = llm.chat(messages)
print(resp)
# Completion call
resp = llm.complete("Who is Kaiming He?")
print(resp)
```
Bruk `stream_chat` eller `stream_complete` for chunked output i sanntid:
```python theme={null}
# Streaming chat
message = ChatMessage(role="user", content="Tell me what ResNet is")
for chunk in llm.stream_chat([message]):
print(chunk.delta, end="")
# Streaming completion
for chunk in llm.stream_complete("Tell me about Large Language Models"):
print(chunk.delta, end="")
```
* **Models**: Se [CometAPI Models-siden](/no/overview/models) for alle tilgjengelige alternativer.
* **Using other models**: Initialiser med en annen gjeldende model ID, f.eks. `CometLLM(api_key=api_key, model="your-model-id", max_tokens=1024)`.
* **Fine-tuning**: Send `temperature` og `max_tokens` direkte til `CometLLM(...)`.
* **Error handling**: Pakk kall inn i `try/except` for å fange nøkkelfeil eller nettverksproblemer.
* **Security**: Commit aldri API-nøkler til versjonskontroll. Bruk miljøvariabler.
* **More docs**: [LlamaIndex-dokumentasjon](https://docs.llamaindex.ai/) — [CometAPI hurtigstart](/no/overview/quick-start) — [Colab-eksempel](https://colab.research.google.com/github/run-llama/llama_index/blob/main/docs/docs/examples/llm/cometapi.ipynb)