> ## Documentation Index
> Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
> Use this file to discover all available pages before exploring further.
# Bruk LiteLLM med CometAPI
> Bruk denne veiledningen for å konfigurere LiteLLM med CometAPI ved å angi base URL, API-nøkkel og modell- eller leverandørvalg.
LiteLLM tilbyr et enhetlig Python-API for 100+ LLM-leverandører. CometAPI støttes innebygd — bruk prefikset `cometapi/` for å rute forespørsler gjennom CometAPIs modellkatalog.
## Forutsetninger
* Python 3.6+
* En CometAPI-konto med en aktiv API-nøkkel — [skaff din her](https://www.cometapi.com/console/token)
```bash theme={null}
pip install litellm
```
Sett API-nøkkelen som en miljøvariabel (anbefalt) eller send den inline:
```python theme={null}
import os
from litellm import completion
# Recommended: environment variable
os.environ["COMETAPI_KEY"] = ""
# Alternative: pass inline
api_key = ""
```
Bruk miljøvariabler for å unngå å hardkode sensitive legitimasjonsopplysninger i skriptene dine.
Bruk formatet `cometapi/` for å spesifisere modeller. Du kan sende nøkkelen via miljøvariabel eller eksplisitt:
```python theme={null}
messages = [{"content": "Hello, how are you?", "role": "user"}]
# Method 1: environment variable (recommended)
response = completion(model="cometapi/your-model-id", messages=messages)
# Method 2: explicit API key
response = completion(model="cometapi/your-model-id", messages=messages, api_key=api_key)
print(response.choices[0].message.content)
```
Bruk `acompletion` med `stream=True` for ikke-blokkerende svar i sanntid:
```python theme={null}
from litellm import acompletion
import asyncio, traceback
async def stream_call():
try:
response = await acompletion(
model="cometapi/your-model-id",
messages=[{"content": "Hello, how are you?", "role": "user"}],
stream=True,
)
async for chunk in response:
print(chunk)
except Exception:
print(f"Error: {traceback.format_exc()}")
asyncio.run(stream_call())
```
* **Modellformat**: CometAPI-modeller bruker prefikset `cometapi/`, f.eks. `cometapi/your-model-id`. Se [CometAPI Models page](/no/overview/models) for tilgjengelige modeller.
* **Fine-tuning-svar**: LiteLLM støtter `temperature`, `max_tokens` og `top_p` — legg dem til i et hvilket som helst `completion()`-kall, f.eks. `completion(..., temperature=0.7)`.
* **Feilhåndtering**: Pakk kall inn i `try/except` for å fange opp ugyldige nøkkelfeil eller nettverksproblemer.
* **Sikkerhet**: Commit aldri API-nøkler til versjonskontroll. Bruk miljøvariabler eller en secrets manager.
* **Rate limits**: Overvåk bruk i [CometAPI-konsollen](https://www.cometapi.com/console).
* **Mer dokumentasjon**: [LiteLLM documentation](https://docs.litellm.ai/docs/) — [CometAPI quick start](/no/overview/quick-start)