> ## Documentation Index
> Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
> Use this file to discover all available pages before exploring further.
# LiteLLM mit CometAPI verwenden
> Verwenden Sie diese Anleitung, um LiteLLM mit CometAPI zu konfigurieren, indem Sie die base URL, den API-Schlüssel sowie model- oder provider-Optionen festlegen.
LiteLLM bietet eine einheitliche Python-API für mehr als 100 LLM-Anbieter. CometAPI wird nativ unterstützt — verwenden Sie das Präfix `cometapi/`, um Anfragen über den Modellkatalog von CometAPI zu leiten.
## Voraussetzungen
* Python 3.6+
* Ein CometAPI-Konto mit einem aktiven API-Schlüssel — [hier erhalten](https://www.cometapi.com/console/token)
```bash theme={null}
pip install litellm
```
Legen Sie den API-Schlüssel als Umgebungsvariable fest (empfohlen) oder übergeben Sie ihn inline:
```python theme={null}
import os
from litellm import completion
# Recommended: environment variable
os.environ["COMETAPI_KEY"] = ""
# Alternative: pass inline
api_key = ""
```
Verwenden Sie Umgebungsvariablen, um zu vermeiden, dass sensible Zugangsdaten fest im Skript hinterlegt werden.
Verwenden Sie das Format `cometapi/`, um Modelle anzugeben. Sie können den Schlüssel über eine Umgebungsvariable oder explizit übergeben:
```python theme={null}
messages = [{"content": "Hello, how are you?", "role": "user"}]
# Method 1: environment variable (recommended)
response = completion(model="cometapi/your-model-id", messages=messages)
# Method 2: explicit API key
response = completion(model="cometapi/your-model-id", messages=messages, api_key=api_key)
print(response.choices[0].message.content)
```
Verwenden Sie `acompletion` mit `stream=True` für nicht blockierende Echtzeit-Antworten:
```python theme={null}
from litellm import acompletion
import asyncio, traceback
async def stream_call():
try:
response = await acompletion(
model="cometapi/your-model-id",
messages=[{"content": "Hello, how are you?", "role": "user"}],
stream=True,
)
async for chunk in response:
print(chunk)
except Exception:
print(f"Error: {traceback.format_exc()}")
asyncio.run(stream_call())
```
* **Modellformat**: CometAPI-Modelle verwenden das Präfix `cometapi/`, z. B. `cometapi/your-model-id`. Verfügbare Modelle finden Sie auf der [CometAPI-Modelle-Seite](/de/overview/models).
* **Fine-tuning von Antworten**: LiteLLM unterstützt `temperature`, `max_tokens` und `top_p` — fügen Sie diese zu jedem `completion()`-Aufruf hinzu, z. B. `completion(..., temperature=0.7)`.
* **Fehlerbehandlung**: Verpacken Sie Aufrufe in `try/except`, um Fehler durch ungültige Schlüssel oder Netzwerkprobleme abzufangen.
* **Sicherheit**: Übertragen Sie API-Schlüssel niemals in die Versionsverwaltung. Verwenden Sie Umgebungsvariablen oder einen Secrets Manager.
* **Rate limits**: Überwachen Sie die Nutzung in der [CometAPI-Konsole](https://www.cometapi.com/console).
* **Weitere Dokumentation**: [LiteLLM-Dokumentation](https://docs.litellm.ai/docs/) — [CometAPI-Schnellstart](/de/overview/quick-start)