> ## Documentation Index
> Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
> Use this file to discover all available pages before exploring further.
# Używanie LiteLLM z CometAPI
> Skorzystaj z tego przewodnika, aby skonfigurować LiteLLM z CometAPI poprzez ustawienie base URL, klucza API oraz opcji model lub provider.
LiteLLM zapewnia ujednolicone API Pythona dla ponad 100 dostawców LLM. CometAPI jest obsługiwane natywnie — użyj prefiksu `cometapi/`, aby kierować żądania przez katalog modeli CometAPI.
## Wymagania wstępne
* Python 3.6+
* Konto CometAPI z aktywnym kluczem API — [pobierz go tutaj](https://www.cometapi.com/console/token)
```bash theme={null}
pip install litellm
```
Ustaw klucz API jako zmienną środowiskową (zalecane) lub przekaż go inline:
```python theme={null}
import os
from litellm import completion
# Recommended: environment variable
os.environ["COMETAPI_KEY"] = ""
# Alternative: pass inline
api_key = ""
```
Używaj zmiennych środowiskowych, aby uniknąć umieszczania w skryptach na stałe wrażliwych danych uwierzytelniających.
Użyj formatu `cometapi/`, aby określić modele. Możesz przekazać klucz przez zmienną środowiskową lub jawnie:
```python theme={null}
messages = [{"content": "Hello, how are you?", "role": "user"}]
# Method 1: environment variable (recommended)
response = completion(model="cometapi/your-model-id", messages=messages)
# Method 2: explicit API key
response = completion(model="cometapi/your-model-id", messages=messages, api_key=api_key)
print(response.choices[0].message.content)
```
Użyj `acompletion` z `stream=True` do nieblokujących odpowiedzi w czasie rzeczywistym:
```python theme={null}
from litellm import acompletion
import asyncio, traceback
async def stream_call():
try:
response = await acompletion(
model="cometapi/your-model-id",
messages=[{"content": "Hello, how are you?", "role": "user"}],
stream=True,
)
async for chunk in response:
print(chunk)
except Exception:
print(f"Error: {traceback.format_exc()}")
asyncio.run(stream_call())
```
* **Format modelu**: Modele CometAPI używają prefiksu `cometapi/`, np. `cometapi/your-model-id`. Dostępne modele znajdziesz na stronie [CometAPI Models](/pl/overview/models).
* **Fine-tuning odpowiedzi**: LiteLLM obsługuje `temperature`, `max_tokens` i `top_p` — dodaj je do dowolnego wywołania `completion()`, np. `completion(..., temperature=0.7)`.
* **Obsługa błędów**: Umieść wywołania w `try/except`, aby przechwytywać błędy nieprawidłowego klucza lub problemy z siecią.
* **Bezpieczeństwo**: Nigdy nie zapisuj kluczy API w systemie kontroli wersji. Używaj zmiennych środowiskowych lub menedżera sekretów.
* **Rate limits**: Monitoruj użycie w [konsoli CometAPI](https://www.cometapi.com/console).
* **Więcej dokumentacji**: [Dokumentacja LiteLLM](https://docs.litellm.ai/docs/) — [szybki start CometAPI](/pl/overview/quick-start)