> ## Documentation Index
> Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
> Use this file to discover all available pages before exploring further.
# Sử dụng LiteLLM với CometAPI
> Sử dụng hướng dẫn này để cấu hình LiteLLM với CometAPI bằng cách thiết lập base URL, API key và các tùy chọn model hoặc provider.
LiteLLM cung cấp một API Python thống nhất cho hơn 100 nhà cung cấp LLM. CometAPI được hỗ trợ gốc — sử dụng tiền tố `cometapi/` để định tuyến request thông qua danh mục model của CometAPI.
## Điều kiện tiên quyết
* Python 3.6+
* Tài khoản CometAPI với API key đang hoạt động — [lấy tại đây](https://www.cometapi.com/console/token)
```bash theme={null}
pip install litellm
```
Đặt API key dưới dạng biến môi trường (khuyến nghị) hoặc truyền trực tiếp:
```python theme={null}
import os
from litellm import completion
# Recommended: environment variable
os.environ["COMETAPI_KEY"] = ""
# Alternative: pass inline
api_key = ""
```
Sử dụng biến môi trường để tránh hardcode thông tin xác thực nhạy cảm trong script của bạn.
Sử dụng định dạng `cometapi/` để chỉ định model. Bạn có thể truyền key qua biến môi trường hoặc truyền tường minh:
```python theme={null}
messages = [{"content": "Hello, how are you?", "role": "user"}]
# Method 1: environment variable (recommended)
response = completion(model="cometapi/your-model-id", messages=messages)
# Method 2: explicit API key
response = completion(model="cometapi/your-model-id", messages=messages, api_key=api_key)
print(response.choices[0].message.content)
```
Sử dụng `acompletion` với `stream=True` để nhận phản hồi không chặn theo thời gian thực:
```python theme={null}
from litellm import acompletion
import asyncio, traceback
async def stream_call():
try:
response = await acompletion(
model="cometapi/your-model-id",
messages=[{"content": "Hello, how are you?", "role": "user"}],
stream=True,
)
async for chunk in response:
print(chunk)
except Exception:
print(f"Error: {traceback.format_exc()}")
asyncio.run(stream_call())
```
* **Định dạng model**: Các model CometAPI sử dụng tiền tố `cometapi/`, ví dụ `cometapi/your-model-id`. Xem [trang Models của CometAPI](/vi/overview/models) để biết các model khả dụng.
* **Tinh chỉnh phản hồi**: LiteLLM hỗ trợ `temperature`, `max_tokens`, và `top_p` — thêm chúng vào bất kỳ lệnh gọi `completion()` nào, ví dụ `completion(..., temperature=0.7)`.
* **Xử lý lỗi**: Bọc các lệnh gọi trong `try/except` để bắt lỗi key không hợp lệ hoặc sự cố mạng.
* **Bảo mật**: Không bao giờ commit API key vào hệ thống quản lý phiên bản. Hãy dùng biến môi trường hoặc trình quản lý secrets.
* **Giới hạn tốc độ**: Theo dõi mức sử dụng trong [CometAPI console](https://www.cometapi.com/console).
* **Tài liệu thêm**: [Tài liệu LiteLLM](https://docs.litellm.ai/docs/) — [Bắt đầu nhanh với CometAPI](/vi/overview/quick-start)