Những gì bạn sẽ xây dựng
Bạn sẽ gửi một request Gemini nativePOST /v1beta/models/\{model\}:generateContent, sau đó so sánh nó với tùy chọn tương thích OpenAI POST /v1/chat/completions cho các ứng dụng đã sử dụng định dạng request Chat Completions.
Điều kiện tiên quyết
- Một API key CometAPI được lưu trong
COMETAPI_KEY - Một model ID văn bản Gemini từ trang Models
curl, Python 3.10+, hoặc Node.js 18+
API key, base URL, xác thực
Sử dụng endpoint Gemini native khi bạn muốn dùng các trường request của Gemini:x-goog-api-key cho các request HTTP Gemini native trực tiếp:
Định dạng Gemini native
Các request Gemini native sử dụngcontents, parts, và generationConfig. Hãy dùng đường dẫn này khi bạn cần các trường đặc thù của Gemini như điều khiển thinking, phần media, grounding với Google Search, hoặc toán tử streaming native.
Tùy chọn tương thích OpenAI
Sử dụng tuyến tương thích OpenAI khi bạn đang di chuyển một ứng dụng hiện có dùng OpenAI SDK hoặc Chat Completions và không cần các trường request native của Gemini.Giải thích luồng
Không trộn lẫn hai định dạng request này. Các trường Gemini native như
contents và generationConfig thuộc về tuyến generateContent. Các trường Chat Completions như messages thuộc về tuyến tương thích OpenAI.
Khắc phục sự cố / FAQ
Tôi nên bắt đầu với đường dẫn nào
Tôi nên bắt đầu với đường dẫn nào
Hãy bắt đầu với Gemini native
generateContent khi bạn đang xây dựng một quy trình Gemini mới. Sử dụng tuyến tương thích OpenAI khi một ứng dụng hiện có đã phụ thuộc vào OpenAI SDK hoặc định dạng request Chat Completions.Các trường Gemini native bị lỗi trên Chat Completions
Các trường Gemini native bị lỗi trên Chat Completions
Gửi các request
contents, parts, generationConfig, và streamGenerateContent tới endpoint Gemini native. Tuyến tương thích OpenAI mong đợi messages và các tham số Chat Completions.model ID Gemini bị lỗi
model ID Gemini bị lỗi
Hãy xác nhận rằng model ID có sẵn cho tài khoản của bạn và hỗ trợ tuyến bạn đang gọi. Sử dụng trang Models để tìm các model ID hiện có.
SDK trỏ tới sai dịch vụ
SDK trỏ tới sai dịch vụ
Đối với các request Google GenAI SDK, hãy đặt base URL thành
https://api.cometapi.com. Đối với các request OpenAI SDK, hãy đặt base_url trong Python hoặc baseURL trong Node.js thành https://api.cometapi.com/v1.Các bước tiếp theo
- Sử dụng tài liệu tham chiếu Gemini native API để xem đầy đủ các trường request và response của
generateContent. - Đọc tài liệu tham chiếu Chat Completions API để biết định dạng request tương thích OpenAI.
- Cấu hình client OpenAI SDK trong Sử dụng CometAPI với OpenAI SDK.
- Liệt kê các model khả dụng bằng Liệt kê các model CometAPI khả dụng.
- Thêm xử lý retry và rate-limit bằng Mã lỗi và chiến lược retry.