> ## Documentation Index
> Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
> Use this file to discover all available pages before exploring further.

# Rate limitleri ve eşzamanlılığı yönetin

> İstek eşzamanlılığını sınırlandırarak, `429` yanıtlarını jitter ile yeniden deneyerek ve kullanımı model ile route bazında izleyerek CometAPI rate limitlerini yönetin.

İstekler uygulamanızdan çıkmadan önce eşzamanlılığı kontrol ederek rate limitleri yönetin. CometAPI `429` döndürdüğünde, exponential backoff ve jitter ile yeniden deneyin; tekrar eden yeniden denemeler olursa ani trafik artışını azaltın.

## Eşzamanlılığı sınırlandırın

Aşağıdaki Python örneği, async semaphore kullanarak eşzamanlı chat isteklerini sınırlar:

```python theme={null}
import asyncio
import os
from openai import AsyncOpenAI

client = AsyncOpenAI(
    api_key=os.environ["COMETAPI_KEY"],
    base_url="https://api.cometapi.com/v1",
)

semaphore = asyncio.Semaphore(5)

async def ask(prompt):
    async with semaphore:
        completion = await client.chat.completions.create(
            model="your-model-id",
            messages=[{"role": "user", "content": prompt}],
        )
        return completion.choices[0].message.content

async def main():
    prompts = ["Say hello.", "Write a title.", "Return one JSON key."]
    results = await asyncio.gather(*(ask(prompt) for prompt in prompts))
    print(results)

asyncio.run(main())
```

Sonuç, model çıktılarından oluşan bir dizidir:

```json theme={null}
[
  "Hello.",
  "A concise title",
  "{\"key\":\"value\"}"
]
```

## Rate limitlerini yeniden deneyin

Aşağıdaki JavaScript örneği, `429` yanıtlarını jitter ile yeniden dener:

```javascript theme={null}
import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.COMETAPI_KEY,
  baseURL: "https://api.cometapi.com/v1",
});

async function sleep(milliseconds) {
  return new Promise((resolve) => setTimeout(resolve, milliseconds));
}

async function createCompletion() {
  for (let attempt = 0; attempt < 5; attempt += 1) {
    try {
      return await client.chat.completions.create({
        model: "your-model-id",
        messages: [{ role: "user", content: "Say hello." }],
      });
    } catch (error) {
      if (error.status !== 429 || attempt === 4) {
        throw error;
      }

      const delay = Math.min(30000, 1000 * 2 ** attempt);
      await sleep(delay + Math.random() * 1000);
    }
  }
}

const completion = await createCompletion();
console.log(completion.choices[0].message.content);
```

Başarılı yanıt, normal bir chat completion içerir:

```json theme={null}
{
  "choices": [
    {
      "message": {
        "content": "Hello."
      }
    }
  ]
}
```

## Yaygın hatalar

| Error                       | Fix                                                               |
| --------------------------- | ----------------------------------------------------------------- |
| Sınırsız paralel istek      | Bir semaphore, kuyruk veya worker pool ekleyin.                   |
| Tüm hataları yeniden deneme | Yalnızca `429` ve geçici sunucu hatalarını yeniden deneyin.       |
| Model bazında metrik yok    | Her istek için route, model ID, durum ve gecikmeyi loglayın.      |
| Yeniden deneme fırtınası    | Jitter ekleyin ve maksimum yeniden deneme gecikmesini sınırlayın. |

## İlgili bağlantılar

* [Hata kodları ve yeniden deneme stratejisi](/tr/guides/error-codes-and-retry-strategy)
* [Hata kodları ve işleme](/tr/errors/error-codes-handling)
* [Models sayfası](/tr/overview/models)
* [Model dizini](https://www.cometapi.com/models/)
* [Fiyatlandırma](https://www.cometapi.com/pricing/)
* [CometAPI hızlı başlangıç](/tr/overview/quick-start)

<script type="application/ld+json">
  {`
    {
    "@context": "https://schema.org",
    "@graph": [
      {
        "@type": "TechArticle",
        "@id": "https://apidoc.cometapi.com/guides/rate-limits-and-concurrency",
        "headline": "Rate limit ve eşzamanlılık nasıl yönetilir?",
        "description": "CometAPI rate limitlerini, eşzamanlılığı sınırlandırarak, 429 yanıtlarını jitter ile yeniden deneyerek ve kullanımı model ile route bazında izleyerek yönetin.",
        "url": "https://apidoc.cometapi.com/guides/rate-limits-and-concurrency",
        "author": {
          "@type": "Organization",
          "name": "CometAPI"
        },
        "publisher": {
          "@type": "Organization",
          "name": "CometAPI",
          "url": "https://www.cometapi.com"
        }
      },
      {
        "@type": "BreadcrumbList",
        "itemListElement": [
          {
            "@type": "ListItem",
            "position": 1,
            "name": "CometAPI Dokümanları",
            "item": "https://apidoc.cometapi.com/"
          },
          {
            "@type": "ListItem",
            "position": 2,
            "name": "Kılavuzlar",
            "item": "https://apidoc.cometapi.com/guides/use-cometapi-with-openai-sdk"
          },
          {
            "@type": "ListItem",
            "position": 3,
            "name": "Rate limit ve eşzamanlılık nasıl yönetilir?",
            "item": "https://apidoc.cometapi.com/guides/rate-limits-and-concurrency"
          }
        ]
      }
    ]
    }
    `}
</script>