> ## Documentation Index
> Fetch the complete documentation index at: https://apidoc.cometapi.com/llms.txt
> Use this file to discover all available pages before exploring further.

# LlamaIndex mit CometAPI verwenden

> Verwenden Sie diese Anleitung, um LlamaIndex mit CometAPI zu konfigurieren, indem Sie die base URL, den API-Schlüssel sowie model- oder provider-Optionen festlegen.

LlamaIndex bietet die Klasse `CometLLM` als erstklassige Integration mit CometAPI. Verwenden Sie sie, um RAG-Pipelines, Agents und LLM-Ketten mit jedem model im Katalog von CometAPI zu betreiben.

## Voraussetzungen

* Python 3.8+
* Ein CometAPI-Konto mit einem aktiven API-Schlüssel — [holen Sie sich Ihren hier](https://www.cometapi.com/console/token)

<Steps>
  <Step title="Installieren Sie die LlamaIndex CometAPI-Integration">
    ```bash theme={null}
    pip install llama-index-llms-cometapi llama-index
    ```
  </Step>

  <Step title="Legen Sie Ihren API-Schlüssel fest">
    ```python theme={null}
    from llama_index.llms.cometapi import CometLLM
    import os

    os.environ["COMETAPI_KEY"] = "<COMETAPI_KEY>"
    api_key = os.getenv("COMETAPI_KEY")
    ```

    <Note>
      Die Verwendung von Umgebungsvariablen ist sicherer, als Anmeldedaten fest in Skripten zu hinterlegen.
    </Note>
  </Step>

  <Step title="Initialisieren Sie das Modell und führen Sie Completion-Aufrufe aus">
    ```python theme={null}
    from llama_index.core.llms import ChatMessage

    llm = CometLLM(
        api_key=api_key,
        max_tokens=256,
        context_window=4096,
        model="your-model-id",
    )

    # Chat call
    messages = [
        ChatMessage(role="system", content="You are a helpful assistant"),
        ChatMessage(role="user", content="Say 'Hi' only!"),
    ]
    resp = llm.chat(messages)
    print(resp)

    # Completion call
    resp = llm.complete("Who is Kaiming He?")
    print(resp)
    ```
  </Step>

  <Step title="Aktivieren Sie Streaming">
    Verwenden Sie `stream_chat` oder `stream_complete` für chunked Ausgabe in Echtzeit:

    ```python theme={null}
    # Streaming chat
    message = ChatMessage(role="user", content="Tell me what ResNet is")
    for chunk in llm.stream_chat([message]):
        print(chunk.delta, end="")

    # Streaming completion
    for chunk in llm.stream_complete("Tell me about Large Language Models"):
        print(chunk.delta, end="")
    ```
  </Step>
</Steps>

<AccordionGroup>
  <Accordion title="Tipps und Fehlerbehebung">
    * **Models**: Auf der Seite [CometAPI Models](/de/overview/models) finden Sie alle verfügbaren Optionen.
    * **Using other models**: Initialisieren Sie mit einer anderen aktuellen model ID, z. B. `CometLLM(api_key=api_key, model="your-model-id", max_tokens=1024)`.
    * **Fine-tuning**: Übergeben Sie `temperature` und `max_tokens` direkt an `CometLLM(...)`.
    * **Error handling**: Kapseln Sie Aufrufe in `try/except`, um Schlüssel-Fehler oder Netzwerkprobleme abzufangen.
    * **Security**: Committen Sie API-Schlüssel niemals in die Versionsverwaltung. Verwenden Sie Umgebungsvariablen.
    * **More docs**: [LlamaIndex-Dokumentation](https://docs.llamaindex.ai/) — [CometAPI-Schnellstart](/de/overview/quick-start) — [Colab-Beispiel](https://colab.research.google.com/github/run-llama/llama_index/blob/main/docs/docs/examples/llm/cometapi.ipynb)
  </Accordion>
</AccordionGroup>

<script type="application/ld+json">
  {`
    {
    "@context": "https://schema.org",
    "@graph": [
      {
        "@type": "HowTo",
        "@id": "https://apidoc.cometapi.com/integrations/llamaindex#howto",
        "name": "LlamaIndex mit CometAPI verwenden",
        "description": "Verwenden Sie diese Anleitung, um LlamaIndex mit CometAPI zu konfigurieren, indem Sie die Base-URL, den API-Schlüssel sowie Modell- oder Anbieteroptionen festlegen.",
        "step": [
          {
            "@type": "HowToStep",
            "@id": "https://apidoc.cometapi.com/integrations/llamaindex#step-1",
            "position": 1,
            "name": "Installieren Sie die LlamaIndex CometAPI-Integration",
            "text": "Führen Sie den Schritt „Installieren Sie die LlamaIndex CometAPI-Integration“ in der Anleitung „LlamaIndex mit CometAPI verwenden“ aus."
          },
          {
            "@type": "HowToStep",
            "@id": "https://apidoc.cometapi.com/integrations/llamaindex#step-2",
            "position": 2,
            "name": "Legen Sie Ihren API-Schlüssel fest",
            "text": "Speichern Sie Ihren CometAPI-API-Schlüssel in der Umgebungsvariablen oder im Einstellungsfeld, das von der Integration verwendet wird."
          },
          {
            "@type": "HowToStep",
            "@id": "https://apidoc.cometapi.com/integrations/llamaindex#step-3",
            "position": 3,
            "name": "Initialisieren Sie das Modell und führen Sie Completion-Aufrufe aus",
            "text": "Führen Sie den Schritt „Initialisieren Sie das Modell und führen Sie Completion-Aufrufe aus“ in der Anleitung „LlamaIndex mit CometAPI verwenden“ aus."
          },
          {
            "@type": "HowToStep",
            "@id": "https://apidoc.cometapi.com/integrations/llamaindex#step-4",
            "position": 4,
            "name": "Aktivieren Sie Streaming",
            "text": "Führen Sie den Schritt „Aktivieren Sie Streaming“ in der Anleitung „LlamaIndex mit CometAPI verwenden“ aus."
          }
        ]
      },
      {
        "@type": "BreadcrumbList",
        "itemListElement": [
          {
            "@type": "ListItem",
            "position": 1,
            "name": "CometAPI-Dokumentation",
            "item": "https://apidoc.cometapi.com/"
          },
          {
            "@type": "ListItem",
            "position": 2,
            "name": "Integrationen",
            "item": "https://apidoc.cometapi.com/integrations"
          },
          {
            "@type": "ListItem",
            "position": 3,
            "name": "LlamaIndex mit CometAPI verwenden",
            "item": "https://apidoc.cometapi.com/integrations/llamaindex"
          }
        ]
      }
    ]
    }
    `}
</script>
