Skip to main content
يوفّر Langfuse إمكانات observability لـ LLM، وإدارة Prompt، وplaygrounds، ومسارات عمل التقييم. قم بتهيئة LLM Connection في Langfuse مع CometAPI عندما تريد أن يستخدم Langfuse Playground أو تقييمات LLM-as-a-Judge نماذج CometAPI.

المتطلبات الأساسية

تهيئة التكامل

1

إنشاء LLM connection في Langfuse

في Langfuse، افتح Project SettingsLLM Connections. ابدأ مسار إضافة مفتاح API لـ LLM.
2

اختيار OpenAI adapter

اختر OpenAI باعتباره provider. يستخدم Langfuse هذا adapter لموفري النماذج الذين يدعمون مخطط OpenAI API.
3

إدخال بيانات اعتماد CometAPI

قم بتهيئة الاتصال باستخدام هذه القيم:إذا كان Langfuse يعرض حقل base URL ضمن Advanced Settings، فقم بتوسيع هذا القسم قبل حفظ الاتصال.
4

الاختبار في Playground

في Langfuse Playground، اختر LLM connection الخاصة بـ CometAPI وأحد model IDs التي تمت تهيئتها. أرسل Prompt قصيرًا للتأكد من أن Langfuse يتلقى استجابة.

استخدام CometAPI لـ LLM-as-a-Judge

يمكن لمقيّمي LLM-as-a-Judge في Langfuse استخدام LLM connection نفسها. اختر اتصال CometAPI في تهيئة المقيّم، ثم اختر model ID يدعم tool calling إذا كان Prompt التقييم لديك يتطلب استخراجًا منظّمًا. استخدم خيارات provider فقط عندما يدعم نموذج CometAPI المحدد حقول الطلب تلك. لاكتشاف النماذج، استخدم صفحة نماذج CometAPI أو واجهة /v1/models API.

استكشاف الأخطاء وإصلاحها

أضف model ID المطابق تمامًا من CometAPI إلى قائمة custom model IDs في LLM connection. لا يكتشف Langfuse كل نموذج تلقائيًا لموفري OpenAI-compatible المخصصين.
استخدم https://api.cometapi.com/v1 باعتباره base URL. يضيف Langfuse المسار المتوافق مع OpenAI الخاص بالـ adapter المحدد.
تأكد من أن النموذج المحدد يدعم ميزات الطلب التي يستخدمها المقيّم، مثل tool calling أو إخراج JSON.

موارد ذات صلة