سرویس‌دهی مدل
آیدین مدل‌های ثبت‌شده را روی اندپوینت‌های اینفرنس مدیریت‌شده مبتنی بر KServe سرویس‌دهی می‌کند. پلتفرم مدل را اجرا می‌کند، ترافیک را به آن مسیریابی می‌کند و آن را از طریق لایهٔ دسترسی استاندارد پلتفرم در اختیار ورک‌لودهای شما می‌گذارد.
امروز چه چیزی در دسترس است
Section titled “امروز چه چیزی در دسترس است”| قابلیت | وضعیت دسترسی |
|---|---|
| اندپوینت‌های اینفرنس مدیریت‌شده برای آرتیفکت‌های مدل دیپلوی‌شده | در دسترس |
| Runtimeهای استاندارد اینفرنس (مثلاً خانوادهٔ vLLM، Triton، TorchServe) | در دسترس |
| موتور سرویس‌دهی پرسرعت مدل‌های زبانی (مبتنی بر vLLM خصوصی) | به‌زودی |
| اندپوینت‌های سرورلس با مقیاس به صفر | به‌زودی |
وضعیت دسترسی بر اساس وضعیت کاتالوگ قابلیت‌های پلتفرم (۲۰۲۶-۱۱-۱۰) است. اندپوینت‌های به‌زودی هنوز عرضه نشده‌اند — در هیچ‌جای این وب‌سایت به‌صورت راهنما مستند نشده‌اند.
رابطهٔ سرویس‌دهی با دیگر بخش‌ها
Section titled “رابطهٔ سرویس‌دهی با دیگر بخش‌ها”- مدل‌ها از رجیستری مدل می‌آیند.
- آموزش در نوت‌بوک‌ها، پایپ‌لاین‌ها یا آزمایش‌های Katib انجام می‌شود.
- محاسبات اندپوینت تابع همان مدل مجوزدهی و سهمیه است: به منابع ابری بروید.
ارجاع بالادستی
Section titled “ارجاع بالادستی”KServe یک پروژهٔ متن‌باز است؛ آیدین یک دیپلوی مدیریت‌شده با نسخهٔ قفل‌شده از آن را اجرا می‌کند. هر جا رفتار آیدین با مستندات بالادستی KServe متفاوت باشد، رفتار مستندشدهٔ آیدین ملاک است.