پرش به مطلب اصلی

سرویس سرور GPU

سرویس سرور GPU ابرآمد امکان استفاده از توان پردازشی کارت‌های گرافیکی پیشرفته را برای اجرای پردازش‌های سنگین محاسباتی، به‌ویژه در حوزه هوش مصنوعی، یادگیری ماشین، یادگیری عمیق و پردازش داده‌های حجیم فراهم می‌کند.

در این سرویس، منابع GPU به‌صورت ایزوله و در قالب محیط‌های کانتینری مدیریت‌شده (Managed Container) در اختیار کاربران قرار می‌گیرد. مدیریت زیرساخت، پیکربندی GPU، نگهداری و پایش سرویس توسط تیم ابرآمد انجام می‌شود و کاربران می‌توانند بدون درگیرشدن با پیچیدگی‌های زیرساخت، workloadهای محاسباتی خود را اجرا کنند.

معماری سرویس

در سرویس GPU ابرآمد، پردازش‌ها در کانتینرهای مدیریت‌شده اجرا می‌شوند که به منابع GPU اختصاصی دسترسی دارند. این معماری باعث می‌شود کاربران نیازی به مدیریت مستقیم سرور، نصب درایورها یا پیکربندی محیط GPU نداشته باشند.

ویژگی‌های این سرویس شامل موارد زیر است:

  • اجرای workloadها در محیط کانتینری ایزوله
  • مدیریت زیرساخت و GPU توسط پلتفرم ابرآمد
  • امکان استفاده بهینه از منابع GPU
  • مناسب برای اجرای مدل‌های هوش مصنوعی و پردازش‌های محاسباتی سنگین

پشتیبانی از فناوری MIG

در این سرویس از فناوری MIG (Multi‑Instance GPU) استفاده می‌شود.

این فناوری امکان تقسیم یک GPU فیزیکی به چند بخش مستقل را فراهم می‌کند. هر بخش از GPU به‌صورت ایزوله در اختیار یک workload قرار می‌گیرد و می‌تواند به‌طور مستقل اجرا شود.

مزایای استفاده از MIG:

  • استفاده بهینه از منابع GPU
  • اجرای هم‌زمان چند workload
  • ایزوله‌بودن پردازش‌ها
  • کاهش هزینه نسبت به استفاده از یک GPU کامل

بسته‌های GPU (MIG)

در این سرویس می‌توانید بسته GPU موردنیاز خود را انتخاب کنید. منابع GPU به‌صورت بخش‌بندی‌شده در اختیار شما قرار می‌گیرد و پردازش‌ها در محیط کانتینری مدیریت‌شده اجرا می‌شوند.

بسته‌های قابل‌ارائه:

  • A100 (MIG)
    • RAM: 40 GB
  • H100 (MIG)
    • RAM: 96 GB

موارد استفاده

سرورهای GPU ابرآمد برای کاربردهای مختلف محاسباتی مناسب هستند، از جمله:

  • آموزش و اجرای مدل‌های یادگیری ماشین و یادگیری عمیق
  • اجرای مدل‌های زبانی بزرگ (LLM)
  • پردازش تصویر و ویدئو
  • تحلیل داده‌های حجیم
  • پردازش‌های علمی و محاسباتی

نحوه درخواست سرویس

برای استفاده از سرویس GPU:

  1. وارد پنل کاربری ابرآمد شوید.
  2. به بخش بازارچه سرویس‌ها مراجعه کنید.
  3. سرویس GPU Server را انتخاب کنید.
  4. بسته موردنظر خود (A100 یا H100) را انتخاب نمایید.
  5. در صورت نیاز، توضیحات تکمیلی یا نیازهای خاص خود را در بخش مربوطه ثبت کنید.
  6. پس از ایجاد سرویس، محیط کانتینری GPU برای اجرای workloadها در اختیار شما قرار خواهد گرفت.

توضیحات تکمیلی

در بخش توضیحات تکمیلی یا یادداشت می‌توانید نیازهای خاص، نوع پردازش موردنظر یا درخواست‌های سازمانی خود را ثبت کنید تا در زمان تخصیص منابع در نظر گرفته شود.