معرفی شتابدهنده GPU دوگانه H100 NVL انویدیا برای Chat-GPT

پردازنده گرافیکی H100 NVL ارائه‌دهنده بهترین بین در میان محصولات سری Hopper انویدیا است. از نظر فنی این محصول نسخه‌ای از شتاب‌دهنده دیتا سنتر H100 است که به‌طور ویژه برای یک هدف طراحی شده و آن هم ارتقاء مدل‌های زبانی مبتنی بر هوش مصنوعی مانند Chat-GPT است.

به‌طور خلاصه باید گفت که NVL مخفف NVLink است که با استفاده از این پیکربندی روی پردازنده گرافیکی H100 پیاده‌سازی شده است. H100 NVL درواقع نه یک GPU بلکه دو GPU برای کارت‌های گرافیک PCIe است که با استفاده از سه پل NVLink Gen4 به یکدیگر متصل شده است.

اما نسخه NVL این GPU یک مزیت دیگر هم در مقایسه با مدل‌ فعلی H100 دارد و آن هم ظرفیت حافظه آن است. این GPU از تمام ۶ دسته‌ی تراشه‌های حافظه HBM3 که در مجموع ۱۸۸ گیگابایت ظرفیت دارند، استفاده می‌کند.

پردازنده گرافیکی دوگانه H100 NVL از یک رابط گذرگاه ۶۱۴۴ بیت استفاده می‌کند که متشکل از یک رابط ۱۰۲۴ بیتی برای هر دسته‌ی HBM3 است. سرعت حافظه آن نیز به ۵.۱ گیگابیت بر ثانیه می‌رسد که پهنای باند ۷.۸ گیگابایت بر ثانیه را برای آن به همراه دارد که بیش از دو برابر H100 SXM است. تکنولوژی‌های مبتنی بر هوش مصنوعی Large Language Model به بافرهای حافظه و پهنای باند بزرگی احتیاج دارند که تاثیر زیادی در عملکرد آن‌ها دارد.

انویدیا وعده‌ی عرضه پردازنده گرافیک H100 NVL را برای نیمه دوم سال ۲۰۲۳ داده و جزئیات بیشتری از آن در اختیار ما قرار نگرفته است.

---