توضیحات
سرور HPE ProLiant Compute DL384 Gen12 اولین سرور از برند HPE است که به NVIDIA GH200 NVL2 مجهز شده و برای استنتاج هوش مصنوعی در مدلهای زبانی بزرگ بهینهسازی شده است. همچنین برای بارهای کاری غیر هوش مصنوعی مانند شبیهسازیهای بزرگمقیاس، EDA، پیشبینی وضعیت آب و هوا و غیره مناسب است.
با حداکثر 1.2 ترابایت حافظه یکپارچه سریع و پهنای باند 5 ترابیت بر ثانیه، NVIDIA GH200 NVL2 میتواند بهخوبی به تنظیم دقیق و استنتاج مدلهای زبانی بزرگ با استفاده از نسل تقویتشده بازیابی (RAG) و تعداد بیشتری از کاربران با عملکردی دو برابر نسل قبلی پاسخ دهد. HPE ProLiant Compute DL384 Gen12 بهترین عملکرد را در هر GPU در مجموعه HPE ProLiant ما ارائه میدهد.
سرور HPE ProLiant Compute DL384 برای بارهای کاری ترکیبی یا با شدت حافظه ایدهآل است، چه در زمینه هوش مصنوعی باشید و چه در محاسبات سنتی با کارایی بالا (HPC).
با اتکا به HPE ProLiant قدرتمند، HPE ProLiant Compute DL384 Gen12 یک تجربه یکپارچه در سراسر مجموعه HPE ProLiant ارائه میدهد که شامل مدیریت HPE iLO و نرمافزاری است که قابلیت اطمینان و امنیت بالایی را با فناوری Silicon Root of Trust از HPE فراهم میکند.
نمای جلویی سرور HPE ProLiant Compute DL384 Gen12
1.LED دکمه UID
2.NIC status LED
3.Health LED
4.LED نشان دهنده وضعیت روشن یا خاموش بودن سرور
5.پورت iLO Service
6.پورت USB 3.1
7.EDSFF Gen5 x4 NVME
8.EDSFF Gen5 x4 NVME
نکته:
- پشتیبانی از حداکثر 4 عدد درایو EDSFF
- شاسی 2U با قابلیت stackable
- پیشنهادی: پشتیبانی از دو درایو EDSFF برای هر سوپرچیپ و تا چهار درایو EDSFF برای سیستم دو سوپرچیپ
- حداکثر ۴ درایو EDSFF برای هر سوپرچیپ قابل پشتیبانی است. پشتیبانی از PCIe به یک عدد در هر سوپرچیپ کاهش یافته است.
نمای داخلی سرور HPE ProLiant Compute DL384 Gen12
1.درایوهای M.2 (حداکثر 2 عدد، در RAID H W قرار ندارد.)
2.سوپرچیپ اصلی
3.منابع تغذیه (حداکثر 4 عدد)
4.حداکثر 2 عدد اسلات PCIe (رایزر دوم)
5.حداکثر 2 عدد اسلات PCIe (رایزر اول)
6.سوپرچیپ دوم
7.فنهای redundant با قابلیت Hot Plug
8.Drive cage
نمای پشتی سرور HPE ProLiant Compute DL384 Gen12
1.حداکثر 2 عدد اسلات FHHL PCIe (رایزر اول)
2.حداکثر 2 عدد اسلات FHHL PCIe (رایزر دوم)
3.منابع تغذیه 1،2،3 و 4
4.پورت VGA
5.OCP 3.0 (اسلات 2) (اختیاری)
6.پورت Serial
7.پورت مدیریتی iLO
8.دو عدد پورت USB 3.1
9.چراغ نشانگر UID
10.OCP 3.0 (اسلات 1) (اختیاری)
چه چیزی در سرور HPE ProLiant Compute DL384 Gen12 جدید است؟
- اولین سرور رکمونت HPE ProLiant با جدیدترین سوپرچیپ NVIDIA GH200 Grace Hopper
- پشتیبانی از دو سوپرچیپ با NVIDIA GH200 NVL2. برقراری ارتباط از طریق NVLink بین دو GH200 برای دو برابر شدن حافظه و عملکرد.
- پشتیبانی از جدیدترین آداپتورهای NVIDIA InfiniBand ،Ethernet و Bluefield اطمینان میدهد که ساختار هوش مصنوعی شما با بالاترین عملکرد عمل کند.
- دارای گواهینامه NVIDIA OVX برای بارهای کاری هوش مصنوعی.
- استنتاج مدلهای زبانی بزرگ با عملکرد بالا برای حداکثر بهرهوری از دیتاسنتر.
- عملکرد استنتاجی ۲ برابر بالاتر در مقایسه با H100.
- سختافزار HPE Silicon Root of Trust، نوآوری پیشرو در صنعت را بر اساس معماری HPE zero trust از لبه تا ابر ارائه میدهد تا زیرساخت، بارهای کاری و دادههای شما را محافظت کند.
سوپرچیپ قدرتمند GH200
NVIDIA Grace Hopper در واقع ترکیبی از گرافیک NVIDIA Hopper و پردازنده قدرتمند NVIDIA Grace تحت عنوان سوپرچیپ GH200 Grace Hopper است. در واقع، در این معماری GPU و CPU از طریق گذرگاه (NVIDIA NVLink Chip-2-Chip (C2C به یکدیگر متصل شدهاند و پهنای باند بالا، تاخیر کم و memory-coherent را برای شما به ارمغان میآورد. GH200، تا 900 گیگابایت بر ثانیه پهنای باند کلی ارائه میدهد که 7 برابر بیشتر از خطوط PCIe Gen5 ای است که عموما در سیستمهای شتابدهنده استفاده میشود. به لطف این گذرگاه میتوانید از حداکثر ظرفیت GPU استفاده کنید و از پهنای باند بالای حافظه CPU Grace لذت ببرید.
با حداکثر 480GB حافظه پردازنده LPDDR5X به ازای هر سوپرچیپ GH200 و همینطور بسته به پیکربندی حافظه آن، گرافیک مستقیما به 7 برابر سرعت بیشتر از HBM3 و 8 برابر بیشتر از HBM3e، دست پیدا خواهد کرد. این سوپرچیپ را میتوان به راحتی در سرورهای مختلف برای اجرای طیف وسیعی از بارهای کاری استنتاجی، تحلیل و آنالیز داده و سایر workloadهای محاسباتی و حافظهمحور به کار گرفت.
در خصوص چیپست مدیریتی این سرور نیز باید گفت که HPE iLO 6 ASIC چیپست تعبیه شده در این سرور است. برای آشنایی بیشتر با این چیپست کافیست به مقاله معجزه سوپرچیپ GH200 Grace Hopper در سرورهای نسل 12 HPE! مراجعه کنید.
| ویژگی | GH200 | GH200 NVL2 |
| تعداد هسته CPU | 72Arm Neoverse V2 cores | 144Arm Neoverse V2 cores |
| L1 cache | 64KB i-cache + 64KB d-cache | 64KB i-cache + 64KB d-cache |
| L2 cache | 1MB per core | 1MB per core |
| L3 cache | 114MB | 228MB |
| فرکانس پایه | 3.1GHz | 3.0GHz | 3.1GHz | 3.0GHz |
| اندازه LPDDR5X | 480GB | 960GB |
| پهنای باند حافظه | 384GB/s | 768GB/s |
| ویژگی | GH200 | GH200 NVL2 |
| FP64 | 34teraFLOPS | 68teraFLOPS |
| FP64 Tensor Core | 67teraFLOPS | 134teraFLOPS |
| FP32 Tensor Core | 989 teraFLOPS | 494 teraFLOPS | 1979 teraFLOPS | 990 teraFLOPS |
| BFLOAT 16 Tensor Core | 1979 teraFLOPS* | 990 teraFLOPS | 3958 teraFLOPS* | 1979 teraFLOPS |
| FP8 Tensor Core | 3958 teraFLOPS* | 1979 teraFLOPS | 7916 teraFLOPS* | 3958 teraFLOPS |
| INT8 Tensor Core | 3958 TOPS* | 1979 TOPS | 7916 TOPS* | 3958 TOPS |
| اندازه High-bandwidth memory (HBM) | 144GB HBM3e | 288GB HBM3e |
| Memory bandwidth | حداکثر 4.9TB/s | حداکثر 9.8TB/s |
| Nvidia NVLink-C2C CPU-to-GPU bandwidth | 900GB/s | 1800GB/s |
| روش خنکسازی | فن | فن |
Interfaceها
بخش پشتی
نشانگر Unit ID پشتی: 1 عدد استاندارد
USB 3.0: دو عدد استاندارد
پورت مدیریتی شبکه iLO: یک عدد کارت شبکه اختصاصی iLO با سرعت 1 گیگابیت
پورت Serial: یک عدد استاندارد
پورت VGA: یک عدد استاندارد در بخش پشتی
بخش جلویی
LED پنل جلویی: Unit ID ،NIC Status ،Health، چراغ روشن/خاموش بودن سیستم (از هر کدام یک عدد)
پورت iLO Service: یک عدد استاندارد
پورت USB 3.2: یک عدد استاندارد
مقررات Lot 9 اتحادیه اروپا (EU)
از تاریخ 1 ژانویه 2024، واحدهای فروختهشده در اتحادیه اروپا (EU)، منطقه اقتصادی اروپا (EEA)، بریتانیا یا سوئیس باید شامل منابع تغذیه AC کارآمدتر باشند: 94٪ برای خروجیهای چندگانه و 96٪ برای خروجیهای تک. منابع تغذیه HPE Flexible Slot تکخروجی هستند و شمارههای قطعه 865438-B21، P03178-B21 و P44712-B21 دارای بازده 96٪ هستند و در نتیجه با این الزامات مطابقت دارند.
HPE در مسیر تأمین سیستمهای مطابق با این استانداردها پیش از موعد است و اجرای این الزامات را زودتر آغاز خواهد کرد تا درخواستها را با منابع تغذیه فعلی تا تاریخ تعیینشده برآورده کند.
مدیریت داخلی سرور HPE ProLiant Compute DL384 Gen12
HPE iLO
با استفاده از HPE iLO به راحتی میتوانید سرورهای خود را برای مدیریت مداوم، هشدارهای خدماتی، گزارشدهی و مدیریت از راه دور نظارت کنید.
UEFI
سرورهای خود را با استفاده از UEFI که مطابق با استانداردهای صنعتی است، بهصورت امن پیکربندی و راهاندازی کنید.
iLO RESTful API
رابط برنامهنویسی RESTful iLO با سازگاری با Redfish API، مدیریت خودکار سرورها را سادهتر میکند و شامل وظایفی مانند پیکربندی و نگهداری است که بر اساس استانداردهای مدرن صنعتی انجام میشوند.
HPE Server UEFI
رابط میانافزار توسعهپذیر یکپارچه (UEFI) یک استاندارد صنعتی است که در زمان راهاندازی سرور، مدیریتپذیری بهتر و پیکربندی امنتری نسبت به ROM قدیمی ارائه میدهد. سرورهای HPE ProLiant Gen11 از پیادهسازی ۳ UEFI برخوردار هستند.
UEFI قابلیتهای جدید متعددی را که بهطور ویژه برای سرورهای HPE ProLiant طراحی شدهاند، امکانپذیر میسازد، از جمله:
- Secure Boot و Secure Start برای افزایش امنیت فعال میشوند.
- پشتیبانی از درایوهای بوت با ظرفیت بیش از ۲.۲ ترابایت (با استفاده از GPT).
- UEFI Shell به صورت Embedded
- استفاده از Redfish برای پیکربندی تنظیمات BIOS
- پشتیبانی از PXE boot برای شبکههای IPv6.
- پشتیبانی از NVMe Boot
- پشتیبانی از نرمافزار راهانداز iSCSI
- پشتیبانی از بوت HTTP/HTTPS به عنوان یک جایگزین برای PXE
- پشتیبانی از Boot برای کارتهای اختیاری که تنها از ROM اختیاری UEFI پشتیبانی میکنند.
ابزارهای سرور HPE ProLiant Compute DL384 Gen12
Active Health System
سیستم سلامت فعال HPE (AHS) یک جزء اساسی از مجموعه مدیریت iLO است که نظارت مداوم و پیشگیرانه بر سلامت سرورهای HPE را ارائه میدهد.
RESTful Interface Tool
ابزار رابط RESTful (iLOREST) یک ابزار اسکریپتی واحد است که برای تأمین منابع با استفاده از API RESTful iLO طراحی شده و به کشف و استقرار سرورها به صورت مقیاسپذیر کمک میکند.
Scripting Tool
با استفاده از ابزار اسکریپتنویسی (STK) برای ویندوز و لینوکس یا ابزارهای اسکریپتنویسی برای ویندوز PowerShell، یک یا چند سرور را با استفاده از اسکریپتهای خود تأمین و مستقر کنید.
قیمت سرور HPE ProLiant Compute DL384 Gen12
اگر به دنبال سرور قدرتمندی هستید که پیشرفته ترین تکنولوژیهای HPE را با خود به همراه داشته باشد و بتوانید برای انجام فعالیتهای چون مجازی سازی و عملیات سنگین به آن تکیه کنید، HPE DL384 Gen12 انتخاب مطمئنی برای شما خواهد بود. به زودی با این سرور قدرتمند در خدمت شما خواهیم بود. شماره تماس: 43672-021
برای مشاهده سایر سرورهای برند HPE میتوانید به صفحه سرورهای HPE مراجعه کنید.
لیلا حسینی
قابلیتهای شبکه و اتصال چیست؟
کارشناس فنی
شرکت HPE پشتیبانی خود را با توصیههای شرکت NVIDIA در زمینهی طراحی شبکه (Fabric Design) با استفاده از آداپتورهای BlueField هماهنگ کرده است
همچنین، سایر آداپتورها و کارتهای شبکه (NIC) یا آداپتورهای شبکهی Fabric تا چهار عدد برای هر سرور پشتیبانی میشوند.
مهسا رضایی
پردازنده و شتابدهندههای اصلی قابل پشتیبانی چه هستند؟
کارشناس فنی
DL384 Gen12 میتواند کانفیگهایی با شتابدهندههای مدرن را پشتیبانی کند؛ از جمله پشتیبانی برای NVIDIA GH200 Superchip در پیکربندیهای NVL2 دو Superchip در یک گره و همچنین تعامل با پردازندههای سروری متداول.
ساناز آقائی
چه سناریوهای کاری (use cases) برای این سرور منطقیتر است؟
کارشناس فنی
مناسب برای استقرار مدلهای زبانی بزرگ (LLMs) برای inference و fine-tuning، فناوری تولید تقویتی مبتنی بر بازاریابی (RAG)، HPC، آنالیز تصویری و هر کاری که به حافظه و پهنای باند بالا نیاز دارد.
نازنین طباطبایی
فرمفکتور و مشخصات فیزیکی سرور DL384 Gen12 چیست؟
کارشناس فنی
DL384 Gen12 بهصورت ۲U rack طراحی شده که برای دیتاسنترهای استاندارد مناسب است.
علی نوروزی
مصرف برق و نیازهای خنککنندگی چه نکاتی دارد؟
کارشناس فنی
بهخاطر تراکم محاسباتی و استفاده از Superchipها، مصرف برق و نیاز به خنککنندگی بالاتر است؛ قبل از استقرار باید محاسبات توان و ظرفیت تهویه دیتاسنتر را با دقت انجام داد.
سامان محمودی
این سرور برای چه کارهایی طراحی شده؟
کارشناس فنی
اچپیای پرولاینت کامپیوت DL384 Gen12 نخستین سرور از شرکت HPE است که به NVIDIA GH200 NVL2 مجهز شده و برای پردازشهای هوش مصنوعی (AI inferencing)، بهویژه برای مدلهای زبانی بزرگ (LLMs) که به ظرفیت حافظه بالا نیاز دارند، بهینهسازی شده است. همچنین این سرور برای کاربردهای غیرهوش مصنوعی مانند شبیهسازیهای گسترده، طراحی مدارهای الکترونیکی (EDA)، پیشبینی وضعیت آبوهوا و سایر موارد مشابه نیز گزینهای مناسب بهشمار میرود.
نیما کامرانی
مدیریت و امکانات نرمافزاری iLO چهجوریه؟
کارشناس فنی
با استفاده از HPE iLO، سرورهای خود را برای مدیریت مستمر، هشداردهی خدمات، گزارشدهی و مدیریت از راه دور بهصورت هوشمندانه پایش (مانیتور) کنید.
آرش کیوانی
حداکثر حافظه و نوع آن چقدر است؟
کارشناس فنی
این پلتفرم در کانفیگهای شتابدهندهمحور اجازه استفاده از حافظهی بسیار بالایی را میدهد؛ در برخی پیکربندیها مجموع حافظه سریع (مرتبط با معماری Superchip) میتواند تا حدود ترابایتها برسد که برای LLMs (مدل های زبانی بزرگ) و بارهای حافظهبر مناسب است.
پویا شریفی
I/O، PCIe و گزینههای ذخیرهسازی چه چیزهایی را ارائه میدهند؟
کارشناس فنی
سرور DL384 Gen12 از PCIe Gen5 پشتیبانی میکند و گزینههایی برای EDSFF دارد تا پهنای باند و IOPS بالا فراهم شود.
سارا بهرامی
چه موارد امنیتی/قابلیتهای حفاظتی دارد؟
کارشناس فنی
HPE روی امنیت سختافزاری و نرمافزاری سرمایهگذاری کرده؛ امکاناتی مثل Secure Boot، مدیریت امن iLO از جمله تدابیر حفاظتی سرور هستند.
تینا جلالی
نکات مهم خرید/پیکربندی که قبل از سفارش باید بدانم؟
کارشناس فنی
قبل از سفارش مشخص کن که آیا به GH200 یا کانفیگ dual نیاز داری، توان و خنککنندگی دیتاسنتر را بررسی کن، نیاز شبکه و نوع ذخیرهسازی (NVMe vs SATA) را تعیین کن.