توضیحات
کارت گرافیک NVIDIA H100 80GB
عملکرد فوقالعاده، مقیاسپذیری و امنیت برای هر مرکز داده.
کارت گرافیک NVIDIA H100 80GB PCIe شتاب بیسابقهای را برای تأمین توان مراکز داده با بالاترین عملکرد در جهان در حوزههای هوش مصنوعی، تجزیهوتحلیل دادهها و محاسبات با عملکرد بالا (HPC) فراهم میکند. فناوری NVIDIA H100 Tensor Core طیف گستردهای از دقتهای ریاضی را پشتیبانی میکند و یک شتابدهنده یکپارچه برای هر نوع بار کاری محاسباتی ارائه میدهد. پردازنده NVIDIA H100 PCIe از محاسبات با دقت مضاعف (FP64)، دقت تکگانه (FP32)، دقت نیمهدقیق (FP16) و محاسبات صحیح (INT8) پشتیبانی میکند.
واحدهای پردازش گرافیکی (GPU) NVIDIA H100 Tensor Core که برای سرورهای متداول طراحی شدهاند، همراه با اشتراک نرمافزار پنجساله NVIDIA AI Enterprise و پشتیبانی سازمانی عرضه میشوند. این مجموعه، فرآیند پذیرش هوش مصنوعی را با بالاترین عملکرد سادهتر میکند و تضمین میکند که سازمانها به چارچوبها و ابزارهای هوش مصنوعی موردنیاز برای ساخت گردش کارهای مبتنی بر H100، مانند هوش مصنوعی مکالمهای، موتورهای پیشنهاددهنده، هوش مصنوعی بینایی و موارد دیگر، دسترسی داشته باشند.
کارت NVIDIA H100 یک کارت دو اسلاتی با طول 10.5 اینچ مبتنی بر PCI Express Gen5 است که بر اساس معماری NVIDIA Hopper™ ساخته شده است. این کارت از هیت سینک غیرفعال برای خنکسازی استفاده میکند و برای عملکرد صحیح، به جریان هوای سیستم نیاز دارد. پردازنده گرافیکی NVIDIA H100 PCIe بدون محدودیت، تا حداکثر توان طراحی حرارتی (TDP) 350 وات کار میکند تا برنامههایی که به سریعترین سرعت پردازش و بالاترین توان عملیاتی داده نیاز دارند را شتاب دهد. این کارت همچنین دارای بیشترین پهنای باند حافظه کارت PCIe در جهان، بیش از 2000 گیگابایت بر ثانیه (GBps) است که زمان پردازش مدلهای بزرگ و مجموعه دادههای عظیم را کاهش میدهد.
کارت NVIDIA H100 PCIe از قابلیت Multi-Instance GPU (MIG) پشتیبانی میکند که امکان تقسیم پردازنده گرافیکی به حداکثر هفت نمونه سختافزاری مستقل را فراهم میکند. این قابلیت به مراکز داده الاستیک اجازه میدهد تا بهطور پویا منابع خود را بر اساس نیازهای کاری متغیر تنظیم کنند. همچنین میتوان از کوچکترین وظایف محاسباتی تا بزرگترین بارهای پردازشی چندپردازندهای را بهدرستی تخصیص داد. انعطافپذیری بالای NVIDIA H100 به مدیران فناوری اطلاعات کمک میکند تا حداکثر بهرهوری را از هر GPU در مرکز داده خود داشته باشند.
کارتهای NVIDIA H100 PCIe از سه پل NVIDIA® NVLink® استفاده میکنند که مشابه پلهای مورد استفاده در کارتهای NVIDIA A100 PCIe است. این قابلیت اتصال دو کارت NVIDIA H100 PCIe را ممکن میسازد و پهنای باند دوطرفهای برابر با 900 گیگابایت بر ثانیه (GB/s) یا 5 برابر پهنای باند PCIe Gen5 را فراهم میکند که عملکرد برنامهها را برای بارهای پردازشی حجیم به حداکثر میرساند.
یک جهش عظیم در محاسبات شتابیافته
کارت گرافیک NVIDIA H100 80GB PCIe عملکردی استثنایی، مقیاسپذیری بالا و امنیت را برای هر نوع بار کاری ارائه میدهد. H100 با بهرهگیری از نوآوریهای پیشرفته مبتنی بر معماری NVIDIA Hopper™، هوش مصنوعی مکالمهای را در سطح صنعتی متحول کرده و مدلهای زبانی بزرگ را تا 30 برابر سریعتر پردازش میکند.
H100 به هستههای Tensor نسل چهارم و موتور Transformer مجهز است که از دقت FP8 پشتیبانی کرده و سرعت آموزش مدل GPT-3 (175B) را تا 4 برابر نسبت به نسل قبل افزایش میدهد. برای برنامههای محاسباتی با عملکرد بالا (HPC)، H100 توان محاسباتی FP64 را 3 برابر کرده و 60 ترافلاپس قدرت پردازشی ارائه میدهد. همچنین، با پشتیبانی از دستورات برنامهنویسی پویا (DPX)، تا 7 برابر عملکرد بالاتر را فراهم میکند.
شکل ۱. NVIDIA H100 همراه با پل NVLink
مشخصات محصول
جدول 1 تا جدول 3 مشخصات محصول، حافظه و نرمافزار کارت NVIDIA A100 80GB PCIe را ارائه میدهند.
جدول ۱. مشخصات محصول
NVIDIA H100 80GB | مشخصات فنی |
---|---|
P1010 SKU 200 NVPN: 699-21010-0200-xxx |
Product SKU |
PCIe 16-pin 450 W or 600 W power mode: • 350 W default • 350 W maximum • 200 W minimum PCIe 16-pin 300 W power mode: • 310 W default • 310 W maximum • 200 W minimum |
Total board power |
Passive | Thermal solution |
Full-height, full-length (FHFL) 10.5”, dual-slot | Mechanical form factor |
GH100-200 | GPU SKU |
Device ID: 0x2331 Vendor ID: 0x10DE Sub-Vendor ID: 0x10DE Sub-System ID: 0x1626 |
PCI Device IDs |
Base: 1,125 MHz Boost: 1,755 MHz |
GPU clocks |
P0 | Performance states |
EEPROM size: 8 Mbit UEFI: Supported |
VBIOS |
PCI Express Gen5 x16; Gen5 x8; Gen4 x16 Lane and polarity reversal supported |
PCI Express interface |
Supported (seven instances) | Multi-Instance GPU (MIG) |
Supported | Secure Boot (CEC) |
Not supported | Zero Power |
One PCIe 16-pin auxiliary power connector | Power connectors and headers |
Board: 1200g grams (excluding bracket, extenders, and bridges) NVLink bridge: 20.5 grams per bridge (x 3 bridges) Bracket with screws: 20 grams Enhanced straight extender: 35 grams Long offset extender: 48 grams Straight extender: 32 grams |
Weight |
Board: 1200g grams (excluding bracket, extenders, and bridges) NVLink bridge: 20.5 grams per bridge (x 3 bridges) Bracket with screws: 20 grams Enhanced straight extender: 35 grams Long offset extender: 48 grams Straight extender: 32 grams |
Weight |
جدول 2. مشخصات حافظه
توضیحات | مشخصات حافظه |
---|---|
1,593 MHz | Memory clock |
HBM2e | Memory type |
80 GB | Memory size |
5,120 bits | Memory bus width |
2,000 GB/s | Peak memory bandwidth |
2,000 GB/s | Peak memory bandwidth |
جدول 3. مشخصات نرم افزاری
توضیحات | مشخصات نرم افزاری |
---|---|
Supported — 32 VF (virtual functions) | SR-IOV support |
BAR0: 16 MiB BAR1: 128 GiB BAR3: 32 MiB |
BAR address (physical function) |
BAR0: 5 MiB, (256 KiB per VF) BAR1: 80 GiB, 64-bit (4 GiB per VF) BAR3: 640 MiB, 64-bit (32 MiB per VF) |
BAR address (virtual function |
MSI-X: Supported MSI: Not supported |
Message signaled interrupts |
Supported | ARI Forwarding |
Linux: R520 or later Windows: R520 or later |
Driver support |
Supported | Secure Boot |
Version 2.0025 or later | CEC Firmware |
Version 5.792 or later | NVFlash |
x86: CUDA 11.8 or later Arm: CUDA 12.0 or later |
NVIDIA® CUDA® support |
Supports vGPU 15.0 or later: NVIDIA Virtual Compute Server Edition |
Virtual GPU software support |
Supported with VMWare | NVIDIA AI Enterprise |
NVIDIA-Certified Systems™ TBD or later | NVIDIA certification |
0x03 – Display Controller | PCI class code |
0x02 – 3D Controller | PCI subclass code |
Enabled | ECC support |
0x9E (write), 0x9F (read) | SMBus (8-bit address) |
0x50 (7-bit), 0xA0 (8-bit) | IPMI FRU EEPROM I2C address |
Supported | SMBus direct access |
Supported | SMBPBI |
پشتیبانی از جهت جریان هوا
کارت گرافیک NVIDIA H100 80GB PCIe از یک هیت سینک دوطرفه استفاده میکند که جریان هوا را هم در جهت چپ به راست و هم در جهت راست به چپ میپذیرد.
شکل 2. جهتهای جریان هوا در H100 80GB
ویژگی های محصول
فرم فاکتور
کارت گرافیک NVIDIA H100 PCIe مطابق با مشخصات NVIDIA Form Factor 5.5 برای یک کارت PCIe دو اسلاته با ارتفاع کامل و طول کامل (FHFL) است.
شکل 3. ابعاد کارت NVIDIA H100 80GB PCIe
پشتیبانی از پل NVLink
NVIDIA NVLink یک اتصال انتقال داده نقطه به نقطه (P2P) با سرعت بالا است که در آن یک GPU میتواند دادهها را به یک GPU دیگر منتقل کرده و از آن دریافت کند. کارت NVIDIA H100 از اتصال پل NVLink با یک کارت NVIDIA H100 مجاور پشتیبانی میکند.
هر یک از سه پل متصل شده دو اسلات PCIe را پوشش میدهد. برای عملکرد صحیح و همچنین برای ارائه حداکثر پهنای باند پل، اتصال پل با یک کارت مجاور NVIDIA H100 باید شامل تمام سه پل NVLink باشد. در جایی که یک جفت کارت NVIDIA H100 مجاور در سرور وجود دارد، برای بهترین عملکرد پلزنی و توپولوژی متوازن پل، باید کارتهای NVIDIA H100 به هم متصل شوند.
شکل ۴ توپولوژیهای صحیح و ناصحیح اتصال NVIDIA H100 NVLink را نشان میدهد.
شکل 4. توپولوژی NVLink – نمای بالا
برای سیستمهایی که دارای چندین CPU هستند، هر دو کارت NVIDIA H100 از یک جفت کارت پلزنی باید در همان دامنه CPU قرار داشته باشند. به این معنا که تحت توپولوژی همان CPU باشند و این اطمینان حاصل شود که این تنظیمات به بهبود عملکرد برنامههای کاری کمک میکند. برخی استثناها وجود دارد، به عنوان مثال، در سیستمی با دو CPU که هر CPU یک کارت NVIDIA H100 PCIe را زیر خود دارد. در این صورت، دو کارت NVIDIA H100 PCIe در سیستم ممکن است به هم متصل شوند. برای اطلاعات بیشتر به بخش “توپولوژی PCIe و NVLink” مراجعه کنید.
سرعت NVIDIA H100 PCIe کارت، NVLink و پهنای باند آن در جدول زیر آورده شده است.
جدول 6. سرعت و پهنای باند NVLink کارت H100 80GB PCIe
Value | Parameter |
---|---|
3 | Total NVLink bridges supported by NVIDIA H100 |
48 | Total NVLink Rx and Tx lanes supported |
100 Gbps | Data rate per NVIDIA H100 NVLink lane (each direction) |
600 Gbytes per second | Total maximum NVLink bandwidth |
——— | ———– |
قیمت کارت گرافیک NVIDIA H100 – 80GB
اگر به دنبال کارت گرافیک با کارایی مافوق انتظار هستید که شتاب بیسابقهای را در هر مقیاسی ارائه دهد تا قدرتمندترین مراکز داده انعطافپذیر جهان را برای کاربردهای هوش مصنوعی (AI)، تحلیل دادهها و رایانش با کارایی بالا (HPC) تأمین کند.، NVIDIA H100 – 80GB انتخاب مطمئنی برای شما خواهد بود. شماره تماس: 43672-021
هنوز دیدگاهی داده نشده است