کارت گرافیک NVIDIA H100 80GB PCIe Tensor Core

موجود در انبار
کارت گرافیک (GPU)

توضیحات

کارت گرافیک NVIDIA H100 80GB
عملکرد فوق‌العاده، مقیاس‌پذیری و امنیت برای هر مرکز داده.

 

کارت گرافیک NVIDIA H100 80GB PCIe شتاب بی‌سابقه‌ای را برای تأمین توان مراکز داده با بالاترین عملکرد در جهان در حوزه‌های هوش مصنوعی، تجزیه‌وتحلیل داده‌ها و محاسبات با عملکرد بالا (HPC) فراهم می‌کند. فناوری NVIDIA H100 Tensor Core طیف گسترده‌ای از دقت‌های ریاضی را پشتیبانی می‌کند و یک شتاب‌دهنده یکپارچه برای هر نوع بار کاری محاسباتی ارائه می‌دهد. پردازنده NVIDIA H100 PCIe از محاسبات با دقت مضاعف (FP64)، دقت تک‌گانه (FP32)، دقت نیمه‌دقیق (FP16) و محاسبات صحیح (INT8) پشتیبانی می‌کند.

واحدهای پردازش گرافیکی (GPU) NVIDIA H100 Tensor Core که برای سرورهای متداول طراحی شده‌اند، همراه با اشتراک نرم‌افزار پنج‌ساله NVIDIA AI Enterprise و پشتیبانی سازمانی عرضه می‌شوند. این مجموعه، فرآیند پذیرش هوش مصنوعی را با بالاترین عملکرد ساده‌تر می‌کند و تضمین می‌کند که سازمان‌ها به چارچوب‌ها و ابزارهای هوش مصنوعی موردنیاز برای ساخت گردش کارهای مبتنی بر H100، مانند هوش مصنوعی مکالمه‌ای، موتورهای پیشنهاد‌دهنده، هوش مصنوعی بینایی و موارد دیگر، دسترسی داشته باشند.

کارت NVIDIA H100 یک کارت دو اسلاتی با طول 10.5 اینچ مبتنی بر PCI Express Gen5 است که بر اساس معماری NVIDIA Hopper™ ساخته شده است. این کارت از هیت سینک غیرفعال برای خنک‌سازی استفاده می‌کند و برای عملکرد صحیح، به جریان هوای سیستم نیاز دارد. پردازنده گرافیکی NVIDIA H100 PCIe بدون محدودیت، تا حداکثر توان طراحی حرارتی (TDP) 350 وات کار می‌کند تا برنامه‌هایی که به سریع‌ترین سرعت پردازش و بالاترین توان عملیاتی داده نیاز دارند را شتاب دهد. این کارت همچنین دارای بیشترین پهنای باند حافظه کارت PCIe در جهان، بیش از 2000 گیگابایت بر ثانیه (GBps) است که زمان پردازش مدل‌های بزرگ و مجموعه داده‌های عظیم را کاهش می‌دهد.

کارت NVIDIA H100 PCIe از قابلیت Multi-Instance GPU (MIG) پشتیبانی می‌کند که امکان تقسیم پردازنده گرافیکی به حداکثر هفت نمونه سخت‌افزاری مستقل را فراهم می‌کند. این قابلیت به مراکز داده الاستیک اجازه می‌دهد تا به‌طور پویا منابع خود را بر اساس نیازهای کاری متغیر تنظیم کنند. همچنین می‌توان از کوچک‌ترین وظایف محاسباتی تا بزرگ‌ترین بارهای پردازشی چندپردازنده‌ای را به‌درستی تخصیص داد. انعطاف‌پذیری بالای NVIDIA H100 به مدیران فناوری اطلاعات کمک می‌کند تا حداکثر بهره‌وری را از هر GPU در مرکز داده خود داشته باشند.

کارت‌های NVIDIA H100 PCIe از سه پل NVIDIA® NVLink® استفاده می‌کنند که مشابه پل‌های مورد استفاده در کارت‌های NVIDIA A100 PCIe است. این قابلیت اتصال دو کارت NVIDIA H100 PCIe را ممکن می‌سازد و پهنای باند دوطرفه‌ای برابر با 900 گیگابایت بر ثانیه (GB/s) یا 5 برابر پهنای باند PCIe Gen5 را فراهم می‌کند که عملکرد برنامه‌ها را برای بارهای پردازشی حجیم به حداکثر می‌رساند.

 

NVIDIA H100 80gb
کارت گرافیک NVIDIA H100 80GB

 

یک جهش عظیم در محاسبات شتاب‌یافته

کارت گرافیک NVIDIA H100 80GB PCIe عملکردی استثنایی، مقیاس‌پذیری بالا و امنیت را برای هر نوع بار کاری ارائه می‌دهد. H100 با بهره‌گیری از نوآوری‌های پیشرفته مبتنی بر معماری NVIDIA Hopper™، هوش مصنوعی مکالمه‌ای را در سطح صنعتی متحول کرده و مدل‌های زبانی بزرگ را تا 30 برابر سریع‌تر پردازش می‌کند.

H100 به هسته‌های Tensor نسل چهارم و موتور Transformer مجهز است که از دقت FP8 پشتیبانی کرده و سرعت آموزش مدل GPT-3 (175B) را تا 4 برابر نسبت به نسل قبل افزایش می‌دهد. برای برنامه‌های محاسباتی با عملکرد بالا (HPC)، H100 توان محاسباتی FP64 را 3 برابر کرده و 60 ترافلاپس قدرت پردازشی ارائه می‌دهد. همچنین، با پشتیبانی از دستورات برنامه‌نویسی پویا (DPX)، تا 7 برابر عملکرد بالاتر را فراهم می‌کند.

 

شکل ۱. NVIDIA H100 همراه با پل NVLink

NVIDIA A100 80GB with NVLink Bridge Volumetric
NVIDIA H100 با پل NVLink

 

 

مشخصات محصول

جدول 1 تا جدول 3 مشخصات محصول، حافظه و نرم‌افزار کارت NVIDIA A100 80GB PCIe را ارائه می‌دهند.

 

جدول ۱. مشخصات محصول

NVIDIA H100 80GB مشخصات فنی
P1010 SKU 200
NVPN: 699-21010-0200-xxx
Product SKU
PCIe 16-pin 450 W or 600 W power mode:
• 350 W default
• 350 W maximum
• 200 W minimum
PCIe 16-pin 300 W power mode:
• 310 W default
• 310 W maximum
• 200 W minimum
Total board power
Passive Thermal solution
Full-height, full-length (FHFL) 10.5”, dual-slot Mechanical form factor
GH100-200 GPU SKU
Device ID: 0x2331
Vendor ID: 0x10DE
Sub-Vendor ID: 0x10DE
Sub-System ID: 0x1626
PCI Device IDs
Base: 1,125 MHz
Boost: 1,755 MHz
GPU clocks
P0 Performance states
EEPROM size: 8 Mbit
UEFI: Supported
VBIOS
PCI Express Gen5 x16; Gen5 x8; Gen4 x16
Lane and polarity reversal supported
PCI Express interface
Supported (seven instances) Multi-Instance GPU (MIG)
Supported Secure Boot (CEC)
Not supported Zero Power
One PCIe 16-pin auxiliary power connector Power connectors and headers
Board: 1200g grams (excluding bracket, extenders, and bridges)
NVLink bridge: 20.5 grams per bridge (x 3 bridges)
Bracket with screws: 20 grams
Enhanced straight extender: 35 grams
Long offset extender: 48 grams
Straight extender: 32 grams
Weight
Board: 1200g grams (excluding bracket, extenders, and bridges)
NVLink bridge: 20.5 grams per bridge (x 3 bridges)
Bracket with screws: 20 grams
Enhanced straight extender: 35 grams
Long offset extender: 48 grams
Straight extender: 32 grams
Weight

 

جدول 2. مشخصات حافظه

توضیحات مشخصات حافظه
1,593 MHz Memory clock
HBM2e Memory type
80 GB Memory size
5,120 bits Memory bus width
2,000 GB/s Peak memory bandwidth
2,000 GB/s Peak memory bandwidth

 

جدول 3. مشخصات نرم افزاری

توضیحات مشخصات نرم افزاری
Supported — 32 VF (virtual functions) SR-IOV support
BAR0: 16 MiB
BAR1: 128 GiB
BAR3: 32 MiB
BAR address (physical function)
BAR0: 5 MiB, (256 KiB per VF)
BAR1: 80 GiB, 64-bit (4 GiB per VF)
BAR3: 640 MiB, 64-bit (32 MiB per VF)
BAR address (virtual function
MSI-X: Supported
MSI: Not supported
Message signaled interrupts
Supported ARI Forwarding
Linux: R520 or later
Windows: R520 or later
Driver support
Supported Secure Boot
Version 2.0025 or later CEC Firmware
Version 5.792 or later NVFlash
x86: CUDA 11.8 or later
Arm: CUDA 12.0 or later
NVIDIA® CUDA® support
Supports vGPU 15.0 or later: NVIDIA Virtual Compute
Server Edition
Virtual GPU software support
Supported with VMWare NVIDIA AI Enterprise
NVIDIA-Certified Systems™ TBD or later NVIDIA certification
0x03 – Display Controller PCI class code
0x02 – 3D Controller PCI subclass code
Enabled ECC support
0x9E (write), 0x9F (read) SMBus (8-bit address)
0x50 (7-bit), 0xA0 (8-bit) IPMI FRU EEPROM I2C address
Supported SMBus direct access
Supported SMBPBI

 

پشتیبانی از جهت جریان هوا

کارت گرافیک NVIDIA H100 80GB PCIe از یک هیت سینک دوطرفه استفاده می‌کند که جریان هوا را هم در جهت چپ به راست و هم در جهت راست به چپ می‌پذیرد.

 

شکل 2. جهت‌های جریان هوا در H100 80GB

NVIDIA H100 Airflow Directions
جهت‌های جریان هوا در H100 80GB

 

ویژگی های محصول

فرم فاکتور

کارت گرافیک NVIDIA H100 PCIe مطابق با مشخصات NVIDIA Form Factor 5.5 برای یک کارت PCIe دو اسلاته با ارتفاع کامل و طول کامل (FHFL) است.

 

شکل 3. ابعاد کارت NVIDIA H100 80GB PCIe

NVIDIA H100 80GB PCIe Card Dimensions
ابعاد کارت NVIDIA H100 80GB PCIe

 

پشتیبانی از پل NVLink

NVIDIA NVLink یک اتصال انتقال داده نقطه به نقطه (P2P) با سرعت بالا است که در آن یک GPU می‌تواند داده‌ها را به یک GPU دیگر منتقل کرده و از آن دریافت کند. کارت NVIDIA H100 از اتصال پل NVLink با یک کارت NVIDIA H100 مجاور پشتیبانی می‌کند.
هر یک از سه پل متصل شده دو اسلات PCIe را پوشش می‌دهد. برای عملکرد صحیح و همچنین برای ارائه حداکثر پهنای باند پل، اتصال پل با یک کارت مجاور NVIDIA H100 باید شامل تمام سه پل NVLink باشد. در جایی که یک جفت کارت NVIDIA H100 مجاور در سرور وجود دارد، برای بهترین عملکرد پل‌زنی و توپولوژی متوازن پل، باید کارت‌های NVIDIA H100 به هم متصل شوند.

شکل ۴ توپولوژی‌های صحیح و ناصحیح اتصال NVIDIA H100 NVLink را نشان می‌دهد.

 

شکل 4. توپولوژی NVLink – نمای بالا

NVLink Topology H100 80GB
توپولوژی‌های صحیح و نادرست اتصال NVLink H100

 

برای سیستم‌هایی که دارای چندین CPU هستند، هر دو کارت NVIDIA H100 از یک جفت کارت پل‌زنی باید در همان دامنه CPU قرار داشته باشند. به این معنا که تحت توپولوژی همان CPU باشند و این اطمینان حاصل شود که این تنظیمات به بهبود عملکرد برنامه‌های کاری کمک می‌کند. برخی استثناها وجود دارد، به عنوان مثال، در سیستمی با دو CPU که هر CPU یک کارت NVIDIA H100 PCIe را زیر خود دارد. در این صورت، دو کارت NVIDIA H100 PCIe در سیستم ممکن است به هم متصل شوند. برای اطلاعات بیشتر به بخش “توپولوژی PCIe و NVLink” مراجعه کنید.

 

سرعت NVIDIA H100 PCIe کارت، NVLink و پهنای باند آن در جدول زیر آورده شده است.

 

جدول 6. سرعت و پهنای باند NVLink کارت H100 80GB PCIe

Value Parameter
3 Total NVLink bridges supported by NVIDIA H100
48 Total NVLink Rx and Tx lanes supported
100 Gbps Data rate per NVIDIA H100 NVLink lane (each direction)
600 Gbytes per second Total maximum NVLink bandwidth
——— ———–

 

قیمت کارت گرافیک NVIDIA H100 – 80GB

اگر به دنبال کارت گرافیک با کارایی مافوق انتظار هستید که شتاب بی‌سابقه‌ای را در هر مقیاسی ارائه دهد تا قدرتمندترین مراکز داده انعطاف‌پذیر جهان را برای کاربردهای هوش مصنوعی (AI)، تحلیل داده‌ها و رایانش با کارایی بالا (HPC) تأمین کند.، NVIDIA H100 – 80GB انتخاب مطمئنی برای شما خواهد بود. شماره تماس: 43672-021

هنوز دیدگاهی داده نشده است

اولین نفری باشید که دیدگاه می کند “کارت گرافیک NVIDIA H100 80GB PCIe Tensor Core”

نشانی ایمیل شما منتشر نخواهد شد.

محصولات مرتبط