توضیحات
کارت گرافیک NVIDIA H100 NVL Tensor Core بهعنوان بهینهترین پلتفرم برای اجرای مدلهای بزرگ زبانی (LLM) شناخته میشود. این کارت با توان محاسباتی بالا، پهنای باند حافظه گسترده و بهرهوری انرژی چشمگیر، عملکرد بینظیری ارائه میدهد و با معماری منحصربهفرد NVLink، شتاب بیسابقهای برای دیتاسنترهای انعطافپذیر فراهم میکند. H100 NVL میتواند در زمینه هوش مصنوعی، تحلیل داده و محاسبات پیشرفته بارهای کاری سنگین را با سرعت و دقت بالا اجرا کند و از طیف گستردهای از دقتهای محاسباتی شامل FP64، FP32، FP16، FP8 و INT8 پشتیبانی میکند. این ویژگیها باعث میشود تا کارت H100 NVL یک شتابدهنده واحد و همهکاره برای انواع برنامهها و مدلهای بزرگ زبانی باشد.
طراحی و عملکرد سختافزاری قدرتمند
کارت NVIDIA H100 NVL با طراحی دو اسلاته و طول ۱۰.۵ اینچ، مبتنی بر معماری Hopper است و از هیتسینک Passive برای خنکسازی استفاده میکند. این کارت با حداکثر توان مصرفی ۴۰۰ وات (TDP) قادر است برنامههایی که نیاز به سرعت محاسباتی بالا و دادههای حجیم دارند را بدون محدودیت اجرا کند. با بالاترین پهنای باند حافظه PCIe جهان، نزدیک به ۴۰۰۰ گیگابایت بر ثانیه، زمان حل مسائل برای مدلهای بزرگ بهطور چشمگیری کاهش مییابد.
قابلیتهای Multi-Instance GPU و NVLink
H100 NVL از قابلیت Multi-Instance GPU (MIG) پشتیبانی میکند که امکان تقسیم GPU به حداکثر هفت نمونه سختافزاری جداگانه را فراهم میآورد و منابع مناسب برای کوچکترین تا بزرگترین کارهای چند GPU اختصاص داده میشود. همچنین، سه پل NVLink این کارت اجازه میدهد دو کارت H100 PCIe به هم متصل شوند و پهنای باند دوطرفه ۶۰۰ گیگابایت بر ثانیه، یعنی ۱۰ برابر پهنای باند PCIe Gen4، ارائه میدهد تا عملکرد برنامهها در بارهای کاری سنگین به حداکثر برسد.

مشخصات فنی NVIDIA H100 NVL
| Specification | NVIDIA H100 NVL |
| Product SKU | P1010 SKU 210NVPN: 699-21010-0210-xxx |
| Total board power | PCIe 16-pin cable strapped for 450 W or 600 W power mode:- 400 W maximum (default)- 310 W power compliance limit¹- 200 W minimumPCIe 16-pin cable strapped for 300 W power mode:- 310 W maximum (default)- 310 W power compliance limit- 200 W minimum |
| Thermal solution | Passive |
| Mechanical form factor | Full-height, full-length (FHFL) 10.5″, dual-slot |
| PCI Device IDs | Device ID: 0x2321Vendor ID: 0x10DESub-Vendor ID: 0x10DESub-System ID: 0x1839 |
| GPU clocks | Base: 1,080 MHzBoost: 1,785 MHz |
| Performance states | P0 |
| VBIOS | EEPROM size: 8 MbitUEFI: Not supported |
| PCI Express interface | PCI Express Gen5 x16; Gen5 x8; Gen4 x16Lane and polarity reversal supported |
| Multi-Instance GPU (MIG) | Supported (seven instances) |
مشخصات حافظه NVIDIA H100 NVL
| Memory clock |
2,619 MHz |
| Memory type | HBM3 |
| Memory size | 94 GB |
| Memory bus width | 6,016 bits |
| Peak memory bandwidth | 3,938 GB/s |
مشخصات نرم افزاری
| Product SKU | P1010 SKU 210NVPN: 699-21010-0210-xxx |
| Total board power | PCIe 16-pin cable strapped for 450 W or 600 W power mode:- 400 W maximum (default)- 310 W power compliance limit¹- 200 W minimumPCIe 16-pin cable strapped for 300 W power mode:- 310 W maximum (default)- 310 W power compliance limit- 200 W minimum |
| Thermal solution | Passive |
| Mechanical form factor | Full-height, full-length (FHFL) 10.5″, dual-slot |
| PCI Device IDs | Device ID: 0x2321Vendor ID: 0x10DESub-Vendor ID: 0x10DESub-System ID: 0x1839 |
| GPU clocks | Base: 1,080 MHzBoost: 1,785 MHz |
| Performance states | P0 |
| VBIOS | EEPROM size: 8 MbitUEFI: Not supported |
| PCI Express interface | PCI Express Gen5 x16; Gen5 x8; Gen4 x16Lane and polarity reversal supported |
| Multi-Instance GPU (MIG) | Supported (seven instances) |
| Virtual GPU software support | Supports vGPU 16.1 or later: NVIDIA Virtual Compute Server Edition |
| NVIDIA AI Enterprise | Supported with VMWare |
| NVIDIA certification | NVIDIA-Certified Systems™ 2.8 or later |
| PCI class code | 0x03 – Display controller |
| PCI subclass code | 0x02 – 3D controller |
| ECC support | Enabled |
| SMBus (8-bit address) | 0x9E (write), 0x9F (read) |
| IPMI FRU EEPROM I2C address | 0x50 (7-bit), 0xA0 (8-bit) |
| Reserved I2C addresses | 0xA4, 0xAC, 0xA0 |
| SMBus direct access | Supported |
| SMBPBI SMBus Post-Box Interface | Supported |
مشخصات محیطی و قابلیت اطمینان Nvidia H100 NVL
| ویژگی | NVIDIA H100 NVL |
| Ambient operating temperature | 0°C to 50°C |
| Ambient operating temperature (short term) | -5°C to 55°C |
| Storage temperature | -40°C to 75°C |
| Operating humidity (short term) | 5% to 93% relative humidity |
| Operating humidity | 5% to 85% relative humidity |
| Storage humidity | 5% to 95% relative humidity |
| Mean time between failures (MTBF) | TBD |
پشتیبانی از جهت جریان هوا
کارت NVIDIA H100 NVL از هیتسینک دو جهته استفاده میکند که میتواند جریان هوا را از چپ به راست یا راست به چپ دریافت کند.

ویژگیهای محصول NVIDIA H100 NVL
پشتیبانی از PCIe در NVIDIA H100 NVL
کارت GPU NVIDIA H100 NVL از PCIe Gen5 پشتیبانی میکند. هنگام اتصال به کارت، باید از Gen5 x16، Gen5 x8 یا Gen4 x16 استفاده شود.
پشتیبانی از مجازیسازی I/O تک ریشه (SR-IOV)
Single Root I/O Virtualization (SR-IOV) یک مشخصه PCIe است که به یک دستگاه فیزیکی PCIe اجازه میدهد چندین دستگاه فیزیکی PCIe را شبیهسازی کند. طبق مشخصات PCIe، هر دستگاه میتواند حداکثر تا ۲۵۶ (VF) داشته باشد، هر چند تعداد واقعی بستگی به دستگاه دارد. کارت NVIDIA H100 NVL با پشتیبانی از ۳۲ VF از SR-IOV فعال میشود.
SR-IOV برای هر دستگاه، دو کلاس عملکرد را شناسایی میکند:
- عملکردهای فیزیکی (PFs): این عملکردها دارای تمام قابلیتها و پیکربندیهای دستگاه هستند و میتوانند کل دستگاه را کنترل کنند. PF همچنین توانایی کامل انتقال دادهها به داخل و خارج از دستگاه را دارد.
- عملکردهای مجازی (VFs): این عملکردها فاقد منابع پیکربندی هستند و روی یک PF پایه وجود دارند که میتواند چندین VF را پشتیبانی کند. VFs تنها میتوانند دادهها را منتقل کنند و قابل پیکربندی نیستند و نمیتوان آنها را به عنوان یک دستگاه کامل PCIe در نظر گرفت. سیستم عامل یا نمونه هایپروایزر باید آگاه باشند که اینها دستگاه کامل PCIe نیستند.
کارت NVIDIA H100 NVL نیاز دارد تا SBIOS و پشتیبانی نرمافزاری در سیستم عامل یا هایپروایزر طوری تنظیم شوند که پشتیبانی از SR-IOV فعال شود. سیستم عامل یا هایپروایزر باید قادر باشد PF و VF را شناسایی و راهاندازی کند.
پیامدهی وقفه (Interrupt Messaging) در Nvidia H100 NVL
کارت NVIDIA H100 NVL تنها از پروتکل پیامدهی وقفه MSI-X پشتیبانی میکند. پروتکل وقفه MSI پشتیبانی نمیشود.
CEC Hardware Root of Trust
کارت NVIDIA H100 NVL با استفاده از CEC قابلیت بوت امن (Secure Boot) را فراهم میکند. با پیادهسازی احراز هویت کد، حفاظت در برابر بازگردانی (rollback protection) و ابطال کلید (key revocation)، دستگاه CEC محتوای فریمور GPU را قبل از بوت شدن از ROM تأیید میکند. این کارت همچنین بهروزرسانی امن فریمور خارج از باند (OOB)، بازیابی امن پردازنده کاربردی و اعتبارسنجی از راه دور (Remote Attestation) را ارائه میدهد. ویژگی Hardware Root of Trust تا دو آدرس I2C را اشغال میکند) علاوه بر آدرسهای SMBus) بنابراین، باید از آدرسهای I2C 0xAA و 0xAC برای استفاده سیستم خودداری شود.
پشتیبانی از GPU چند نمونهای (Multi-Instance GPU)
کارت NVIDIA H100 NVL قابلیت MIG را با ارائه حداکثر هفت نمونه GPU برای هر کارت فراهم میکند. فناوری MIG امکان تقسیم GPU به نمونههای مجزا را میدهد که هر کدام کاملاً ایزوله بوده و دارای حافظه، پهنای باند، کش و هستههای محاسباتی مختص خود هستند. این ویژگی باعث بهینهسازی منابع محاسباتی و کیفیت سرویس (QoS) میشود.
توان برنامهپذیر (Programmable Power) در Nvidia H100 NVL
ویژگی Programmable Power به شرکا امکان میدهد حداکثر توان کارت را برای بودجه توان و حرارتی سیستم یا عملکرد بر وات تنظیم کنند.
حداکثر توان میتواند با استفاده از یکی از دو ابزار NVIDIA تغییر یابد:
- درونباند (In-band): ابزار nvidia-smi تنظیم مجدد توان پس از هر بار بارگذاری درایور لازم است.
- خارج از باند (Out-of-band): ابزار SMBPBI تنظیم توان حتی پس از بارگذاری مجدد درایور و ریست سیستم حفظ میشود.
nvidia-smi
nvidia-smi یک ابزار مانیتورینگ درونباند است که همراه با درایور NVIDIA ارائه میشود و میتوان از آن برای تنظیم حداکثر توان مصرفی در حالت persistence استفاده کرد.
مثالی برای کاهش حداکثر توان به ۳۱۰ وات:
برای بازگرداندن کارت NVIDIA H100 NVL به میزان مصرف توان پیشفرضTDP، میتوان یکی از این دو روش را انجام داد:
- خارج کردن و بارگذاری مجدد ماژول درایور
- یا اجرای دستور زیر:
nvidia-smi -pl <TDP>
nvidia-smi -pm 1
nvidia-smi -pl 310
SMBPBI در NVIDIA H100 NVL
یک کانال (Out-of-Band) از طریق پروتکل SMBus Post-Box Interface (SMBPBI) وجود دارد که برای تنظیم حد توان GPU استفاده میشود.
برای استفاده کامل از این قابلیت، لازم است درایور NVIDIA بارگذاری شده باشد.
حد توان مصرفی (Power Cap) میتواند از طریق دستور غیرهمگام (Asynchronous) زیر تغییر یابد:
با استفاده از SMBPBI، تنظیمات حد توان (Power Limit) میتوانند بهگونهای پیکربندی شوند که پس از بارگذاری مجدد درایور نیز پایدار باقی بمانند.
| Opcode | 10h – Submit/poll asynchronous request |
| Arg1 | 0x01 – Set total GPU power limit |
| Arg2 | 0x00 |
پشتیبانی از پل NVLink (NVLink Bridge Support)
NVIDIA NVLink یک اتصال نقطه به نقطه (P2P) پرسرعت است که در آن یک GPU میتواند دادهها را به GPU دیگر منتقل کرده و از آن دریافت کند. کارت NVIDIA H100 NVL از اتصال پل NVLink با یک کارت NVIDIA H100 NVL مجاور پشتیبانی میکند. هر یک از سه پل متصل، دو اسلات PCIe را در بر میگیرد.
برای عملکرد صحیح و دستیابی به بیشترین پهنای باند پل، اتصال بین کارتهای مجاور NVIDIA H100 NVL باید شامل هر سه پل NVLink باشد. در هر جایی که یک جفت کارت NVIDIA H100 NVL مجاور در سرور قرار داشته باشد، برای دستیابی به بهترین کارایی پل و توپولوژی متعادل، این دو کارت باید با هم پل زده شوند.
شکل زیر توپولوژیهای صحیح و نادرست اتصال NVLink کارت NVIDIA H100 NVL را نشان میدهد.
توپولوژی NVLink – نمای بالا

در سیستمهایی که از چندین پردازنده (CPU) استفاده میکنند، هر دو کارت NVIDIA H100 NVL که بهصورت پل (Bridge) به هم متصل شدهاند، باید در یک دامنهی پردازشی مشترک قرار بگیرند؛ یعنی هر دو تحت توپولوژی یک پردازنده باشند. رعایت این موضوع باعث افزایش کارایی و بهرهوری در اجرای بارهای کاری (Workloads) میشود.
البته استثناهایی هم وجود دارد. برای مثال، در یک سیستم دو پردازندهای (Dual CPU) که هر پردازنده تنها یک کارت NVIDIA H100 NVL در اختیار دارد، این دو کارت همچنان میتوانند از طریق NVLink به یکدیگر متصل و بریج شوند.
همچنین در جدول بعدی، سرعت و پهنایباند ارتباطی کارت گرافیک NVIDIA H100 NVL از طریق NVLink ارائه شده است.
سرعت و پهنایباند NVLink در کارت گرافیک NVIDIA H100 NVL
| پارامتر | مقدار |
| تعداد کل پلهای NVLink پشتیبانیشده توسط NVIDIA H100 | 3 |
| تعداد کل خطوط دریافت (Rx) و ارسال (Tx) پشتیبانیشده NVLink | 48 |
| نرخ انتقال داده در هر خط NVLink کارت NVIDIA H100 NVL (در هر جهت) | 100گیگابایت |
| حداکثر پهنایباند NVLink | 600گیگابیت بر ثانیه |
پل NVLink در Nvidia H100 NVL
پل دو-اسلاتی NVLink برای کارت NVIDIA H100 NVL (که همان پل NVLink بهکاررفته در نسل معماری Ampere از جمله کارت NVIDIA A100 PCIe است) با شماره قطعهی زیر توسط NVIDIA ارائه میشود: 900-53651-0000-000
محل قرارگیری کانکتور NVLink
شکل زیر ناحیهی محدودیت (Keep-out Area) کانکتور برای پشتیبانی از پل NVLink در کارت NVIDIA H100 را نشان میدهد.
قرارگیری کانکتور NVLink – نمای بالا

برای نصب پلهای NVLink کارتNVIDIA H100 NVL، باید فضای کافی هم بالای لبه شمالی کارت و هم پشت PCB کارت در نظر گرفته شود. فضای بالای لبه شمالی باید حداقل ۲.۵ میلیمتر باشد و فاصله پشت کارت (از سطح پشت PCB کارت عقب) حداقل ۲.۶۷ میلیمتر باشد. برای اطلاعات دقیقتر، میتوانید به مشخصات فرمفاکتور ۵.۵ برای محصولات سازمانی PCIe (NVIDIA Form Factor 5.5 Specification for Enterprise PCIe Products) مراجعه کنید (NVOnline: 1063377).
رابطهای پل NVLink کارت H100 NVL دارای درپوشهای قابل جدا شدن هستند تا در سیستمهایی که پل نصب نشده، از رابطها محافظت کنند.
توپولوژی PCIe و NVLink
همانطور که گفته شد، توصیه میکنیم هر دو کارت NVIDIA H100 NVL که با NVLink به هم وصل میشوند، حتماً زیر یک CPU باشند تا بهترین عملکرد را داشته باشند. مگر اینکه سیستم شما دو CPU داشته باشد و هر کارت تنها تحت کنترل CPU خودش باشد.
راهنمای کامل توپولوژی اتصال NVLink به شرح زیر است:
بهترین حالت (توصیه شده):
- دو کارت GPU را زیر همان CPU یا سوییچ PCIe وصل کنید
- تعداد GPUها همیشه توان دو باشد (۱، ۲، ۴، ۸ …)
- تعداد GPUها زیر هر CPU برابر باشد
- پیکربندی متوازن: نسبت یکسان CPU : GPU : NIC برای هر گروه
حالت خوب:
- دو GPU زیر سوییچ PCIe متفاوت، اما هنوز زیر همان CPU
- تعداد GPU و NIC زیر هر CPU برابر است، اما توان دو نیست
حالت مجاز ولی توصیه نشده:
- دو GPU زیر دو CPU مختلف
- تعداد فرد GPUها زیر هر CPU
- پیکربندی نامتوازن: نسبتهای متفاوت CPU : GPU : NIC
ویژگیهای فرمفاکتور محصول Nvidia H100 NVL
کارت NVIDIA H100 NVL مطابق مشخصات فرمفاکتور ۵.۵ انویدیا طراحی شده و یک کارت PCIe دو اسلاته است که از نظر ارتفاع و طول، کامل و استاندارد طراحی شده است (FHFL).
در این معرفی محصول، ابعاد اسمی کارت نشان داده شده است.

کانکتور برق Nvidia H100 NVL
محل قرارگیری کانکتور برق:
کارت دارای یک کانکتور برق ۱۶ پین PCIe است که در لبه شرقی (East Edge) برد قرار دارد.

شکل زیر نحوه تخصیص پایهها (Pin Assignment) برای کانکتور برق ۱۶ پین PCIe را طبق مشخصات PCIe CEM 5.1 نشان میدهد.

جدول زیر گزینههای سطح توان قابل شناسایی توسط کانکتور برق ۱۶ پین PCIe را طبق استاندارد CEM5 PSU، به همراه منطق مربوط به پایههای Sense0 و Sense1 نشان میدهد.
کارت انویدیا مقادیر Sense0 و Sense1 را تشخیص میدهد و بر اساس آن، توان در دسترس از کانکتور برق را شناسایی میکند.
- اگر سطح توان تشخیصدادهشده توسط Sense0 و Sense1 برابر یا بیشتر از مقدار موردنیاز کارت از طریق کانکتور ۱۶ پین باشد، کارت NVIDIA بهصورت عادی کار خواهد کرد.
- اما اگر سطح توان تشخیصدادهشده کمتر از حداقل توان پیشفرض کارت باشد، کارت بوت نخواهد شد.
کارت NVIDIA H100 NVL حداکثر به ۴۰۰ وات توان از کانکتور کمکی ۱۶ پین نیاز دارد.
جدول ۷ منطق پایههای Sense کانکتور کمکی و حداکثر TGP پشتیبانیشده در هر سطح توان را نشان میدهد.
سطح توان منبع تغذیه و منطق Sense در PCIe CEM 5.1 (۱۶ پین)
جدول 7

جدول زیر، اتصالات برق کمکی (Auxiliary Power Connections) پشتیبانیشده برای کارت NVIDIA H100 NVL GPU را نشان میدهد.

مبدل برق CPU 8-Pin به PCIe 16-Pin در Nvidia H100 NVL
یک مبدل ۸ پین CPU به ۱۶ پین PCIe برای تست کارت H100 NVL در سیستمهایی که بهطور پیشفرض کانکتور ۱۶ پین PCIe ندارند، در دسترس است. شکل زیر این مبدل را نشان میدهد.
مبدل ارائهشده توسط NVIDIA تنها میتواند از عملکرد با TGP برابر با ۳۱۰ وات پشتیبانی کند. برای فعالسازی عملکرد کامل ۴۰۰ وات TGP کارت H100 NVL، توصیه میشود شرکا در صورت نیاز مبدل اختصاصی خود را بسازند که از گزینه Power Sense 301 تا 450 وات پشتیبانی کند.
- NVPN: 030-1546-000 – مبدل CPU 8-Pin به PCIe 16-Pin
- Astron MFN: DAMAF01041-H

شکل پایین، نحوه تخصیص پایهها (Pin Assignment) در مبدل ۸ پین CPU به ۱۶ پین PCIe را نشان میدهد.

***نکته:*** مبدل برق از چهار سیگنال Sideband پشتیبانی میکند که مطابق با ردیف ۳ جدول ۷ بهصورت سختافزاری تنظیم (Hardware-Strapped) شدهاند. این پیکربندی مربوط به سطح توان “۱۵۱ تا ۳۰۰ وات” در مشخصات PCIe CEM 5.1 است.
در نتیجه، این مبدل تنها از TGP برابر با ۳۱۰ وات برای کارت H100 NVL پشتیبانی میکند.
برای پشتیبانی از TGP معادل ۴۰۰ وات، باید از یک مبدل یا کابل استفاده شود که مطابق با ردیف ۱ یا ردیف ۲ جدول ۷ تنظیم شده باشد.
دسترسپذیری مبدل برق
مبدل برق تنها همراه با نمونههای آزمایشی کارت NVIDIA H100 NVL ارائه میشود و هدف از آن، فعالسازی تستها و فعالیتهای اولیه در سیستمهایی است که از کانکتورهای برق قدیمیتر استفاده میکنند.
برای کارتهای تولیدی، توصیه میشود از کابل برق کمکی اصلی سیستم که از کانکتور ۱۶ پین PCIe استفاده میکند، حداقل ۴۰۰ وات توان فراهم میکند و پایههای Sense0 و Sense1 آن برای کلاس توان ۳۰۱ تا ۴۵۰ وات (طبق جدول ۷) تنظیم شدهاند، استفاده شود.
در صورتی که کابل برق کمکی اصلی سیستم تنها ۳۰۰ وات توان داشته باشد، پایههای Sense0 و Sense1 باید برای کلاس توان ۱۵۱ تا ۳۰۰ وات (طبق جدول ۷) تنظیم شوند؛ در این حالت، کارت H100 NVL حداکثر ۳۱۰ وات مصرف خواهد داشت.
سخن آخر
کارت گرافیک NVIDIA H100 NVL Tensor Core نقطه اوج نوآوری در پردازشهای سنگین، مدلهای بزرگ زبانی و هوش مصنوعی است. ترکیب معماری پیشرفته Hopper، حافظهی پرسرعت HBM3 و فناوری NVLink نسل چهارم، تعادلی بینظیر میان توان محاسباتی، پهنای باند بالا و انعطافپذیری نرمافزاری ایجاد میکند.
پشتیبانی از قابلیتهای پیشرفته مانند MIG، SR-IOV، امنیت سختافزاری Root of Trust و مجازیسازی GPU، این کارت را به گزینهای ایدهآل برای دیتاسنترهای مدرن و پروژههای AI در مقیاس سازمانی تبدیل میکند. توانایی اجرای همزمان بارهای کاری مختلف، H100 NVL را به شتابدهندهای همهکاره و آیندهنگر بدل میسازد.
با توجه به تواناییهای بینظیر و بهرهوری فوقالعاده، سرمایهگذاری روی NVIDIA H100 NVL میتواند سرعت پروژههای شما را چند برابر کند و تجربهای مطمئن در اجرای مدلهای هوش مصنوعی و محاسبات پیشرفته فراهم آورد. برای خرید و دریافت مشاوره تخصصی در مورد این کارت گرافیک حرفهای، میتوانید روی آداک فن آوری مانیا حساب کنید و از خدمات جامع ما بهرهمند شوید.

رضا موسوی
چه تفاوتی میان H100 NVL و H100 SXM در زمینه توان مصرفی وجود دارد؟
کارشناس فنی
H100 NVL معمولاً در محدوده توان مصرفی پایینتر (۳۵۰-۴۰۰W) طراحی شده، در حالی که مدلهای SXM توان مصرفی بالاتری (بیشتر از ۷۰۰W) دارند.
کیان مرادی
آیا H100 NVL از PCIe Gen5 پشتیبانی میکند؟
کارشناس فنی
بله، این کارت از PCIe Gen5 پشتیبانی میکند و سرعت انتقال داده بین GPU و CPU را بهطور قابل توجهی افزایش میدهد.
فاطمه جعفری
کارت H100 NVL چه نوع ارتباط بینگرافیکی ارائه میدهد؟
کارشناس فنی
این کارت از NVLink نسل چهارم پشتیبانی میکند که امکان اتصال چند GPU با پهنای باند بالا را فراهم میکند.
پارسا قاسمی
کارت H100 NVL چه تفاوتی در پشتیبانی از فرمتهای عددی نسبت به نسل قبل دارد؟
کارشناس فنی
این کارت علاوه بر پشتیبانی از FP32 وFP16 ، قابلیت پردازش در سطح FP8 رو هم اضافه کرده که باعث افزایش چشمگیر کارایی و کاهش مصرف حافظه در مدلهای هوش مصنوعی میشه.
سحر نادری
آیا H100 NVL برای پردازش مدلهای LLM بهینهسازی شده است؟
کارشناس فنی
بله، این کارت مخصوصاً برای اجرای مدلهای زبان بزرگ (LLM) و یادگیری عمیق طراحی و بهینهسازی شده است.
مهدی شریفی
حداکثر پهنای باند حافظه در H100 NVL چقدر است؟
کارشناس فنی
پهنای باند حافظه در این کارت گرافیک حدود ۳.۹ ترابایت بر ثانیه است که نسبت به نسل قبل (A100) افزایش قابل توجهی دارد.
بهاره سادات
آیا H100 NVL قابلیت پشتیبانی از Multi-Instance GPU (MIG) دارد؟
کارشناس فنی
بله، این کارت از فناوری MIG بهره میبرد و میتواند به چند GPU منطقی تقسیم شود تا بارهای کاری مختلف بهصورت همزمان اجرا شوند.
نگار یوسفی
کارت H100 NVL چگونه از فشردهسازی حافظه برای مدلهای بزرگ AI پشتیبانی میکند؟
کارشناس فنی
این کارت با فناوری sparsity و حافظه فشردهشده امکان اجرای مدلهای عظیم AI را بدون نیاز به حافظه اضافی فراهم میکند و کارایی پردازش را بهطور قابل توجهی افزایش میدهد.
لیلا احمدی
حافظه ۹۴ گیگابایتی HBM3 چه سرعت انتقالی ارائه میدهد؟
کارشناس فنی
حافظه HBM3 این کارت سرعتی در حدود ۳.۹ ترابایت بر ثانیه دارد که امکان پردازش سریع دادههای بسیار بزرگ را فراهم میکند.
آرمان کریمی
معماری کارت H100 NVL 94GB چیه و چه مزایایی داره؟
کارشناس فنی
این کارت بر پایه معماری Hopper ساخته شده که برای پردازشهای موازی در مقیاس بسیار بالا و اجرای مدلهای هوش مصنوعی نسل جدید بهینه شده است.
الهام نوروزی
حداکثر توان پردازشی FP8 در H100 NVL چه میزان است؟
کارشناس فنی
توان پردازشی FP8 در این کارت به حدود۳,۳۴۱ teraFLOPS میرسد که آن را برای مدلهای عظیم AI بسیار کارآمد میکند.
pegah_ra
چه تفاوتی میان H100 NVL و H100 SXM در زمینه توان مصرفی وجود دارد؟
پویا اکبری
کارت H100 NVL از چه نوع رابط ارتباطی با CPU پشتیبانی میکند؟
کارشناس فنی
این کارت علاوه بر PCIe Gen4 از PCIe Gen5 پشتیبانی میکند که سرعت تبادل داده بین CPU و GPU را تا دو برابر بیشتر از نسل قبل افزایش میدهد.