توضیحات
کارت گرافیک NVIDIA A100 80GB
قدرتمندترین پلتفرم محاسباتی برای هر بار کاری
کارت گرافیک NVIDIA A100 80GB PCIe شتاب بیسابقهای را در هر مقیاسی ارائه میدهد تا قدرتمندترین مراکز داده انعطافپذیر جهان را برای کاربردهای هوش مصنوعی (AI)، تحلیل دادهها و رایانش با کارایی بالا (HPC) تأمین کند.
کارت گرافیک NVIDIA A100 تا ۲۰ برابر، عملکرد بالاتر را نسبت به نسل قبلی، یعنی NVIDIA Volta™ ارائه میدهد. A100 میتواند به طور مؤثر مقیاسپذیر باشد. یا به طور واضح تر، این کارت گرافیک با قابلیت Multi-Instance GPU (MIG) می تواند به هفت نمونه GPU مستقل تقسیم شود و یک پلتفرم یکپارچه را فراهم کند که به مراکز داده امکان میدهد بهصورت پویا با نیازهای در حال تغییر بار کاری سازگار شوند.
فناوری هستههای تانسور A100 طیف گستردهای از دقتهای محاسباتی را پشتیبانی میکند و یک شتابدهنده واحد را برای هر نوع بار کاری ارائه میدهد. نسل جدید NVIDIA A100 80GB میزان حافظهی GPU را دو برابر کرده و سریعترین پهنای باند حافظه جهان را با ۲ ترابایت بر ثانیه (TB/s) معرفی میکند که زمان حل مسائل را برای بزرگترین مدلها و عظیمترین مجموعه دادهها تسریع میکند.
کارت گرافیک NVIDIA A100 80GB PCIe از محاسبات با دقت مضاعف (FP64)، دقت تکی (FP32)، دقت نیمه (FP16) و اعداد صحیح (INT8) پشتیبانی میکند. این کارت یک کارت PCI Express Gen4 دو اسلاتی با طول 10.5 اینچ است که بر پایه واحد پردازش گرافیکی (GPU) NVIDIA Ampere GA100 طراحی شده است. A100 80GB PCIe از یک هیتسینک غیرفعال برای خنکسازی استفاده میکند که برای عملکرد صحیح، نیازمند جریان هوای مناسب در سیستم است.
NVIDIA A100 80GB PCIe بدون محدودیت، تا حداکثر توان طراحی حرارتی (TDP) معادل 300 وات کار میکند تا برنامههایی که به بالاترین سرعت محاسباتی و بیشترین پهنای باند دادهای نیاز دارند، با نهایت توان اجرا شوند. این کارت حافظهی GPU را دو برابر کرده و بالاترین پهنای باند حافظهی کارتهای PCIe در جهان را با سرعت تا 1.94 ترابایت بر ثانیه (TB/s) ارائه میدهد که زمان حل مسائل را برای بزرگترین مدلها و حجیمترین مجموعه دادهها کاهش میدهد.
کارتهای NVIDIA A100 80GB PCIe از سه پل NVIDIA® NVLink® برای اتصال چندین کارت A100 80GB PCIe به یکدیگر استفاده میکنند. این فناوری پهنای باندی معادل 600 گیگابایت بر ثانیه را فراهم میکند که 10 برابر سریعتر از PCIe Gen4 است و موجب میشود بالاترین توان عملیاتی برای پردازش بارهای کاری حجیم فراهم شود.
شکل ۱. NVIDIA A100 80GB همراه با پل NVLink
مشخصات محصول
جدول ۱ تا جدول ۳ مشخصات محصول، حافظه و نرمافزار کارت NVIDIA A100 80GB PCIe را ارائه میدهند.
جدول ۱. مشخصات محصول
NVIDIA A100 80GB | مشخصات فنی |
---|---|
P1001 SKU 230 NVPN: 699-21001-0230-xxx |
Product SKU |
300 W default 300 W maximum 150 W minimum |
Total board power |
Passive | Thermal solution |
Full-height, full-length (FHFL) 10.5”, dual-slot | Mechanical Form Factor |
GA100-893FF, GA100-893FFF, GA100-893HH, GA100- 893HHH |
GPU SKU |
Device ID: 0x20B5 Vendor ID: 0x10DE Sub-Vendor ID: 0x10DE Sub-System ID: 0x1533 |
PCI Device IDs |
Base: 1065 MHz Boost: 1410 MHz |
GPU clocks |
P0 | Performance States |
EEPROM size: 8 Mbit UEFI: Supported |
VBIOS |
PCI Express 4.0 ×16 Lane and polarity reversal supported |
PCI Express interface |
Supported (seven instances | Multi-Instance GPU (MiG) |
One CPU 8-pin auxiliary power connector | Power connectors and headers |
Board: 1170 grams (excluding bracket, extenders, and bridges) NVLink Bridge: 20.5 grams per bridge (x 3 bridges) Bracket with screws: 20 grams Long offset extender: 48 grams Straight extender: 32 grams |
Weight |
جدول 2. مشخصات حافظه
توضیحات | مشخصات حافظه |
---|---|
1512 MHz | Memory clock |
HBM2e | Memory type |
80 GB | Memory size |
5120 bits | Memory bus width |
Up to 1.94 TB/s | Peak memory bandwidth |
جدول 3. مشخصات نرم افزاری
توضیحات | مشخصات نرم افزاری |
---|---|
Supported — 20 VF (virtual functions | SR-IOV support |
BAR0: 16 MiB BAR1: 128 GiB BAR3: 32 MiB |
BAR address (physical function) |
BAR0: 5 MiB, (256 KiB per VF) BAR1: 80 GiB, 64-bit (4 GiB per VF) BAR3: 640 MiB, 64-bit (32 MiB per VF) |
BAR address (virtual function) |
MSI-X: Supported MSI: Not supported |
Message signaled interrupts |
Supported | ARI Forwarding |
Linux: R470.12 or later Windows: R470.37 or later |
Driver support |
Supported (See “Root of Trust” section) | Secure Boot |
Version 6.01 or later (for CEC-enabled cards) | CEC firmware |
Version 5.695 or later | NVFlash |
CUDA 11.4 or later | NVIDIA® CUDA® support |
Supports vGPU 13/R470 or later: NVIDIA Virtual Compute Server Edition |
Virtual GPU Software Support |
Supported with VMWare | NVIDIA AI Enterprise |
NVIDIA-Certified Systems™ 2.3 or later | NVIDIA Certification |
0x03 – Display Controller | PCI class code |
0x02 – 3D Controller | PCI sub-class code |
Enabled | ECC support |
0x9E (write), 0x9F (read) | SMBus (8-bit address) |
0xAA, 0xAC | Reserved I2C adresses |
Supported | SMBus direct access |
Supported | SMBPBI SMBus Post-Box Interface) |
پشتیبانی از جهت جریان هوا
کارت گرافیک NVIDIA A100 80GB PCIe از یک هیت سینک دوطرفه استفاده میکند که جریان هوا را هم در جهت چپ به راست و هم در جهت راست به چپ میپذیرد.
شکل 2. جهتهای جریان هوا در A100 80GB
ویژگی های محصول
فرم فاکتور
کارت NVIDIA A100 80GB PCIe مطابق با مشخصات فرم فاکتور ۵.۰ NVIDIA برای یک کارت PCIe دو اسلاتی با ارتفاع کامل و طول کامل (FHFL) است.
شکل 3. ابعاد کارت NVIDIA A100 80GB PCIe
پشتیبانی از پل NVLink
NVIDIA NVLink یک ارتباط انتقال داده سریع و نقطه به نقطه است که در آن یک GPU میتواند دادهها را به یک GPU دیگر ارسال و از آن دریافت کند. کارت NVIDIA A100 80GB از اتصال پل NVLink با یک کارت A100 80GB مجاور پشتیبانی میکند.
هر یک از سه پل متصل، دو اسلات PCIe را پوشش میدهد. برای عملکرد صحیح و همچنین برای ارائه پهنای باند حداکثری پل، اتصال پل با یک کارت A100 80GB مجاور باید شامل هر سه پل NVLink باشد. هر زمان که یک جفت کارت A100 مجاور در سرور وجود داشته باشد، برای عملکرد بهتر پل و توپولوژی متوازن پل، این جفت کارت A100 باید به هم متصل شوند.
شکل 4. توپولوژیهای صحیح و نادرست اتصال NVLink A100 را نشان میدهد.
برای سیستمهایی که از چندین CPU بهره میبرند، هر دو کارت A100 80GB در یک جفت کارت پلدار باید در همان دامنه CPU باشند؛ به عبارت دیگر، باید تحت توپولوژی همان CPU قرار گیرند. اطمینان از این امر به بهبود عملکرد برنامههای کاری کمک میکند. با این حال، استثنائاتی نیز وجود دارد؛ به عنوان مثال، در سیستمی با دو CPU که هر کدام یک کارت A100 80GB PCIe دارند؛ در این صورت، دو کارت A100 80GB PCIe در سیستم میتوانند به هم متصل شوند.
سرعت و پهنای باند NVLink کارت A100 80GB PCIe در جدول زیر آمده است.
جدول 3. سرعت و پهنای باند NVLink کارت A100 80GB PCIe
Value | Parameter |
---|---|
3 | Total NVLink bridges supported by NVIDIA A100 80GB |
96 | Total NVLINK Rx and Tx lanes supported |
50 Gbps | Data rate per NVIDIA A100 80GB NVLink lane (each direction |
600 Gbytes per second | Total maximum NVLink bandwidth |
محل قرارگیری کانکتور NVLink
شکل 5 منطقه محافظت شده کانکتور برای پشتیبانی از پل NVLink در A100 80GB را نشان میدهد.
شکل 5. محل قرارگیری کانکتور NVLink – نمای بالا
برای پشتیبانی از پلهای NVLink کارت NVIDIA A100 80GB، باید فضای کافی در بالای لبه شمالی کارت و پشت سطح PCB کارت فراهم شود. فضای بالای لبه شمالی باید حداقل ۲.۵ میلیمتر باشد. فضای پشت (از سطح PCB پشت کارت) باید حداقل ۲.۶۷ میلیمتر باشد. برای جزئیات بیشتر، به NVIDIA Form Factor 5.0 for Server Cards مراجعه کنید.
رابطهای پل NVLink کارت A100 80GB PCIe شامل کاورهای قابل جابجایی است که برای محافظت از رابطها در پیکربندیهای بدون پل طراحی شده است.
پشتیبانی از Multi-Instance GPU
کارت A100 80GB PCIe از قابلیت Multi-Instance GPU (MIG) پشتیبانی میکند و امکان ارائه تا ۷ نمونه GPU برای هر GPU NVIDIA A100 را فراهم میآورد. فناوری MIG میتواند GPU A100 را به نمونههای فردی تقسیم کند، بهطوریکه هرکدام کاملاً ایزوله شده و دارای حافظه با پهنای باند بالا، کش و هستههای محاسباتی خود باشند. این امر امکان تخصیص بهینه منابع محاسباتی و کیفیت سرویس (QoS) را فراهم میکند.
اتصالدهنده برق
این بخش جزئیات مربوط به اتصالدهنده برق کارت NVIDIA A100 80GB PCIe را توضیح میدهد.
محل قرارگیری اتصالدهنده برق
برد یک اتصالدهنده برق ۸ پین CPU را در لبه شرقی برد فراهم میکند.
شکل 6. اتصالدهنده برق ۸ پین CPU
قیمت کارت گرافیک NVIDIA A100 – 80GB
اگر به دنبال کارت گرافیک با کارایی مافوق انتظار هستید که شتاب بیسابقهای را در هر مقیاسی ارائه دهد تا قدرتمندترین مراکز داده انعطافپذیر جهان را برای کاربردهای هوش مصنوعی (AI)، تحلیل دادهها و رایانش با کارایی بالا (HPC) تأمین کند.، NVIDIA A100 – 80GB انتخاب مطمئنی برای شما خواهد بود. شماره تماس: 43672-021
هنوز دیدگاهی داده نشده است