一文詳解NC&NV多款GPU虛擬機(jī)

游戲開發(fā)、工業(yè)圖像渲染、數(shù)字孿生……伴隨著云計(jì)算與物聯(lián)網(wǎng)技術(shù)的不斷發(fā)展，蓬勃增長(zhǎng)的產(chǎn)業(yè)化上云需求對(duì)企業(yè)數(shù)字化基礎(chǔ)設(shè)施的圖像處理能力提出了更高的要求。

本期詳解NC、NV家族新成員

更強(qiáng)大的NCsv3、Ncsv4、Nvv4、Nvv5

有哪些性能上的優(yōu)化提升

從而釋放超強(qiáng)圖像處理能力

優(yōu)化GPU-VM專為計(jì)算密集型、圖形密集型和可視化工作負(fù)載而設(shè)計(jì)，可搭載單個(gè)、多個(gè)或部分GPU。Azure的GPU-VMs分為三大系列，NC、ND和NV系列。N系列VMs的區(qū)別在于它們各自存儲(chǔ)盤上所支持的Azure存儲(chǔ)方案不同。

更強(qiáng)大的NCsv3、Ncsv4、Nvv4、Nvv5與較早系列之間的主要區(qū)別是：

性能優(yōu)化

支持高級(jí)存儲(chǔ)

支持選擇部分GPU到多GPU的配置

新系列的優(yōu)化性能及高性價(jià)比方案使進(jìn)行EUC（終端用戶計(jì)算）的用戶受益，其中不乏如VMware Horizon、Citrix CVAD的大企業(yè)。

01

NCsv3系列VMs

NCsv3（又名NCv3）系列VM搭載NVIDIA Tesla V100 GPU，可提供強(qiáng)于上一代v2系列1.5倍的計(jì)算性能，為儲(chǔ)層建模、DNA測(cè)序、蛋白質(zhì)分析、蒙特卡羅模擬等提供運(yùn)算服務(wù)。NCsv3系列提供低延遲、高吞吐量的網(wǎng)絡(luò)接口，針對(duì)緊密耦合的并行計(jì)算工作負(fù)載進(jìn)行了優(yōu)化，支持高級(jí)存儲(chǔ)、Ultra磁盤、臨時(shí)OS磁盤等功能。除GPU外，NCsv3系列VM還由英特爾至強(qiáng)E5-2690 v4（布羅德韋爾）CPU提供支持。具體型號(hào)參數(shù)如下：

注：1 GPU=1個(gè)V100卡；1023 GiB=1098.4 GB；磁盤吞吐量以每秒輸入/輸出操作數(shù)（IOPS）和MBps來衡量，其中MBps=10^6字節(jié)/秒。

02

NCsv4系列VMs

NC A100 v4（NCsv4）系列VM是Azure GPU系列的新成員，可用于Azure應(yīng)用、AI訓(xùn)練和批量推理工作負(fù)荷，可提升各種受限于GPU性能的AI訓(xùn)練和推理工作負(fù)載和成本效益，如根據(jù)Synopsys的反饋：將電路仿真速度提高10倍，簽核準(zhǔn)確率提高10倍。NC A100 v4系列由NVIDIA A100 PCIe GPU和第三代AMD EPYC?7V13（米蘭）處理器提供支持。與上一代的NCv3相比，用戶將體驗(yàn)到1.5到3.5倍的性能提升。虛擬機(jī)具有多達(dá)4個(gè)NVIDIA A100 PCIe GPU，每個(gè)80GB的內(nèi)存、多達(dá)96個(gè)非多線程AMD EPYC米蘭處理器內(nèi)核和880 GiB的系統(tǒng)內(nèi)存，非常適合AI工作負(fù)載，例如：

GPU加速分析和數(shù)據(jù)庫

具有大量預(yù)處理和后處理的批量推理

自治模型訓(xùn)練

油氣藏模擬

機(jī)器學(xué)習(xí)（ML）開發(fā)

視頻處理

人工智能/機(jī)器學(xué)習(xí)網(wǎng)絡(luò)服務(wù)

由于該系列的GPU、內(nèi)存、I/O均有升級(jí)，占用空間增加，NC A100 v4需要使用第2代VM和市場(chǎng)映像。它比以往任何時(shí)候都更具成本效益，同時(shí)仍為客戶提供工作負(fù)載所需的選項(xiàng)和靈活性。具體型號(hào)參數(shù)如下：

注：1 GPU=1個(gè)A100卡

03

NVv4系列VMs

NVv4系列VM可作為用于生產(chǎn)力工具運(yùn)行，如Microsoft Office 365，設(shè)計(jì)工具如Adobe、3D專業(yè)應(yīng)用等的云工作站和云桌面。搭載AMD Radeon Instinct MI25 GPU和AMD EPYC 7V12（羅馬）CPU，基本頻率為2.45GHz，全核峰值頻率為3.1GHz，單核峰值頻率為3.3GHz。NVv4首次在Azure中啟用免許可證GPU分區(qū)，實(shí)現(xiàn)提供從具有2 GiB幀緩沖區(qū)的1/8 GPU到具有16 GiB幀緩沖區(qū)的完整GPU的靈活方案，將GPU資源與各種企業(yè)工作負(fù)載需求相匹配，使虛擬桌面體驗(yàn)更加經(jīng)濟(jì)實(shí)惠。

該系列的ACU（Azure計(jì)算單元）高達(dá)230-260并支持高級(jí)存儲(chǔ)、Ultra盤、臨時(shí)OS磁盤等功能。通過創(chuàng)新的GPU分區(qū)技術(shù)和SR-IOV強(qiáng)制隔離PCIe?資源可大力提升數(shù)據(jù)安全。每個(gè)虛擬機(jī)只能訪問自己的GPU資源，安全硬件分區(qū)可防止其他虛擬機(jī)進(jìn)行未經(jīng)授權(quán)的訪問。NVv4 VM目前僅支持Windows操作系統(tǒng)下的用戶使用。具體型號(hào)參數(shù)如下：

04

NVv5系列VMs

NVadsA10v5（又名NVv5）系列VM可用于3D渲染、流媒體、游戲等領(lǐng)域的云桌面和工作站搭建，配備NVIDIA A10 GPU和AMD EPYC 74F3V（米蘭）CPU，基本頻率為3.2GHz，全核峰值頻率為4.0 GHz，支持高級(jí)存儲(chǔ)、Ultra盤、臨時(shí)OS磁盤等功能。本系列同NVv4一樣，提供靈活的GPU分區(qū)方案，但性能只增不減：從具有4GiB幀緩沖區(qū)1/6 GPU到具有24 GiB幀緩沖區(qū)的完整A10 GPU，以滿足用戶個(gè)性化的需求。

NVadsA10v5系列中的每個(gè)虛擬機(jī)都附帶一個(gè)網(wǎng)格許可證。此許可證使用戶可以靈活地將NV虛擬機(jī)用作單個(gè)用戶的虛擬工作站，或者供25個(gè)并發(fā)用戶連接的虛擬應(yīng)用程序方案的虛擬機(jī)。利用虛擬功能，將所需的硬件資源映射到每個(gè)子分區(qū)后，虛擬設(shè)備驅(qū)動(dòng)程序能夠直接訪問硬件，無需與主機(jī)通信。單個(gè)NVIDIA A10核心GPU分區(qū)可包含多達(dá)6個(gè)虛擬機(jī)，每個(gè)虛擬機(jī)都具有單獨(dú)的可預(yù)測(cè)性能，并且得益于SR-IOV技術(shù)，每個(gè)GPU分區(qū)都可以充當(dāng)只能訪問其自身資源的單個(gè)計(jì)算機(jī)。用戶可根據(jù)自身的GPU加速圖形應(yīng)用程序和虛擬桌面需求來選擇合適的虛擬機(jī)型號(hào)。具體型號(hào)參數(shù)如下：

注：NVadsA10v5系列虛擬機(jī)采用AMD同步多線程技術(shù)；由于有糾錯(cuò)碼（ECC）的支持，OS中實(shí)際報(bào)告的GPU VRAM將略少。