全新Azure AI基礎(chǔ)設(shè)施：進(jìn)一步擴展人工智能能力

微軟Azure AI基礎(chǔ)設(shè)施是微軟擴展產(chǎn)品和服務(wù)的核心支柱，為開發(fā)人員提供在Azure平臺上構(gòu)建下一代AI驅(qū)動的應(yīng)用程序所需的系統(tǒng)、工具和資源。微軟在硬件和AI基礎(chǔ)設(shè)施上的早期投資，正在幫助客戶將AI的高效和創(chuàng)新變現(xiàn)為業(yè)務(wù)價值。借力AI，用戶可以創(chuàng)造更豐富的用戶體驗，推動創(chuàng)新，提高業(yè)務(wù)生產(chǎn)力。

微軟Azure AI基礎(chǔ)設(shè)施能夠支持全球可擴展，且未來微軟仍將對其進(jìn)行持續(xù)投資與擴展。現(xiàn)在，微軟推出了ND H100 v5虛擬機系列，這款虛擬機配備了NVIDIA H100 Tensor Core圖形處理單元（GPU）和低延遲網(wǎng)絡(luò)，推動企業(yè)步入AI應(yīng)用新時代。

前所未有的AI處理和規(guī)模

ND H100 v5虛擬機系列發(fā)布

微軟全新發(fā)布Azure ND H100 v5虛擬機（VM）系列，現(xiàn)已在美國東部和美國中南部Azure區(qū)域提供。該系列配備了最新的NVIDIA H100 Tensor Core GPU和NVIDIA Quantum-2 InfiniBand網(wǎng)絡(luò)。憑借在超級計算性能和規(guī)模方面的豐富經(jīng)驗，微軟精心設(shè)計的ND H100 v5系列虛擬機，用于應(yīng)對先進(jìn)的AI工作負(fù)載帶來的日益增加的復(fù)雜性。作為微軟在AI領(lǐng)域深入和持續(xù)投資的一部分，微軟正在利用一個AI優(yōu)化的4K GPU集群，并將在明年將其擴展到數(shù)十萬個全新的GPU。

ND H100 v5 VM虛擬機系列具有以下特性：

AI超級計算GPU：配備了八個NVIDIA H100 Tensor Core GPU。比起上一代虛擬機，該系列可讓AI模型顯著提速，為企業(yè)提供無與倫比的計算能力。

新一代計算機處理單元（CPU）：CPU性能對于AI的訓(xùn)練和推理至關(guān)重要，微軟選擇了第四代Intel Xeon Scalable處理器，確保虛擬機達(dá)到最佳的處理速度。

低延遲網(wǎng)絡(luò)：采用NVIDIA Quantum-2 ConnectX-7 InfiniBand，每個GPU擁有400Gb/s、每個VM擁有3.2 Tb/s的跨節(jié)點帶寬，確保GPU間的無縫性能，堪稱全球頂級的超級計算機。

優(yōu)化主機到GPU的性能：通過PCIe Gen5提供每個GPU 64GB/s的帶寬，Azure在CPU和GPU之間具有顯著的性能優(yōu)勢。

大規(guī)模的內(nèi)存和內(nèi)存帶寬：DDR5內(nèi)存是該系列虛擬機的核心，提供更高的數(shù)據(jù)傳輸速度和效率，使它們成為處理大規(guī)模數(shù)據(jù)集工作負(fù)載的理想選擇。

該系列虛擬機已經(jīng)證明了它們的性能優(yōu)勢，使用新的8位FP8浮點數(shù)據(jù)類型進(jìn)行矩陣乘法操作時，速度提升了六倍，比前一代的FP16更快。ND H100 v5 VM幫助大型語言模型（如BLOOM 175B端到端模型）實現(xiàn)了最高兩倍的推理速度提升，驗證了它們進(jìn)一步優(yōu)化AI應(yīng)用的潛力。

由Azure AI基礎(chǔ)設(shè)施支持的人工智能，具有推動從制造到零售、從金融服務(wù)到醫(yī)療保健等各行各業(yè)發(fā)展的潛力。