全新Azure AI基礎(chǔ)設(shè)施:進(jìn)一步擴展人工智能能力

來源:Azure云科技
作者:Azure云科技
時間:2023-09-05
12125
微軟Azure AI基礎(chǔ)設(shè)施是微軟擴展產(chǎn)品和服務(wù)的核心支柱,為開發(fā)人員提供在Azure平臺上構(gòu)建下一代AI驅(qū)動的應(yīng)用程序所需的系統(tǒng)、工具和資源。

fdgdfd.jpg

微軟Azure AI基礎(chǔ)設(shè)施是微軟擴展產(chǎn)品和服務(wù)的核心支柱,為開發(fā)人員提供在Azure平臺上構(gòu)建下一代AI驅(qū)動的應(yīng)用程序所需的系統(tǒng)、工具和資源。微軟在硬件和AI基礎(chǔ)設(shè)施上的早期投資,正在幫助客戶將AI的高效和創(chuàng)新變現(xiàn)為業(yè)務(wù)價值。借力AI,用戶可以創(chuàng)造更豐富的用戶體驗,推動創(chuàng)新,提高業(yè)務(wù)生產(chǎn)力。

微軟Azure AI基礎(chǔ)設(shè)施能夠支持全球可擴展,且未來微軟仍將對其進(jìn)行持續(xù)投資與擴展。現(xiàn)在,微軟推出了ND H100 v5虛擬機系列,這款虛擬機配備了NVIDIA H100 Tensor Core圖形處理單元(GPU)和低延遲網(wǎng)絡(luò),推動企業(yè)步入AI應(yīng)用新時代。

前所未有的AI處理和規(guī)模

ND H100 v5虛擬機系列發(fā)布

微軟全新發(fā)布Azure ND H100 v5虛擬機(VM)系列,現(xiàn)已在美國東部和美國中南部Azure區(qū)域提供。該系列配備了最新的NVIDIA H100 Tensor Core GPU和NVIDIA Quantum-2 InfiniBand網(wǎng)絡(luò)。憑借在超級計算性能和規(guī)模方面的豐富經(jīng)驗,微軟精心設(shè)計的ND H100 v5系列虛擬機,用于應(yīng)對先進(jìn)的AI工作負(fù)載帶來的日益增加的復(fù)雜性。作為微軟在AI領(lǐng)域深入和持續(xù)投資的一部分,微軟正在利用一個AI優(yōu)化的4K GPU集群,并將在明年將其擴展到數(shù)十萬個全新的GPU。

ND H100 v5 VM虛擬機系列具有以下特性:

AI超級計算GPU:配備了八個NVIDIA H100 Tensor Core GPU。比起上一代虛擬機,該系列可讓AI模型顯著提速,為企業(yè)提供無與倫比的計算能力。

新一代計算機處理單元(CPU):CPU性能對于AI的訓(xùn)練和推理至關(guān)重要,微軟選擇了第四代Intel Xeon Scalable處理器,確保虛擬機達(dá)到最佳的處理速度。

低延遲網(wǎng)絡(luò):采用NVIDIA Quantum-2 ConnectX-7 InfiniBand,每個GPU擁有400Gb/s、每個VM擁有3.2 Tb/s的跨節(jié)點帶寬,確保GPU間的無縫性能,堪稱全球頂級的超級計算機。

優(yōu)化主機到GPU的性能:通過PCIe Gen5提供每個GPU 64GB/s的帶寬,Azure在CPU和GPU之間具有顯著的性能優(yōu)勢。

大規(guī)模的內(nèi)存和內(nèi)存帶寬:DDR5內(nèi)存是該系列虛擬機的核心,提供更高的數(shù)據(jù)傳輸速度和效率,使它們成為處理大規(guī)模數(shù)據(jù)集工作負(fù)載的理想選擇。

該系列虛擬機已經(jīng)證明了它們的性能優(yōu)勢,使用新的8位FP8浮點數(shù)據(jù)類型進(jìn)行矩陣乘法操作時,速度提升了六倍,比前一代的FP16更快。ND H100 v5 VM幫助大型語言模型(如BLOOM 175B端到端模型)實現(xiàn)了最高兩倍的推理速度提升,驗證了它們進(jìn)一步優(yōu)化AI應(yīng)用的潛力。

由Azure AI基礎(chǔ)設(shè)施支持的人工智能,具有推動從制造到零售、從金融服務(wù)到醫(yī)療保健等各行各業(yè)發(fā)展的潛力。

原文鏈接:點擊前往 >
文章來源:Azure云科技
版權(quán)說明:本文內(nèi)容來自于Azure云科技,本站不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。文章內(nèi)容系作者個人觀點,不代表快出海對觀點贊同或支持。如有侵權(quán),請聯(lián)系管理員(zzx@kchuhai.com)刪除!
個人VIP
小程序
快出海小程序
公眾號
快出海公眾號
商務(wù)合作
商務(wù)合作
投稿采訪
投稿采訪
出海管家
出海管家