NVIDIA、微軟聯(lián)手打造巨型云計(jì)算超級(jí)計(jì)算機(jī)，加速生成式AI進(jìn)展

NVIDIA今日宣布與微軟展開(kāi)多年合作計(jì)劃，將共同打造全球最強(qiáng)大人工智能（AI）超級(jí)計(jì)算機(jī)之一，結(jié)合Microsoft Azure先進(jìn)超級(jí)運(yùn)算基礎(chǔ)設(shè)施，以及NVIDIA的GPU、網(wǎng)絡(luò)技術(shù)和完整的AI軟件堆棧支持這臺(tái)AI超級(jí)計(jì)算機(jī)，協(xié)助企業(yè)訓(xùn)練、部署和擴(kuò)展AI，包括最先進(jìn)大型模型。

NVIDIA表示，本次合作運(yùn)用Azure具擴(kuò)展性的虛擬機(jī)執(zhí)行實(shí)例，推動(dòng)研究并進(jìn)一步加快推動(dòng)生成式AI（generative AI）進(jìn)展。生成式AI是迅速崛起的AI領(lǐng)域，像是Megatron Turing NLG 530B這類(lèi)基礎(chǔ)模型，是無(wú)監(jiān)督、自我學(xué)習(xí)算法的基礎(chǔ)，創(chuàng)造新文本、程序代碼、數(shù)字圖片、視頻或音頻。

Microsoft Azure針對(duì)AI優(yōu)化調(diào)整的虛擬機(jī)執(zhí)行實(shí)例構(gòu)建于NVIDIA最先進(jìn)的數(shù)據(jù)中心GPU，是第一個(gè)采用NVIDIA Quantum-2 400Gb/s InfiniBand網(wǎng)絡(luò)技術(shù)的公有云執(zhí)行實(shí)例?？蛻?hù)可在單一集群部署數(shù)千個(gè)GPU，訓(xùn)練最龐大的大型語(yǔ)言模型、大規(guī)模創(chuàng)建最復(fù)雜的推薦系統(tǒng)，以及大規(guī)模運(yùn)用產(chǎn)生式AI。

不僅如此，雙方也合作將微軟的DeepSpeed深度學(xué)習(xí)優(yōu)化軟件調(diào)整到最佳狀態(tài)。微軟的DeepSpeed將利用NVIDIA H100 Transformer引擎加快執(zhí)行采用Transformer模型的速度，用于大型語(yǔ)言模型、生成式AI和計(jì)算機(jī)程序代碼編寫(xiě)等廣泛應(yīng)用。這項(xiàng)技術(shù)將8位元浮點(diǎn)精度功能用于DeepSpeed，以大幅加快采用Transformer模型的AI運(yùn)算速度，傳輸量是16位元運(yùn)算的兩倍。

NVIDIA企業(yè)運(yùn)算部門(mén)副總裁Manuvir Das表示，AI技術(shù)進(jìn)步加上產(chǎn)業(yè)采用腳步不斷加快，基礎(chǔ)模型的突破性發(fā)展促進(jìn)研究潮、培育更多創(chuàng)業(yè)公司，并開(kāi)發(fā)新企業(yè)應(yīng)用。雙方合作將為研究人員及企業(yè)提供最先進(jìn)AI基礎(chǔ)設(shè)施和軟件。

（首圖來(lái)源：NVIDIA）