Meta將使用微軟Azure最新虛擬機(jī)(VM)系列，多達(dá)5400個(gè)GPU

IT之家 5月28日消息，據(jù)MSPoweruser報(bào)道，Meta于2021年首次使用微軟Azure虛擬機(jī)。由于其更快的分布式AI訓(xùn)練，Meta將NVIDIA A100 80GB GPU應(yīng)用于其大規(guī)模AI研究，例如訓(xùn)練其OPT-175B語言模型。顯然，它還可以做更多事情，因此Meta決定為其AI研究提供更多機(jī)器學(xué)習(xí)訓(xùn)練工作負(fù)載。

“作為這種更深層次關(guān)系的一部分，Meta將擴(kuò)大其對(duì)Azure超級(jí)計(jì)算能力的使用，以加速其Meta AI團(tuán)隊(duì)的人工智能研發(fā)，”Azure HPC和AI高級(jí)項(xiàng)目經(jīng)理Sherry Wang指出?！癕eta將使用Azure中最新的虛擬機(jī)(VM)系列（NDm A100 v4系列，配備NVIDIA A100 Tensor Core 80GB GPU），5400個(gè)GPU的專用Azure集群用于他們的一些大規(guī)模AI研究工作負(fù)載。”

微軟和Meta的合作并不止于此。兩家公司還計(jì)劃在Azure上擴(kuò)展PyTorch的使用。Wang表示，微軟將創(chuàng)建PyTorch開發(fā)加速器，以便在Azure上快速實(shí)施基于PyTorch的解決方案。此外，該公司承諾將持續(xù)提供PyTorch企業(yè)級(jí)支持，“以使客戶和合作伙伴能夠在云和邊緣的生產(chǎn)環(huán)境中部署PyTorch模型?！?/p>

Meta人工智能副總裁Jerome Pesenti表示：“我們很高興能夠加深與Azure的合作，以推動(dòng)Meta的人工智能研究、創(chuàng)新和開源工作，從而使全球更多的開發(fā)人員受益?！薄皯{借Azure的計(jì)算能力和每臺(tái)VM 1.6TB/s的互連帶寬，我們能夠加速不斷增長的培訓(xùn)需求，以更好地適應(yīng)更大、更具創(chuàng)新性的AI模型。此外，我們很高興與微軟合作，將我們的經(jīng)驗(yàn)擴(kuò)展到使用PyTorch從研究到生產(chǎn)的客戶。”