AWS發(fā)布搭載A10G GPU的EC2執(zhí)行實(shí)例G5，機(jī)器學(xué)習(xí)性能是前一代3倍以上

AWS更新其G系列EC2執(zhí)行實(shí)例，發(fā)布最新搭載Nvidia A10G張量核心GPU的G5執(zhí)行實(shí)例，能夠更好地支持多媒體和機(jī)器學(xué)習(xí)等使用案例。AWS在兩年前發(fā)布配備可多達(dá)8個(gè)Nvidia T4張量核心GPU的G4執(zhí)行實(shí)例，主要針對機(jī)器學(xué)習(xí)推理和圖形密集的應(yīng)用程序，提供高性能GPU運(yùn)算能力。

而現(xiàn)在新的G5執(zhí)行實(shí)例，則是搭載多達(dá)8個(gè)A10G張量核心GPU，CPU則是使用第二代AMD EPYC處理器，整體來說，推理和圖形運(yùn)算的性價(jià)比前一代提高了40%。

A10G GPU與T4相比，A10G GPU機(jī)器學(xué)習(xí)訓(xùn)練的性能達(dá)3.3倍，推理能力和圖形性能也有3倍，每個(gè)A10G GPU具有24 GB內(nèi)存、80個(gè)光線關(guān)注核心、320個(gè)第三代Nvidia張量核心，可以提供250 TOPS運(yùn)算能力。

隨著GPU的升級，G5執(zhí)行實(shí)例的光線關(guān)注也獲得提升，因此能更好地支持游戲開發(fā)工具，而且每個(gè)執(zhí)行實(shí)例也擁有大量EBS帶寬，甚至能夠支持即時(shí)播放用例。在機(jī)器學(xué)習(xí)支持上，G5在訓(xùn)練和推理的速度更快了，用戶也能使用Nvidia CuDNN、TensorRT和各種針對GPU優(yōu)化的軟件，加快機(jī)器學(xué)習(xí)運(yùn)算。

G5執(zhí)行實(shí)例同時(shí)支持Linux和Windows操作系統(tǒng)，并兼容各種圖形和機(jī)器學(xué)習(xí)函數(shù)庫，包括CUDA、OpenCL、DirectX、Vulkan和OpenGL等。目前G5已經(jīng)上市，用戶可以在美東、美西和歐洲地區(qū)使用，同時(shí)用戶也能夠在Amazon ECS和EKS集群中，激活G5執(zhí)行實(shí)例。