上新了！亞麻云｜聚焦高性能算力，基于英偉達(dá) H200 GPU 的新一代實(shí)例正式可用！

亞馬遜云科技特別推出《上新了！亞麻云》，每月與您相約，一文快速了解重磅產(chǎn)品動(dòng)態(tài)！

01

「重磅上新」

亞馬遜云科技本月重磅新品聚焦高性能算力，不僅上線了基于NVIDIA H200及L40S構(gòu)建的兩款最新GPU實(shí)例，同時(shí)也帶來(lái)全新發(fā)布的高性能計(jì)算托管服務(wù)Amazon Parallel Computing Service，全力加速生成式AI及高性能計(jì)算。

基于H200的Amazon EC2 P5e

實(shí)例及基于L40s的

Amazon EC2 G6e實(shí)例正式發(fā)布

亞馬遜云科技推出全新的Amazon EC2 G6e實(shí)例，由NVIDIA L40S Tensor Core GPU提供加速支持。相比上一代G5實(shí)例，Amazon EC2 G6e實(shí)例的計(jì)算性能可提升高達(dá)2.5倍，而與P4d實(shí)例相比，推理成本則可降低20%左右。

Amazon EC2 G6e實(shí)例旨在服務(wù)于機(jī)器學(xué)習(xí)和空間計(jì)算等GPU密集型工作負(fù)載。它能夠支持部署大型語(yǔ)言模型（參數(shù)量高達(dá)130億）、生成式AI模型（圖像/視頻/音頻擴(kuò)散模型）以及創(chuàng)建大規(guī)模3D模擬和數(shù)字孿生體等應(yīng)用場(chǎng)景。

Amazon EC2 G6e實(shí)例目前在美國(guó)東部（弗吉尼亞北部、俄亥俄州）和美國(guó)西部（俄勒岡州）三個(gè)區(qū)域開放,提供按需、預(yù)留、競(jìng)價(jià)實(shí)例以及節(jié)省計(jì)劃等多種購(gòu)買模式。開發(fā)者可通過(guò)亞馬遜云科技管理控制臺(tái)、Amazon CLI和Amazon SDK等渠道啟動(dòng)使用。

亞馬遜云科技正式推出全新Amazon EC2 P5e實(shí)例，由NVIDIA H200 Tensor Core GPU提供加速支持。相較上代P5實(shí)例，Amazon EC2 P5e實(shí)例的GPU顯存容量提升1.7倍，內(nèi)存帶寬提升1.5倍。

Amazon EC2 P5e實(shí)例專為大型語(yǔ)言模型（LLM）、生成式AI模型以及高性能計(jì)算（HPC）等GPU密集型工作負(fù)載而設(shè)計(jì)。在LLM推理方面，Amazon EC2 P5e實(shí)例可實(shí)現(xiàn)顯著性能提升和成本節(jié)省。

例如，在單個(gè)Amazon EC2 P5e實(shí)例上部署4050億參數(shù)的Meta LLaMa 3.1模型，吞吐量可比雙P5實(shí)例提高1.72倍，成本降低69%。此外，Amazon EC2 P5e實(shí)例適用于模擬、藥物發(fā)現(xiàn)、天氣預(yù)報(bào)等內(nèi)存密集型HPC應(yīng)用。亞馬遜云科技還預(yù)告將推出Amazon EC2 P5en實(shí)例，采用PCIe Gen5連接CPU和GPU，網(wǎng)絡(luò)延遲更低。

Amazon EC2 P5e實(shí)例現(xiàn)已在美國(guó)俄亥俄州區(qū)域通過(guò)Amazon EC2 Capacity Blocks for Machine Learning開放使用?？偟膩?lái)說(shuō)，Amazon EC2 P5e是亞馬遜云科技面向人工智能和機(jī)器學(xué)習(xí)及HPC工作負(fù)載推出的新一代GPU加速實(shí)例。

開啟HPC云端新時(shí)代，亞馬遜云科技

推出Amazon Parallel Computing Service

為解決傳統(tǒng)HPC集群建設(shè)和運(yùn)維成本高昂且缺乏彈性擴(kuò)展能力的痛點(diǎn)，亞馬遜云科技推出了全新Amazon Parallel Computing Service（Amazon PCS）。這是一項(xiàng)全托管服務(wù)，可以使您基于亞馬遜云科技輕松運(yùn)行和擴(kuò)展高性能計(jì)算（HPC）工作負(fù)載。

Amazon PCS為用戶構(gòu)建并管理整個(gè)Slurm集群環(huán)境，包括控制節(jié)點(diǎn)、計(jì)算節(jié)點(diǎn)、作業(yè)隊(duì)列、遠(yuǎn)程可視化等。Slurm作業(yè)調(diào)度系統(tǒng)是HPC領(lǐng)域事實(shí)上的標(biāo)準(zhǔn)，現(xiàn)被全球眾多科研機(jī)構(gòu)和企業(yè)廣泛使用，它提供強(qiáng)大的作業(yè)調(diào)度、監(jiān)控和資源管理功能，支持在大規(guī)模節(jié)點(diǎn)上高效展開并行作業(yè)。Amazon PCS使用戶可以在熟悉的Slurm環(huán)境中工作，而無(wú)需操心底層基礎(chǔ)設(shè)施。

同時(shí)，借助亞馬遜云科技的彈性云資源，Amazon PCS根據(jù)需求無(wú)縫擴(kuò)展HPC集群的計(jì)算規(guī)模，支持從零擴(kuò)展至數(shù)千個(gè)實(shí)例，以高性價(jià)比的方式滿足各種大規(guī)模計(jì)算需求。Amazon PCS也支持構(gòu)建一體化的HPC集群，可與Amazon EFS、Amazon FSx、Amazon EC2等亞馬遜云科技核心服務(wù)深度集成，讓用戶可以無(wú)縫接入高性能云存儲(chǔ)、GPU加速實(shí)例等資源，構(gòu)建更強(qiáng)大的HPC環(huán)境。

Amazon PCS為廣泛的計(jì)算密集型或數(shù)據(jù)密集型工程和科學(xué)工作負(fù)載而設(shè)計(jì)，涉及計(jì)算流體動(dòng)力學(xué)、天氣模擬、有限元分析、電子設(shè)計(jì)自動(dòng)化等領(lǐng)域。目前，Amazon PCS已幫助全球多家科研機(jī)構(gòu)高效運(yùn)行HPC負(fù)載。

Marvel Fusion是一家總部位于德國(guó)的聚變能源初創(chuàng)公司，致力于創(chuàng)造無(wú)限零排放能源。Marvel Fusion的首席執(zhí)行官莫里茨·馮德林登說(shuō)：“我們很高興Amazon PCS服務(wù)將提供高可用性和易于升級(jí)的HPC集群管理能力。它將使我們的科學(xué)家和IT員工能夠在幾小時(shí)內(nèi)利用PCS的最新功能，而不是之前需要的數(shù)周計(jì)劃和額外開銷。”

02

「更多新品」

Amazon Bedrock支持跨區(qū)域推理

Amazon Bedrock現(xiàn)已支持跨區(qū)域推理，這一新功能可在不同亞馬遜云科技區(qū)域間動(dòng)態(tài)分配計(jì)算資源，應(yīng)對(duì)突發(fā)流量高峰。

開啟該功能后，按需付費(fèi)模式的客戶可獲得高達(dá)2倍的區(qū)域配額上限，并在高峰期獲得更出色的服務(wù)可用性和性能表現(xiàn)?？蛻艨蛇x擇數(shù)據(jù)流向的區(qū)域范圍，滿足數(shù)據(jù)駐留和合規(guī)要求，請(qǐng)求會(huì)優(yōu)先分配至最近區(qū)域以降低延遲?？鐓^(qū)域推理無(wú)需額外路由費(fèi)用，計(jì)費(fèi)遵循請(qǐng)求發(fā)出區(qū)域標(biāo)準(zhǔn)。該功能可顯著提升應(yīng)用的可靠性、性能和效率。

Amazon OpenSearch Service

支持Amazon Graviton3實(shí)例部署

（中國(guó)區(qū)域新品）

Amazon OpenSearch Service新增支持基于Amazon Graviton3處理器的實(shí)例類型，包括計(jì)算優(yōu)化C7g、通用M7g和內(nèi)存優(yōu)化R7g實(shí)例。

與上一代Graviton2相比，Graviton3實(shí)例性能提升高達(dá)25%，提供高達(dá)30Gbps的增強(qiáng)網(wǎng)絡(luò)帶寬和20Gbps的Amazon EBS帶寬。新實(shí)例類型支持所有OpenSearch版本及Elasticsearch 7.9和7.10開源版本。用戶可通過(guò)Amazon OpenSearch Service控制臺(tái)或API無(wú)縫將域名升級(jí)到新的Graviton3實(shí)例類型。

Amazon Backup新增

SAP HANA on Amazon EC2的跨區(qū)域、

跨賬戶備份復(fù)制功能

Amazon Bedrock現(xiàn)已支持跨區(qū)域推理，這一新功能可在不同亞馬遜云科技區(qū)域間動(dòng)態(tài)分配計(jì)算資源，應(yīng)對(duì)突發(fā)流量高峰。

通過(guò)此功能，客戶可以通過(guò)Amazon Backup，在亞馬遜云科技不同區(qū)域和賬戶中，生成并存儲(chǔ)額外的SAP HANA快照副本。這些快照副本為源賬戶提供了額外的保護(hù)，以防意外或惡意刪除、災(zāi)難或勒索軟件導(dǎo)致業(yè)務(wù)中斷?？蛻艨墒褂脕嗰R遜云科技Backup控制臺(tái)、API或CLI開始使用SAP HANA的跨區(qū)域和跨賬戶備份，并可按需還原或創(chuàng)建跨區(qū)域跨賬戶副本，降低停機(jī)風(fēng)險(xiǎn)，確保滿足災(zāi)難恢復(fù)和業(yè)務(wù)連續(xù)性要求。