今天,權(quán)威AI基準(zhǔn)評(píng)測(cè)組織MLPerf公布了最新一期推理性能榜單——基于自研的軟硬一體協(xié)同方案,阿里云在數(shù)據(jù)中心、邊緣計(jì)算、IoT領(lǐng)域,斬獲多項(xiàng)第一。
MLCommons發(fā)布最新MLPerf榜單
·阿里云磐久服務(wù)器M系列:成為MLPerf有史以來(lái)CPU-Only推理性能得分最高的服務(wù)器,且在數(shù)據(jù)中心和邊緣側(cè)該類別的總體性能均為第一。
·平頭哥玄鐵RISC-V處理器:在聚焦低功耗、高能效的IoT領(lǐng)域Tiny v0.7榜單中,刷新了視覺喚醒、圖像分類、語(yǔ)音喚醒及異常監(jiān)測(cè)4個(gè)典型AI任務(wù)的紀(jì)錄,創(chuàng)造了RISC-V架構(gòu)在AI基準(zhǔn)測(cè)試的最好成績(jī)。
CPU-Only推理性能數(shù)據(jù)對(duì)比
Tiny v0.7推理性能數(shù)據(jù)對(duì)比
此次磐久服務(wù)器和玄鐵RISC-V處理器取得優(yōu)異成績(jī),得益于阿里云自研震旦異構(gòu)計(jì)算加速平臺(tái)穩(wěn)定、強(qiáng)大的軟硬協(xié)同優(yōu)化能力。
基于震旦異構(gòu)計(jì)算加速平臺(tái),可實(shí)現(xiàn)AI框架及算法的無(wú)縫遷移適配,支持云邊端多場(chǎng)景快速部署,大幅提升AI應(yīng)用開發(fā)效率:
·模型優(yōu)化:震旦利用模型優(yōu)化工具SinianML來(lái)進(jìn)行用于AI任務(wù)的神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索和壓縮,以及最佳算子實(shí)現(xiàn);
·高精度、高效率:通過(guò)震旦算子Autotune能力,得到適配ARM架構(gòu)處理器的最佳算子實(shí)現(xiàn),保證達(dá)到基準(zhǔn)測(cè)試精度目標(biāo),且得到遠(yuǎn)高于標(biāo)準(zhǔn)ResNet50 v1.5的計(jì)算效率;
·提升CPU利用率:通過(guò)大規(guī)模深度算子融合和針對(duì)平頭哥玄鐵RISC-V微架構(gòu)的極致優(yōu)化,大大提高CPU算力利用率。
MLPerf
MLPerf由圖靈獎(jiǎng)得主David Patterson于2018年發(fā)起,每年組織全球AI訓(xùn)練和AI推理性能測(cè)試并發(fā)榜,已成為業(yè)界最主流標(biāo)準(zhǔn)之一。
本次榜單重點(diǎn)更新了面向數(shù)據(jù)中心和邊緣計(jì)算的場(chǎng)景,以及最新的MLPerf Tiny 0.7測(cè)試榜單。
Tiny場(chǎng)景是MLPerf近年新增的性能測(cè)試分類,聚焦于低功耗、高性價(jià)比的IoT場(chǎng)景,考驗(yàn)在日益廣泛的IoT智能應(yīng)用場(chǎng)景下的軟硬件性能和優(yōu)化能力。