比GPU性能提升5倍 阿里云含光800云服務(wù)器正式商用

含光800云服務(wù)器，配備阿里平頭哥自研神經(jīng)網(wǎng)絡(luò)加速芯片含光800，提供全球最高單芯片AI推理性能，有著同類處理器的數(shù)十倍性能；并針對(duì)業(yè)務(wù)場(chǎng)景做了深度優(yōu)化，廣泛適用于圖像搜索、場(chǎng)景識(shí)別、視頻內(nèi)容識(shí)別、自然語言處理等業(yè)務(wù)，為客戶提供超高性價(jià)比的推理解決方案。

阿里云城市大腦交通信號(hào)機(jī)系統(tǒng)使用含光800服務(wù)器處理車輛檢測(cè)、品牌識(shí)別、車牌識(shí)別等算法模型，單張含光800全鏈路能夠支持100路實(shí)時(shí)視頻的分析和特征結(jié)構(gòu)化數(shù)據(jù)的提取，相比GPU性能提升超過5倍。

阿里電商平臺(tái)合規(guī)經(jīng)營(yíng)也在含光800云服務(wù)器上建立了多維度全方位的風(fēng)險(xiǎn)識(shí)別機(jī)制。在同樣的算法精度下，性價(jià)比是GPU的4倍。

據(jù)悉，含光云服務(wù)器還基于阿里云自研的神龍?jiān)品?wù)器架構(gòu)，為用戶提供彈性裸金屬加速實(shí)例，兼顧了物理服務(wù)器的功能性能優(yōu)勢(shì)，以及云計(jì)算的高可用優(yōu)勢(shì)。開發(fā)工具采用阿里平頭哥HGAI自動(dòng)化開發(fā)工具，支持主流深度學(xué)習(xí)框架TensorFlow、Caffe、MXNet和ONNX。

今年3月，阿里云飛天AI加速引擎AIACC與含光800的組合，打敗了Google，拿下了斯坦福大學(xué)DAWNBench ImageNet推理成本的世界第一，能效比達(dá)500IPS/W，是第二名的3.3倍。

AIACC是業(yè)界首次統(tǒng)一加速Tensorflow、PyTorch、MXNET、Caffe等主流開源框架的性能加速引擎，AIACC-Inference充分了揮發(fā)含光800超高的計(jì)算能力，這是阿里云軟硬件一體化極致性能優(yōu)化的又一典范。