華為云|說吧，盤古你憑什么獲獎？

今日，在蘇州召開的

第四屆全球人工智能產(chǎn)品應用博覽會上

華為云盤古大模型榮獲“智博會產(chǎn)品金獎”

“智博會產(chǎn)品金獎”
是博覽會的重磅獎項

盤古大模型究竟是何方神圣

擁有什么突破性技術創(chuàng)新

有哪些可落地的應用實踐

能脫穎而出獲此殊榮？

讓我們跟隨主持人樂樂和小易

近距離了解一下

什么是盤古大模型？

今年4月，華為云發(fā)布了盤古系列超大預訓練模型，具有超大規(guī)模參數(shù)、超高精度的特質(zhì)，讓AI開發(fā)模式從手工作坊式升級到工業(yè)化開發(fā)新模式，以減少行業(yè)側的數(shù)據(jù)標注依賴，從而降低人工智能開發(fā)的門檻和成本，目前包括“四大分身”：

文本大模型 （NLP）

重點在于文本的理解和生成能力，可以理解文字背后的含義，從文本中抽取關鍵信息，例如從法律文書中快速找出案件要素，提高判決效率，也可以輔助人類寫作；

視覺大模型 （CV）

重點在于視覺理解的能力，可以對各行業(yè)的圖像進行識別和檢測，例如快速找出工業(yè)產(chǎn)品的缺陷，提高質(zhì)檢效率；

多模態(tài)大模型

重點在于圖像和文本的跨模態(tài)理解與生成能力，可以根據(jù)給定的文本生成圖像，也可以根據(jù)給定的圖像生成文本，可以幫助人類提高產(chǎn)品設計和藝術創(chuàng)作的效率；

科學計算大模型

目標是幫助人類解決各種科學問題，如氣象預測、海浪預測、分子動力學預測、微分方程求解等，用AI技術來促進基礎科學的發(fā)展。除了這四大能力外，華為云也在積極探索大模型在其他方向的應用，如3D點云、神經(jīng)渲染等，未來會將大模型應用在更多方面。

為什么開發(fā)盤古大模型？

當前業(yè)界大部分人工智能開發(fā)者，正在沿用傳統(tǒng)的“小作坊模式”，即針對每個場景，獨立地完成模型選擇、數(shù)據(jù)處理、模型優(yōu)化、模型迭代等一系列開發(fā)環(huán)節(jié)。

由于無法積累通用知識，同時不同領域的調(diào)試方法有所不同，這樣的開發(fā)模式往往比較低效。特別地，當前人工智能領域存在大量專業(yè)水平不高的開發(fā)者，他們往往不能掌握規(guī)范的開發(fā)模式和高效的調(diào)優(yōu)技巧，從而使得模型的精度、性能、可擴展性等指標都不能達到滿意的水平。

盤古大模型將改變傳統(tǒng)的“小作坊開發(fā)模式”，走向新的“工業(yè)化開發(fā)模式”，將一套通用的流水線復用到各種不同的場景里去，減少專家的干預和人為調(diào)優(yōu)的消耗，從而降低人工智能開發(fā)的門檻和成本。

盤古大模型有哪些突破性技術創(chuàng)新？

過去兩年，盤古大模型獲得了10多個業(yè)界挑戰(zhàn)賽冠軍，30多個專利申請，發(fā)表了70多篇IEEE、ACM期刊論文，以及120多篇CCF A類會議論文。

盤古大模型的開發(fā)過程中首次采用了多項領先技術，如：

● 首次在圖像預訓練流程中加入生成和判別損失，兼顧CV大模型的判別能力和生成能力，保證模型在底層圖像恢復和高層語義理解的能力。

● 首次在文本預訓練模型中使用Encoder-Decoder架構，兼顧NLP大模型的理解能力和生成能力，保證模型在不同系統(tǒng)中的嵌入靈活性。

● 在對比度自監(jiān)督學習中引入了樣本相似性，使得小樣本學習的能力獲得了顯著提升，達到業(yè)界第一。

● 采用“階段式訓練”和“動態(tài)冰化”策略，顯著提升大模型訓練的穩(wěn)定性和效率，僅需少量樣本和可學習參數(shù)即可完成千億規(guī)模大模型的快速微調(diào)和下游適配。

盤古大模型有哪些落地的應用實踐？

盤古預訓練大模型已經(jīng)在多個行業(yè)場景成功驗證，包括能源、零售、金融、工業(yè)、醫(yī)療、環(huán)境、物流等等。

● 在國網(wǎng)重慶永川公司落地的無人機智能巡檢項目中

盤古大模型幫助電力部門，減輕了大量人工，還提高了巡檢的效率。以前訓練一個模型要人工標注上萬張圖片，現(xiàn)在只需要幾十張；以前模型開發(fā)要一個物品識別一個模型，現(xiàn)在一個大模型就可以完成大量物品的識別。

● 在實時海浪預測項目中

傳統(tǒng)科學計算模型在預測海浪高度變化的時候，需要消耗海量的超算算力?；诒P古科學計算大模型，在保證準確率的前提下，將預測速度提升到了原來的10,000倍，極大地提升了預測的時效性。

可見，盤古大模型已支撐起城市各行各業(yè)多種多樣的創(chuàng)新和智能應用，成為了名副其實的城市數(shù)字化轉型的智能基礎設施。

總結而言，華為云盤古大模型實現(xiàn)了一個AI大模型在眾多場景通用、泛化和規(guī)模化復制，減少了對數(shù)據(jù)標注的依賴，讓AI開發(fā)由作坊式轉變?yōu)楣I(yè)化開發(fā)的新模式，節(jié)約研發(fā)成本。

同時，盤古大模型還提供模型預訓練、微調(diào)、部署和迭代的功能，形成了AI開發(fā)完整閉環(huán)，極大地提升了AI開發(fā)效率。縮短了傳統(tǒng)行業(yè)走向智能化的距離，賦能千行百業(yè)邁向智能化的星辰大海。