AI大模型安全治理化繁為簡(jiǎn)的“道與術(shù)”

業(yè)界有云：“復(fù)雜性是安全性的敵人”。如今智能化領(lǐng)域中愈發(fā)搶眼的AI大模型，在計(jì)算機(jī)視覺(jué)、文字生成等應(yīng)用場(chǎng)景，顯現(xiàn)出震撼人心的智能化水準(zhǔn)前，都有著一段類(lèi)似“破繭成蝶”的經(jīng)歷。AI大模型“黑箱”內(nèi)部架構(gòu)有高度復(fù)雜的神經(jīng)網(wǎng)絡(luò)，以及需要源源不斷地投喂、輸入高質(zhì)量語(yǔ)料。經(jīng)過(guò)高密度信息訓(xùn)練與推理后的AI大模型，內(nèi)部復(fù)雜性可想而知。

如今，AI大模型已成為智能化時(shí)代的核心基礎(chǔ)資產(chǎn)。在AI大模型本體基礎(chǔ)上的應(yīng)用層面，也展現(xiàn)了百花齊放的創(chuàng)新形態(tài)。從更廣的維度看，多類(lèi)別創(chuàng)新版圖之間，貫穿不同系統(tǒng)平臺(tái)的API鏈路，也使得AI大模型生態(tài)日漸復(fù)雜，展現(xiàn)在黑客眼前的攻擊暴露面，正在持續(xù)蔓延。

OWASP：重點(diǎn)關(guān)注三大風(fēng)險(xiǎn)

經(jīng)過(guò)多輪分析、挑選，OWASP安全機(jī)構(gòu)發(fā)布了AI大模型應(yīng)用的十大風(fēng)險(xiǎn)：

從中可以全覽AI大模型的風(fēng)險(xiǎn)分布，為AI大模型的通用安全漏洞評(píng)測(cè)提供標(biāo)準(zhǔn)依據(jù)。

從利用外部數(shù)據(jù)源訓(xùn)練、微調(diào)數(shù)據(jù)集的訓(xùn)練數(shù)據(jù)階段，到基于大模型自動(dòng)化代理為終端用戶(hù)構(gòu)建核心應(yīng)用服務(wù)，以及聯(lián)動(dòng)多方插件布局大模型的下游服務(wù)，OWASP重點(diǎn)提示的十大風(fēng)險(xiǎn)，遍布于整個(gè)AI大模型創(chuàng)新生態(tài)的全鏈路關(guān)鍵場(chǎng)景。

如果說(shuō)AI大模型的語(yǔ)料訓(xùn)練階段，還屬于智能化科創(chuàng)企業(yè)的“閉門(mén)造車(chē)”的內(nèi)部研發(fā)階段，但步入了推理部署階段之后，即將蝶變的AI智能體大腦，一經(jīng)發(fā)布就要呈現(xiàn)于全域數(shù)字化場(chǎng)景中。此時(shí)，窺伺大模型與相關(guān)數(shù)據(jù)資產(chǎn)的黑客，將會(huì)易于尋覓到更多攻擊切入點(diǎn)。

大模型+API：風(fēng)險(xiǎn)指數(shù)隨之增加

鑒于業(yè)界成型的AI大模型訓(xùn)練成本門(mén)檻高，API接口與開(kāi)源模型廣為應(yīng)用。借助API的互聯(lián)性，大模型更易用，可跨平臺(tái)響應(yīng)不同應(yīng)用需求與商業(yè)化運(yùn)營(yíng)。保護(hù)好API的安全性，就是在一定程度上增強(qiáng)了AI大模型的外層防御力度。因而，我們需要把API與漏洞評(píng)估視為AI大模型的頭等大事。

AI大模型與上下游生態(tài)所組成的整個(gè)體系，API接口如毛細(xì)血管一般，向不同位置的工作負(fù)載，輸送著多類(lèi)別數(shù)據(jù)信息。結(jié)合OWASP安全機(jī)構(gòu)總結(jié)的十大威脅來(lái)看，大模型API面臨著訓(xùn)練數(shù)據(jù)投毒、大模型拒絕服務(wù)、敏感信息披露以及身份授權(quán)與認(rèn)證等方面的安全隱患。

Akamai云安全治理思路

深化加固重點(diǎn)攻防端口，有助于實(shí)現(xiàn)事半功倍的安全防護(hù)。無(wú)論是在傳統(tǒng)IT資產(chǎn)，還是在近年涌現(xiàn)的AI大模型等新興的智能化資產(chǎn)中，API都關(guān)乎數(shù)據(jù)、關(guān)乎IT系統(tǒng)安全嚴(yán)密與否。Akamai認(rèn)為，做好API資產(chǎn)全生命周期管理，有助于全面檢測(cè)隱藏威脅，剔除黑客入侵路徑，規(guī)避AI大模型十大風(fēng)險(xiǎn)以及其它安全漏洞。

治理好API安全，即是保障數(shù)據(jù)流通的“管道”安全。而在數(shù)據(jù)安全方面，尤其是企業(yè)通過(guò)內(nèi)部信息部署私有AI大模型時(shí)，也需注意培養(yǎng)員工對(duì)組織核心數(shù)據(jù)資產(chǎn)管理的安全意識(shí)，防范自身生產(chǎn)經(jīng)營(yíng)文件、員工隱私的意外泄露。

當(dāng)下，多數(shù)AI大模型都部署于云端，所在云環(huán)境的安全性也十分關(guān)鍵。作為擁有多年安全基礎(chǔ)設(shè)施經(jīng)驗(yàn)積累的云服務(wù)商，Akamai針對(duì)智能化時(shí)代的數(shù)據(jù)安全威脅，已構(gòu)建有一套完全閉環(huán)的保護(hù)體系。目前，Akamai通過(guò)多種路徑與具備AI能力的云安全產(chǎn)品，深度保護(hù)AI大模型、API與數(shù)據(jù)等企業(yè)核心資產(chǎn)。

針對(duì)具有高度復(fù)雜性、黑箱性等特點(diǎn)的AI大模型安全治理，更需要開(kāi)發(fā)大模型的AI先鋒企業(yè)建立全局視野，全生命周期端到端進(jìn)行安全防御。當(dāng)下，Akamai內(nèi)部云安全產(chǎn)品創(chuàng)新進(jìn)程中，也在持續(xù)調(diào)研、分析可預(yù)防與緩解AI大模型風(fēng)險(xiǎn)的有效安全路徑，幫助AI科技等行業(yè)在安全運(yùn)營(yíng)等方面化繁為簡(jiǎn)，全方位規(guī)避大模型數(shù)據(jù)泄露，專(zhuān)注解鎖AI增長(zhǎng)點(diǎn)。