AI大模型安全治理化繁為簡的“道與術”

業(yè)界有云：“復雜性是安全性的敵人”。如今智能化領域中愈發(fā)搶眼的AI大模型，在計算機視覺、文字生成等應用場景，顯現(xiàn)出震撼人心的智能化水準前，都有著一段類似“破繭成蝶”的經(jīng)歷。AI大模型“黑箱”內部架構有高度復雜的神經(jīng)網(wǎng)絡，以及需要源源不斷地投喂、輸入高質量語料。經(jīng)過高密度信息訓練與推理后的AI大模型，內部復雜性可想而知。

如今，AI大模型已成為智能化時代的核心基礎資產。在AI大模型本體基礎上的應用層面，也展現(xiàn)了百花齊放的創(chuàng)新形態(tài)。從更廣的維度看，多類別創(chuàng)新版圖之間，貫穿不同系統(tǒng)平臺的API鏈路，也使得AI大模型生態(tài)日漸復雜，展現(xiàn)在黑客眼前的攻擊暴露面，正在持續(xù)蔓延。

OWASP：重點關注三大風險

經(jīng)過多輪分析、挑選，OWASP安全機構發(fā)布了AI大模型應用的十大風險：

從中可以全覽AI大模型的風險分布，為AI大模型的通用安全漏洞評測提供標準依據(jù)。

從利用外部數(shù)據(jù)源訓練、微調數(shù)據(jù)集的訓練數(shù)據(jù)階段，到基于大模型自動化代理為終端用戶構建核心應用服務，以及聯(lián)動多方插件布局大模型的下游服務，OWASP重點提示的十大風險，遍布于整個AI大模型創(chuàng)新生態(tài)的全鏈路關鍵場景。

如果說AI大模型的語料訓練階段，還屬于智能化科創(chuàng)企業(yè)的“閉門造車”的內部研發(fā)階段，但步入了推理部署階段之后，即將蝶變的AI智能體大腦，一經(jīng)發(fā)布就要呈現(xiàn)于全域數(shù)字化場景中。此時，窺伺大模型與相關數(shù)據(jù)資產的黑客，將會易于尋覓到更多攻擊切入點。

大模型+API：風險指數(shù)隨之增加

鑒于業(yè)界成型的AI大模型訓練成本門檻高，API接口與開源模型廣為應用。借助API的互聯(lián)性，大模型更易用，可跨平臺響應不同應用需求與商業(yè)化運營。保護好API的安全性，就是在一定程度上增強了AI大模型的外層防御力度。因而，我們需要把API與漏洞評估視為AI大模型的頭等大事。

AI大模型與上下游生態(tài)所組成的整個體系，API接口如毛細血管一般，向不同位置的工作負載，輸送著多類別數(shù)據(jù)信息。結合OWASP安全機構總結的十大威脅來看，大模型API面臨著訓練數(shù)據(jù)投毒、大模型拒絕服務、敏感信息披露以及身份授權與認證等方面的安全隱患。

Akamai云安全治理思路

深化加固重點攻防端口，有助于實現(xiàn)事半功倍的安全防護。無論是在傳統(tǒng)IT資產，還是在近年涌現(xiàn)的AI大模型等新興的智能化資產中，API都關乎數(shù)據(jù)、關乎IT系統(tǒng)安全嚴密與否。Akamai認為，做好API資產全生命周期管理，有助于全面檢測隱藏威脅，剔除黑客入侵路徑，規(guī)避AI大模型十大風險以及其它安全漏洞。

治理好API安全，即是保障數(shù)據(jù)流通的“管道”安全。而在數(shù)據(jù)安全方面，尤其是企業(yè)通過內部信息部署私有AI大模型時，也需注意培養(yǎng)員工對組織核心數(shù)據(jù)資產管理的安全意識，防范自身生產經(jīng)營文件、員工隱私的意外泄露。

當下，多數(shù)AI大模型都部署于云端，所在云環(huán)境的安全性也十分關鍵。作為擁有多年安全基礎設施經(jīng)驗積累的云服務商，Akamai針對智能化時代的數(shù)據(jù)安全威脅，已構建有一套完全閉環(huán)的保護體系。目前，Akamai通過多種路徑與具備AI能力的云安全產品，深度保護AI大模型、API與數(shù)據(jù)等企業(yè)核心資產。

針對具有高度復雜性、黑箱性等特點的AI大模型安全治理，更需要開發(fā)大模型的AI先鋒企業(yè)建立全局視野，全生命周期端到端進行安全防御。當下，Akamai內部云安全產品創(chuàng)新進程中，也在持續(xù)調研、分析可預防與緩解AI大模型風險的有效安全路徑，幫助AI科技等行業(yè)在安全運營等方面化繁為簡，全方位規(guī)避大模型數(shù)據(jù)泄露，專注解鎖AI增長點。