如何補全惡意AI撕開的安全缺口？Akamai給出四條云安全建議

當(dāng)下，以ChatGPT與Sora為代表的AIGC技術(shù)，正在以令人驚嘆的自動化、智能化能力席卷網(wǎng)絡(luò)安全、軟件開發(fā)、影視后期等領(lǐng)域。打工人的“技能點”上若缺少了調(diào)教AI的奇思巧問，都可能會在AI時代有所失色。聚焦安全領(lǐng)域，IBM GenAI安全報告數(shù)據(jù)顯示，51%高管們表示，去年AI網(wǎng)絡(luò)安全預(yù)算，相比2021年增加了51%。預(yù)計到2025年，預(yù)算將增加43%。

AI高度普及的大趨勢下，AI工具也正在納入多行業(yè)的工作流程中。Forrester研究咨詢公司預(yù)測，2024年有60%員工會在工作中，使用自己的AI工具，但這會帶來監(jiān)管和合規(guī)性挑戰(zhàn)。因為這是一種員工自知、公司層面未知的影子AI。譬如，這種員工使用AI掃描數(shù)百個PPT內(nèi)容，一旦掃描的內(nèi)容涉及企業(yè)敏感內(nèi)容，便有可能存在數(shù)據(jù)泄露的風(fēng)險。

雙刃劍一般的生成式AI一方面能幫助企業(yè)員工釋放生產(chǎn)力；但到了黑客手中，也成為一種發(fā)起狂轟濫炸飽和式攻擊的智能化武器。近期，文生視頻大模型Sora高逼真度的人物形象塑造，驚艷業(yè)界的同時，同類技術(shù)也很有可能在被黑客濫用于深度偽造的“換臉”社會工程攻擊上。在近期，就有網(wǎng)絡(luò)犯罪分子通過AI換臉技術(shù)，巧設(shè)圈套、詐騙香港職員2億港幣。

AI已成為影響云安全的新“變量”

攻擊多樣化

黑客對AI的武器化濫用，正在催化與激化出多種多樣的安全風(fēng)險，包括由于ML模型缺陷導(dǎo)致的敏感數(shù)據(jù)泄露，以及惡意行為者濫用AI實施的網(wǎng)絡(luò)釣魚或社會工程攻擊。此外，AI生成的文本、圖像、視頻等內(nèi)容作品，也存在潛在的版權(quán)風(fēng)險。

攻擊界面增加

AI大模型在企業(yè)間的普及應(yīng)用，得益于云服務(wù)提供的巨量算力。為實現(xiàn)低延遲、高可靠的響應(yīng)速度，企業(yè)更需要使用云端的計算、存儲、網(wǎng)絡(luò)資源。從集中式的云端，到分布式的邊緣區(qū)域，當(dāng)下的攻擊界面已延展至邊緣數(shù)據(jù)中心，以及更多的邊緣設(shè)備和應(yīng)用系統(tǒng)（如物聯(lián)網(wǎng)），這讓安全的防護(hù)邏輯也更趨向于邊緣側(cè)，中心化的安全架構(gòu)將很難實現(xiàn)AI架構(gòu)的安全需求。

攻擊巨量高頻

基于AI武器化工具的自動化能力，黑客發(fā)起攻擊的體量與頻次持續(xù)飆升。威脅情報公司SlashNext報告顯示，從2022年底到2023年第三季度，惡意網(wǎng)絡(luò)釣魚郵件出現(xiàn)了1265%的增幅。應(yīng)對海量高頻的攻擊體量，僅依靠企業(yè)IT團(tuán)隊的人工運維，將不足以構(gòu)筑強有力的安全防線。

鑒于“黑客+AI”所進(jìn)化出的高頻、多樣、大面積攻擊形態(tài)，2024年將成為企業(yè)夯實AI云安全基礎(chǔ)的關(guān)鍵一年。在多種攻擊樣式中，上文提及的社會工程攻擊，已成為網(wǎng)絡(luò)犯罪分子的首選武器。黑客通過精心巧設(shè)的騙局手法，從財務(wù)、人事等非IT部門雇員入手，撕開企業(yè)的安全缺口。

針對AI的安全防御缺口有多大呢？相關(guān)數(shù)據(jù)顯示，有94%的高管，已意識到部署AI解決方案之前確保安全非常重要；但在未來六個月內(nèi)，僅有24%創(chuàng)新型AI項目，將包含網(wǎng)絡(luò)安全組件。

“2024年將是AI安全元年，可能產(chǎn)生AI驅(qū)動的木馬、爬蟲等攻擊工具；攻擊者借助AI，可以組織更復(fù)雜、規(guī)模更大的安全攻擊，企業(yè)將面臨更加高等級的漏洞攻擊?！?/p>

——Akamai高級戰(zhàn)略銷售總監(jiān)張軻先生

為什么層出不窮的網(wǎng)絡(luò)犯罪分子總是能策劃出“令人信服”的高仿釣魚郵件、仿冒網(wǎng)站、假面會議等騙局呢？這是由于借助AI更容易查到受害者的個人隱私信息、Bio信息、社會關(guān)系信息，并通過GenAI進(jìn)行深度模擬與偽造。面對從種種維度滲透入侵的攻擊“誘餌”，整個數(shù)字化社會與企業(yè)組織全員，都需要提升云安全素養(yǎng)，展開針對惡意AI的“全員反詐”。

全組織共構(gòu)防線，善用AI提升安全識別力

定期展開云安全培訓(xùn)，培養(yǎng)全員AI應(yīng)用素養(yǎng)

泛濫于視頻宣傳等領(lǐng)域的AI深度偽造，對輿論的影響力和破壞力驚人。全社會與企業(yè)組織成員，均需展開相關(guān)培養(yǎng)，培養(yǎng)全員AI素養(yǎng)來提升識別欺詐的意識，以及安全應(yīng)用AI的標(biāo)準(zhǔn)操作。

不僅僅依賴IT部門，全員協(xié)同共構(gòu)安全防線

多云與邊緣創(chuàng)新趨勢下，攻擊界面持續(xù)擴(kuò)張，API與供應(yīng)鏈攻擊無孔不入。由于AI架構(gòu)的變化以及AI工具使用范圍的擴(kuò)大，整個的安全體系更需要下沉，組織不僅要借助IT部門預(yù)測不斷變化的威脅，還要定期評估組織的整體安全和風(fēng)險態(tài)勢，全員共構(gòu)安全防線。

真正做好安全基礎(chǔ)工作，仍然是第一防御要務(wù)

從AI基礎(chǔ)架構(gòu)、核心組件、通信協(xié)議、基礎(chǔ)算法等方面，依舊存在傳統(tǒng)的安全威脅。要做好AI的安全防護(hù)，更需要在威脅的識別、可視化、零信任、微隔離、API安全等方面，夯實安全基礎(chǔ)防護(hù)。防控AI大模型的數(shù)據(jù)泄露風(fēng)險，即可采用零信任架構(gòu)與API可視化和行為分析。

用AI點亮安全視野，提升全域威脅可見性

以AI對抗AI是當(dāng)下的一大云安全策略。利用AI的深度學(xué)習(xí)能力，建立攻擊識別模型，提升攻擊識別度、降低誤報率。Akamai云安全產(chǎn)品中便融合有深度學(xué)習(xí)算法，可助力企業(yè)客戶對惡意爬蟲與釣魚攻擊的識別；借助AI大模型能力，還能夠收集到更多威脅情報，通過深度分析得到更精準(zhǔn)的威脅感知和預(yù)警。

應(yīng)對黑客在濫用AI上所取得不對稱優(yōu)勢，Akamai現(xiàn)有傳統(tǒng)人工智能類產(chǎn)品能力，可以幫助客戶檢測到“異常情況、攻擊情況、碰撞攻擊、帳號盜用”等風(fēng)險，在安全事件發(fā)生前提升對威脅的可見性。

基于ML算法構(gòu)建的三大優(yōu)勢

1、可擴(kuò)展性

對于Akamai全球智能云平臺捕獲的大量數(shù)據(jù)，可由機(jī)器學(xué)習(xí)算法來完成分析，以此來應(yīng)對黑客的規(guī)?；柡凸舻木薮篌w量。

2、動態(tài)識別

機(jī)器學(xué)習(xí)算法對于攻擊的識別，并非靜態(tài)的簽名模式，而是可以動態(tài)提取字段，多角度進(jìn)行賦分、判別攻擊的類別和等級。

3、自動運維

機(jī)器學(xué)習(xí)算法獲得新數(shù)據(jù)時，會更新規(guī)則、動態(tài)調(diào)整策略，采用Deny模式，進(jìn)而解放安全運維的人力操作，智能實現(xiàn)安全策略的部署、檢測、優(yōu)化等功能。

同時，面對層出不窮的網(wǎng)絡(luò)釣魚、勒索軟件攻擊、DDoS高峰惡意流量沖擊等AI助攻下的巨量威脅，Akamai也有針對性地積淀與構(gòu)建了一系列云安全產(chǎn)品線，緩解AI所帶來的潛在安全威脅。

注入AI能力的云安全產(chǎn)品矩陣

Akamai App&API Protector

提供給自適應(yīng)安全保護(hù)引擎，自動為企業(yè)的應(yīng)用程序和API推送更新的保護(hù)措施；借助Akamai管理的更新和機(jī)器學(xué)習(xí)賦能的自主調(diào)優(yōu)，可盡可能減少工作量，無需進(jìn)行耗時的手動維護(hù)。

Akamai Bot Manager

使用AI模型檢測高級爬蟲程序，進(jìn)行用戶行為分析、瀏覽器指紋識別等主動安全防御；基于每天數(shù)十億的爬蟲程序請求和登錄，從更真實、更具價值的數(shù)據(jù)中獲取情報。

Akamai Guardicore Segmentation

輸出全域IT基礎(chǔ)架構(gòu)的動態(tài)安全圖譜，查看用戶實時和過往的進(jìn)程級顆粒度活動，借助AI建議、用于修復(fù)勒索軟件和常見案例的模板以及精確工作負(fù)載屬性，跨混合云、本地和傳統(tǒng)系統(tǒng)保護(hù)關(guān)鍵資產(chǎn)，實現(xiàn)更具精細(xì)粒度的AI微分段模式。

Akamai Hunt

Akamai Hunt托管威脅搜尋服務(wù)，在收集到分段部署的本地數(shù)據(jù)和DNS傳感器中全局?jǐn)?shù)據(jù)等信號源后，可以將AI/ML分析應(yīng)用于多個遙測源和收集的信號，快速檢測威脅；隨后，通過詳細(xì)的實時告警提供相關(guān)見解和抵御威脅的安全信息。

回顧Akamai云安全創(chuàng)新歷程，自2016年以來，Akamai一直在利用深度學(xué)習(xí)AI幫助客戶部署安全解決方案。借助AI工具支持分析和分類Akamai每天觀察到的超過450TB新攻擊數(shù)據(jù)和11萬億次DNS查詢，構(gòu)建有全球范圍內(nèi)的云安全可見性。

伴隨著企業(yè)愈發(fā)需在邊緣獲取高性價比、高穩(wěn)定性、超低延遲的算力資源與安全防護(hù)，Akamai也在持續(xù)研究如何更好地使用大語言模型和生成式AI,未來將進(jìn)一步增強Akamai Connected Cloud等云計算、云安全、云分發(fā)產(chǎn)品矩陣效能，助力客戶貼近終端用戶的計算、安全與內(nèi)容交付需求，煥新智能開發(fā)與安全運維體驗，全方位釋放生產(chǎn)力，加速全球化市場布局。