2024年十大網(wǎng)絡(luò)安全風(fēng)險(xiǎn)威脅預(yù)測(cè)

隨著ChatGPT在2023年的橫空出世，人工智能將增強(qiáng)攻擊者的能力，這似乎成為了安全領(lǐng)域公認(rèn)的事實(shí)。生成式AI的不斷演進(jìn)，安全領(lǐng)域的專(zhuān)家們就開(kāi)始預(yù)測(cè)大語(yǔ)言模型（LLM）將會(huì)成為攻擊者用于編寫(xiě)網(wǎng)絡(luò)釣魚(yú)郵件的工具。根據(jù)F5 Lab的安全研究，這僅僅只是開(kāi)始，未來(lái)生成式AI將以更多種方式成為網(wǎng)絡(luò)威脅的助推器。

盡管目前的技術(shù)水平尚難以對(duì)不明確的威脅加以控制，F(xiàn)5的多位安全專(zhuān)家依然對(duì)攻擊者如何利用LLM發(fā)動(dòng)攻擊進(jìn)行了深入預(yù)測(cè)，從而為企業(yè)防范人工智能威脅提供前瞻性洞察。

預(yù)測(cè)1：生成式AI將能夠與網(wǎng)絡(luò)釣魚(yú)受害者進(jìn)行對(duì)話(huà)

在2023年4月，美國(guó)計(jì)算機(jī)安全專(zhuān)家Bruce Schneier指出，網(wǎng)絡(luò)釣魚(yú)的真正瓶頸不在于用戶(hù)最初點(diǎn)擊惡意鏈接，而在于轉(zhuǎn)出現(xiàn)金，而在這過(guò)程中，網(wǎng)絡(luò)釣魚(yú)者需要與受害者進(jìn)行比想象中還要多的互動(dòng)。

F5安全情報(bào)中心負(fù)責(zé)人Tafara Muwandi對(duì)Bruce Schneier的預(yù)測(cè)帶來(lái)更進(jìn)一步的分析，他表示LLM將接管釣魚(yú)者和受害者之間的往來(lái)交流。過(guò)往釣魚(yú)者需要雇傭個(gè)人來(lái)翻譯受害者的信息，但生成式AI的出現(xiàn)，將可以直接翻譯釣魚(yú)者使用的非母語(yǔ)信息，并通過(guò)整合公開(kāi)可用的個(gè)人信息，創(chuàng)建極其逼真的騙局。因此，有組織的網(wǎng)絡(luò)犯罪集團(tuán)將會(huì)把已知的網(wǎng)絡(luò)釣魚(yú)作為一種服務(wù)，并在規(guī)模和效率方面將其放大。

預(yù)測(cè)2：有組織犯罪將利用生成式AI創(chuàng)建虛假賬戶(hù)

有組織的網(wǎng)絡(luò)犯罪將能創(chuàng)建完全虛假的在線(xiàn)人物形象。生成式AI將用于創(chuàng)建包含帖子和圖片在內(nèi)的虛假賬戶(hù)，使得這些內(nèi)容與真人賬號(hào)內(nèi)容看上去并無(wú)差異。所有由虛假賬戶(hù)產(chǎn)生的攻擊策略，包括欺詐、憑證填充、傳播虛假信息和操縱市場(chǎng)，當(dāng)其不費(fèi)吹灰之力就能達(dá)到人類(lèi)賬戶(hù)的真實(shí)性時(shí)，其犯罪效率也將獲得大幅提升。

預(yù)測(cè)3：使用生成式AI進(jìn)行虛假信息傳播

生成式AI工具有顯著改變惡意信息操作方式的潛力。將虛假內(nèi)容創(chuàng)作、自動(dòng)文本生成用于傳播虛假信息、具有針對(duì)性的宣傳錯(cuò)誤信息以及規(guī)避內(nèi)容審查，此類(lèi)手段促成了惡劣影響的激增。

預(yù)測(cè)4：生成式AI的進(jìn)步將助長(zhǎng)黑客行為

隨著計(jì)算能力持續(xù)變得更加經(jīng)濟(jì)實(shí)惠以及易于使用，預(yù)計(jì)與世界重大事件相關(guān)的黑客行為將有所增長(zhǎng)。通過(guò)使用AI工具以及利用智能手機(jī)和筆記本電腦，更多未經(jīng)磨練的新手可能會(huì)作為黑客加入到網(wǎng)絡(luò)空間的戰(zhàn)斗中。

對(duì)此，F(xiàn)5 CISO辦公室網(wǎng)絡(luò)威脅情報(bào)分析師Samantha Borer表示，“過(guò)去幾年中，黑客活動(dòng)在世界各地不斷發(fā)生的戰(zhàn)爭(zhēng)沖突中復(fù)蘇。最初只是出現(xiàn)了少量的黑客活動(dòng)，但隨著戰(zhàn)場(chǎng)上暴力的不斷升級(jí)，黑客活動(dòng)也逐漸轉(zhuǎn)向更具破壞性的攻擊，其中包括DDoS攻擊、數(shù)據(jù)泄露、網(wǎng)站篡改，以及明顯企圖破壞關(guān)鍵基礎(chǔ)設(shè)施的攻擊?！?/p>

預(yù)測(cè)5：網(wǎng)絡(luò)攻擊將使用生成式AI的實(shí)時(shí)輸入能力

近年來(lái)，生成式AI在創(chuàng)造數(shù)字內(nèi)容方面的能力已經(jīng)不再是秘密，無(wú)論是制作網(wǎng)絡(luò)釣魚(yú)郵件還是虛假資料，都已得到廣泛應(yīng)用。因此，其在攻擊中的使用可以被視為是被動(dòng)的。

F5 Lab總監(jiān)David Warburton指出，憑借生成式AI強(qiáng)大的編碼能力，LLM可以被用來(lái)指導(dǎo)實(shí)時(shí)攻擊中的程序序列，使得攻擊者在遇到防御時(shí)作出反應(yīng)。通過(guò)利用ChatGPT等開(kāi)源GenAI系統(tǒng)的API，或者構(gòu)建自己的LLM，攻擊者將能夠在對(duì)網(wǎng)站或網(wǎng)絡(luò)的實(shí)時(shí)攻擊中融入AI系統(tǒng)的知識(shí)和想法。如果攻擊者的網(wǎng)站攻擊被安全控制措施攔截，AI系統(tǒng)可以用來(lái)評(píng)估響應(yīng)，并提供其他攻擊方式。未來(lái)，隨著LLM的不斷發(fā)展，可能會(huì)使攻擊鏈更加多樣化，并產(chǎn)生更加不利影響。

預(yù)測(cè)6：大語(yǔ)言模型的數(shù)據(jù)泄露問(wèn)題

AI將會(huì)帶來(lái)新的漏洞風(fēng)險(xiǎn)，且大語(yǔ)言模型具有的強(qiáng)大不透明自動(dòng)化潛力，將使企業(yè)的安全、隱私和合規(guī)團(tuán)隊(duì)履行職責(zé)的任務(wù)日益復(fù)雜化。

F5 Lab高級(jí)威脅研究員Malcolm Heath表示，“生成式AI驅(qū)動(dòng)的工具可能會(huì)造成重大問(wèn)題，比如大規(guī)模的個(gè)人身份信息泄露、獲得未授權(quán)訪(fǎng)問(wèn)的新技術(shù)和DoS。與云泄露相似，由于涉及數(shù)據(jù)量龐大，LLM泄露也將產(chǎn)生嚴(yán)重后果?！?/p>

根據(jù)研究顯示，目前應(yīng)用簡(jiǎn)單方式即可誘使LLM泄露其包括專(zhuān)有和個(gè)人數(shù)據(jù)在內(nèi)的訓(xùn)練數(shù)據(jù)，而如今企業(yè)急于創(chuàng)建專(zhuān)有LLM的熱潮，將可能導(dǎo)致更多訓(xùn)練數(shù)據(jù)的泄露。而出現(xiàn)問(wèn)題的原因，可能并非來(lái)自新型攻擊，而是企業(yè)倉(cāng)促和配置不當(dāng)?shù)陌踩刂拼胧┒隆?/p>

預(yù)測(cè)7：生成式漏洞

如今，無(wú)論是老手還是新手開(kāi)發(fā)人員，在編寫(xiě)代碼或檢查漏洞時(shí)都開(kāi)始越來(lái)越多地依賴(lài)生成式AI。但如果沒(méi)有采用正確的安全防范措施，預(yù)計(jì)LLM將創(chuàng)造出難以確保其安全的漏洞代碼洪流。盡管開(kāi)源軟件存在風(fēng)險(xiǎn)，但其優(yōu)勢(shì)在于其固有的一次性修復(fù)方法——如果在開(kāi)源軟件庫(kù)中發(fā)現(xiàn)漏洞，只需修復(fù)一次，就可以供所有使用該庫(kù)的人使用。通過(guò)GenAI代碼生成技術(shù)，每個(gè)開(kāi)發(fā)人員最終都會(huì)得到一個(gè)獨(dú)特的定制代碼。

F5網(wǎng)絡(luò)安全布道師Jim Downey表示，“代碼助手編寫(xiě)代碼的速度如此之快，以至于開(kāi)發(fā)人員可能沒(méi)有時(shí)間進(jìn)行審查。根據(jù)LLM的構(gòu)建時(shí)間，它可能甚至無(wú)法識(shí)別最新的漏洞，使得該模型無(wú)法構(gòu)建避免這些漏洞的代碼，或避免導(dǎo)入存在漏洞的庫(kù)。而在生成式AI時(shí)代，優(yōu)先考慮速度而非安全的企業(yè)將不可避免地引入新漏洞?！?/p>

預(yù)測(cè)8：邊緣攻擊

F5高級(jí)解決方案架構(gòu)師Shahn Backer表示，“邊緣計(jì)算的興起將導(dǎo)致攻擊面的大幅擴(kuò)張。物理篡改、管理挑戰(zhàn)，以及軟件和API漏洞都具有在邊緣環(huán)境中被放大的風(fēng)險(xiǎn)。75%的企業(yè)數(shù)據(jù)將在傳統(tǒng)數(shù)據(jù)中心或云環(huán)境之外生成和處理。這一范式重新定義了企業(yè)的邊界，因?yàn)檫吘壩恢玫墓ぷ髫?fù)載可能包含敏感信息和特權(quán)?！?/p>

如同多重身份驗(yàn)證（MFA）一樣，攻擊者將把重點(diǎn)放在其付出的時(shí)間能產(chǎn)生最大影響的領(lǐng)域。如果企業(yè)像處理云計(jì)算一樣，以同樣疏忽的方式處理向邊緣計(jì)算的轉(zhuǎn)變，預(yù)計(jì)在未來(lái)安全事件也將會(huì)持續(xù)頻發(fā)。

預(yù)測(cè)9：攻擊者將提升其離地攻擊的能力

架構(gòu)的不斷復(fù)雜化為攻擊者提供了更多機(jī)會(huì)，他們能夠巧妙地利用企業(yè)現(xiàn)有工具進(jìn)行反向攻擊。F5安全解決方案架構(gòu)師Kieron Shepard預(yù)測(cè)到，“IT環(huán)境的日益復(fù)雜，尤其是在云和混合架構(gòu)中，將使監(jiān)控和檢測(cè)離地攻擊（LOTL）變得更具挑戰(zhàn)性。攻擊者越來(lái)越傾向于使用LOTL技術(shù)，利用受攻擊系統(tǒng)上已有的合法管理軟件來(lái)實(shí)現(xiàn)其惡意目標(biāo)。更為嚴(yán)重的是，LOTL攻擊可以并入供應(yīng)鏈攻擊，以危害關(guān)鍵基礎(chǔ)架構(gòu)并中斷系統(tǒng)運(yùn)營(yíng)。因此，企業(yè)需加強(qiáng)網(wǎng)絡(luò)可見(jiàn)性，以有效應(yīng)對(duì)攻擊者越來(lái)越頻繁地利用企業(yè)工具造成的安全威脅?！?/p>

預(yù)測(cè)10：網(wǎng)絡(luò)安全貧困線(xiàn)將變成網(wǎng)絡(luò)安全貧困矩陣

F5高級(jí)威脅安全研究員Sander Vinberg指出，安全架構(gòu)趨勢(shì)將對(duì)網(wǎng)絡(luò)安全貧困線(xiàn)產(chǎn)生深遠(yuǎn)影響。這一概念最早由思科首席信息安全官顧問(wèn)主管Wendy Nather提出，定義為實(shí)現(xiàn)最低限度的安全控制所需的知識(shí)、權(quán)限以及最重要的預(yù)算水平。

Vinberg表示，“當(dāng)前安全產(chǎn)品的成本和復(fù)雜性可能迫使企業(yè)在整個(gè)系統(tǒng)的安全控制措施之間做出選擇。如今，企業(yè)需要安全編排、自動(dòng)化和事件響應(yīng)（SOAR）、安全信息與事件管理（SIEM）、漏洞管理工具和威脅情報(bào)服務(wù)，以及配置管理、事件響應(yīng)、滲透測(cè)試和治理、合規(guī)與風(fēng)險(xiǎn)等多重安全保障。然而關(guān)鍵的問(wèn)題在于，許多企業(yè)選擇將這些控制措施作為托管服務(wù)使用，盡管這一方式可以確保專(zhuān)業(yè)性，但同時(shí)也為企業(yè)帶來(lái)相應(yīng)的成本壓力。隨著進(jìn)入每個(gè)細(xì)分領(lǐng)域的準(zhǔn)入成本增加，企業(yè)面臨的抉擇將更趨向于完全投入或徹底放棄，這導(dǎo)致越來(lái)越多的企業(yè)必須在這兩者之間做出抉擇?！?/p>

寫(xiě)在最后

上述的網(wǎng)絡(luò)安全預(yù)測(cè)強(qiáng)調(diào)了企業(yè)在持續(xù)適應(yīng)和創(chuàng)新方面對(duì)抗不斷演變的網(wǎng)絡(luò)威脅的必要性。無(wú)論是解決社會(huì)經(jīng)濟(jì)差異對(duì)網(wǎng)絡(luò)安全韌性的影響、加強(qiáng)邊緣計(jì)算環(huán)境，還是為看似無(wú)休止的AI驅(qū)動(dòng)的攻擊做好準(zhǔn)備，2024年的網(wǎng)絡(luò)安全形勢(shì)都需要企業(yè)采取主動(dòng)和協(xié)作的方式，以共同保護(hù)美好的數(shù)字未來(lái)。