隨著ChatGPT在2023年的橫空出世，人工智能將增強(qiáng)攻擊者的能力，這似乎成為了安全領(lǐng)域公認(rèn)的事實(shí)。生成式AI的不斷演進(jìn)，安全領(lǐng)域的專家們就開始預(yù)測大語言模型（LLM）將會(huì)成為攻擊者用于編寫網(wǎng)絡(luò)釣魚郵件的工具。根據(jù)F5 Lab的安全研究，這僅僅只是開始，未來生成式AI將以更多種方式成為網(wǎng)絡(luò)威脅的助推器。
盡管目前的技術(shù)水平尚難以對不明確的威脅加以控制，F(xiàn)5的多位安全專家依然對攻擊者如何利用LLM發(fā)動(dòng)攻擊進(jìn)行了深入預(yù)測，從而為企業(yè)防范人工智能威脅提供前瞻性洞察。
預(yù)測1：生成式AI將能夠與網(wǎng)絡(luò)釣魚受害者進(jìn)行對話
在2023年4月，美國計(jì)算機(jī)安全專家Bruce Schneier指出，網(wǎng)絡(luò)釣魚的真正瓶頸不在于用戶最初點(diǎn)擊惡意鏈接，而在于轉(zhuǎn)出現(xiàn)金，而在這過程中，網(wǎng)絡(luò)釣魚者需要與受害者進(jìn)行比想象中還要多的互動(dòng)。
F5安全情報(bào)中心負(fù)責(zé)人Tafara Muwandi對Bruce Schneier的預(yù)測帶來更進(jìn)一步的分析，他表示LLM將接管釣魚者和受害者之間的往來交流。過往釣魚者需要雇傭個(gè)人來翻譯受害者的信息，但生成式AI的出現(xiàn)，將可以直接翻譯釣魚者使用的非母語信息，并通過整合公開可用的個(gè)人信息，創(chuàng)建極其逼真的騙局。因此，有組織的網(wǎng)絡(luò)犯罪集團(tuán)將會(huì)把已知的網(wǎng)絡(luò)釣魚作為一種服務(wù)，并在規(guī)模和效率方面將其放大。
預(yù)測2：有組織犯罪將利用生成式AI創(chuàng)建虛假賬戶
有組織的網(wǎng)絡(luò)犯罪將能創(chuàng)建完全虛假的在線人物形象。生成式AI將用于創(chuàng)建包含帖子和圖片在內(nèi)的虛假賬戶，使得這些內(nèi)容與真人賬號(hào)內(nèi)容看上去并無差異。所有由虛假賬戶產(chǎn)生的攻擊策略，包括欺詐、憑證填充、傳播虛假信息和操縱市場，當(dāng)其不費(fèi)吹灰之力就能達(dá)到人類賬戶的真實(shí)性時(shí)，其犯罪效率也將獲得大幅提升。
預(yù)測3：使用生成式AI進(jìn)行虛假信息傳播
生成式AI工具有顯著改變惡意信息操作方式的潛力。將虛假內(nèi)容創(chuàng)作、自動(dòng)文本生成用于傳播虛假信息、具有針對性的宣傳錯(cuò)誤信息以及規(guī)避內(nèi)容審查，此類手段促成了惡劣影響的激增。
預(yù)測4：生成式AI的進(jìn)步將助長黑客行為
隨著計(jì)算能力持續(xù)變得更加經(jīng)濟(jì)實(shí)惠以及易于使用，預(yù)計(jì)與世界重大事件相關(guān)的黑客行為將有所增長。通過使用AI工具以及利用智能手機(jī)和筆記本電腦，更多未經(jīng)磨練的新手可能會(huì)作為黑客加入到網(wǎng)絡(luò)空間的戰(zhàn)斗中。
對此，F(xiàn)5 CISO辦公室網(wǎng)絡(luò)威脅情報(bào)分析師Samantha Borer表示，“過去幾年中，黑客活動(dòng)在世界各地不斷發(fā)生的戰(zhàn)爭沖突中復(fù)蘇。最初只是出現(xiàn)了少量的黑客活動(dòng)，但隨著戰(zhàn)場上暴力的不斷升級(jí)，黑客活動(dòng)也逐漸轉(zhuǎn)向更具破壞性的攻擊，其中包括DDoS攻擊、數(shù)據(jù)泄露、網(wǎng)站篡改，以及明顯企圖破壞關(guān)鍵基礎(chǔ)設(shè)施的攻擊?！?/p>
預(yù)測5：網(wǎng)絡(luò)攻擊將使用生成式AI的實(shí)時(shí)輸入能力
近年來，生成式AI在創(chuàng)造數(shù)字內(nèi)容方面的能力已經(jīng)不再是秘密，無論是制作網(wǎng)絡(luò)釣魚郵件還是虛假資料，都已得到廣泛應(yīng)用。因此，其在攻擊中的使用可以被視為是被動(dòng)的。
F5 Lab總監(jiān)David Warburton指出，憑借生成式AI強(qiáng)大的編碼能力，LLM可以被用來指導(dǎo)實(shí)時(shí)攻擊中的程序序列，使得攻擊者在遇到防御時(shí)作出反應(yīng)。通過利用ChatGPT等開源GenAI系統(tǒng)的API，或者構(gòu)建自己的LLM，攻擊者將能夠在對網(wǎng)站或網(wǎng)絡(luò)的實(shí)時(shí)攻擊中融入AI系統(tǒng)的知識(shí)和想法。如果攻擊者的網(wǎng)站攻擊被安全控制措施攔截，AI系統(tǒng)可以用來評(píng)估響應(yīng)，并提供其他攻擊方式。未來，隨著LLM的不斷發(fā)展，可能會(huì)使攻擊鏈更加多樣化，并產(chǎn)生更加不利影響。
預(yù)測6：大語言模型的數(shù)據(jù)泄露問題
AI將會(huì)帶來新的漏洞風(fēng)險(xiǎn)，且大語言模型具有的強(qiáng)大不透明自動(dòng)化潛力，將使企業(yè)的安全、隱私和合規(guī)團(tuán)隊(duì)履行職責(zé)的任務(wù)日益復(fù)雜化。
F5 Lab高級(jí)威脅研究員Malcolm Heath表示，“生成式AI驅(qū)動(dòng)的工具可能會(huì)造成重大問題，比如大規(guī)模的個(gè)人身份信息泄露、獲得未授權(quán)訪問的新技術(shù)和DoS。與云泄露相似，由于涉及數(shù)據(jù)量龐大，LLM泄露也將產(chǎn)生嚴(yán)重后果。”
根據(jù)研究顯示，目前應(yīng)用簡單方式即可誘使LLM泄露其包括專有和個(gè)人數(shù)據(jù)在內(nèi)的訓(xùn)練數(shù)據(jù)，而如今企業(yè)急于創(chuàng)建專有LLM的熱潮，將可能導(dǎo)致更多訓(xùn)練數(shù)據(jù)的泄露。而出現(xiàn)問題的原因，可能并非來自新型攻擊，而是企業(yè)倉促和配置不當(dāng)?shù)陌踩刂拼胧┒隆?/p>
預(yù)測7：生成式漏洞
如今，無論是老手還是新手開發(fā)人員，在編寫代碼或檢查漏洞時(shí)都開始越來越多地依賴生成式AI。但如果沒有采用正確的安全防范措施，預(yù)計(jì)LLM將創(chuàng)造出難以確保其安全的漏洞代碼洪流。盡管開源軟件存在風(fēng)險(xiǎn)，但其優(yōu)勢在于其固有的一次性修復(fù)方法——如果在開源軟件庫中發(fā)現(xiàn)漏洞，只需修復(fù)一次，就可以供所有使用該庫的人使用。通過GenAI代碼生成技術(shù)，每個(gè)開發(fā)人員最終都會(huì)得到一個(gè)獨(dú)特的定制代碼。
F5網(wǎng)絡(luò)安全布道師Jim Downey表示，“代碼助手編寫代碼的速度如此之快，以至于開發(fā)人員可能沒有時(shí)間進(jìn)行審查。根據(jù)LLM的構(gòu)建時(shí)間，它可能甚至無法識(shí)別最新的漏洞，使得該模型無法構(gòu)建避免這些漏洞的代碼，或避免導(dǎo)入存在漏洞的庫。而在生成式AI時(shí)代，優(yōu)先考慮速度而非安全的企業(yè)將不可避免地引入新漏洞?！?/p>
預(yù)測8：邊緣攻擊
F5高級(jí)解決方案架構(gòu)師Shahn Backer表示，“邊緣計(jì)算的興起將導(dǎo)致攻擊面的大幅擴(kuò)張。物理篡改、管理挑戰(zhàn)，以及軟件和API漏洞都具有在邊緣環(huán)境中被放大的風(fēng)險(xiǎn)。75%的企業(yè)數(shù)據(jù)將在傳統(tǒng)數(shù)據(jù)中心或云環(huán)境之外生成和處理。這一范式重新定義了企業(yè)的邊界，因?yàn)檫吘壩恢玫墓ぷ髫?fù)載可能包含敏感信息和特權(quán)?！?/p>
如同多重身份驗(yàn)證（MFA）一樣，攻擊者將把重點(diǎn)放在其付出的時(shí)間能產(chǎn)生最大影響的領(lǐng)域。如果企業(yè)像處理云計(jì)算一樣，以同樣疏忽的方式處理向邊緣計(jì)算的轉(zhuǎn)變，預(yù)計(jì)在未來安全事件也將會(huì)持續(xù)頻發(fā)。
預(yù)測9：攻擊者將提升其離地攻擊的能力
架構(gòu)的不斷復(fù)雜化為攻擊者提供了更多機(jī)會(huì)，他們能夠巧妙地利用企業(yè)現(xiàn)有工具進(jìn)行反向攻擊。F5安全解決方案架構(gòu)師Kieron Shepard預(yù)測到，“IT環(huán)境的日益復(fù)雜，尤其是在云和混合架構(gòu)中，將使監(jiān)控和檢測離地攻擊（LOTL）變得更具挑戰(zhàn)性。攻擊者越來越傾向于使用LOTL技術(shù)，利用受攻擊系統(tǒng)上已有的合法管理軟件來實(shí)現(xiàn)其惡意目標(biāo)。更為嚴(yán)重的是，LOTL攻擊可以并入供應(yīng)鏈攻擊，以危害關(guān)鍵基礎(chǔ)架構(gòu)并中斷系統(tǒng)運(yùn)營。因此，企業(yè)需加強(qiáng)網(wǎng)絡(luò)可見性，以有效應(yīng)對攻擊者越來越頻繁地利用企業(yè)工具造成的安全威脅?！?/p>
預(yù)測10：網(wǎng)絡(luò)安全貧困線將變成網(wǎng)絡(luò)安全貧困矩陣
F5高級(jí)威脅安全研究員Sander Vinberg指出，安全架構(gòu)趨勢將對網(wǎng)絡(luò)安全貧困線產(chǎn)生深遠(yuǎn)影響。這一概念最早由思科首席信息安全官顧問主管Wendy Nather提出，定義為實(shí)現(xiàn)最低限度的安全控制所需的知識(shí)、權(quán)限以及最重要的預(yù)算水平。
Vinberg表示，“當(dāng)前安全產(chǎn)品的成本和復(fù)雜性可能迫使企業(yè)在整個(gè)系統(tǒng)的安全控制措施之間做出選擇。如今，企業(yè)需要安全編排、自動(dòng)化和事件響應(yīng)（SOAR）、安全信息與事件管理（SIEM）、漏洞管理工具和威脅情報(bào)服務(wù)，以及配置管理、事件響應(yīng)、滲透測試和治理、合規(guī)與風(fēng)險(xiǎn)等多重安全保障。然而關(guān)鍵的問題在于，許多企業(yè)選擇將這些控制措施作為托管服務(wù)使用，盡管這一方式可以確保專業(yè)性，但同時(shí)也為企業(yè)帶來相應(yīng)的成本壓力。隨著進(jìn)入每個(gè)細(xì)分領(lǐng)域的準(zhǔn)入成本增加，企業(yè)面臨的抉擇將更趨向于完全投入或徹底放棄，這導(dǎo)致越來越多的企業(yè)必須在這兩者之間做出抉擇?！?/p>
寫在最后
上述的網(wǎng)絡(luò)安全預(yù)測強(qiáng)調(diào)了企業(yè)在持續(xù)適應(yīng)和創(chuàng)新方面對抗不斷演變的網(wǎng)絡(luò)威脅的必要性。無論是解決社會(huì)經(jīng)濟(jì)差異對網(wǎng)絡(luò)安全韌性的影響、加強(qiáng)邊緣計(jì)算環(huán)境，還是為看似無休止的AI驅(qū)動(dòng)的攻擊做好準(zhǔn)備，2024年的網(wǎng)絡(luò)安全形勢都需要企業(yè)采取主動(dòng)和協(xié)作的方式，以共同保護(hù)美好的數(shù)字未來。
閩公網(wǎng)安備 35010202001226號(hào)
