隨著ChatGPT在2023年的橫空出世，人工智能將增強攻擊者的能力，這似乎成為了安全領(lǐng)域公認的事實。生成式AI的不斷演進，安全領(lǐng)域的專家們就開始預(yù)測大語言模型（LLM）將會成為攻擊者用于編寫網(wǎng)絡(luò)釣魚郵件的工具。根據(jù)F5 Lab的安全研究，這僅僅只是開始，未來生成式AI將以更多種方式成為網(wǎng)絡(luò)威脅的助推器。
盡管目前的技術(shù)水平尚難以對不明確的威脅加以控制，F(xiàn)5的多位安全專家依然對攻擊者如何利用LLM發(fā)動攻擊進行了深入預(yù)測，從而為企業(yè)防范人工智能威脅提供前瞻性洞察。
預(yù)測1：生成式AI將能夠與網(wǎng)絡(luò)釣魚受害者進行對話
在2023年4月，美國計算機安全專家Bruce Schneier指出，網(wǎng)絡(luò)釣魚的真正瓶頸不在于用戶最初點擊惡意鏈接，而在于轉(zhuǎn)出現(xiàn)金，而在這過程中，網(wǎng)絡(luò)釣魚者需要與受害者進行比想象中還要多的互動。
F5安全情報中心負責人Tafara Muwandi對Bruce Schneier的預(yù)測帶來更進一步的分析，他表示LLM將接管釣魚者和受害者之間的往來交流。過往釣魚者需要雇傭個人來翻譯受害者的信息，但生成式AI的出現(xiàn)，將可以直接翻譯釣魚者使用的非母語信息，并通過整合公開可用的個人信息，創(chuàng)建極其逼真的騙局。因此，有組織的網(wǎng)絡(luò)犯罪集團將會把已知的網(wǎng)絡(luò)釣魚作為一種服務(wù)，并在規(guī)模和效率方面將其放大。
預(yù)測2：有組織犯罪將利用生成式AI創(chuàng)建虛假賬戶
有組織的網(wǎng)絡(luò)犯罪將能創(chuàng)建完全虛假的在線人物形象。生成式AI將用于創(chuàng)建包含帖子和圖片在內(nèi)的虛假賬戶，使得這些內(nèi)容與真人賬號內(nèi)容看上去并無差異。所有由虛假賬戶產(chǎn)生的攻擊策略，包括欺詐、憑證填充、傳播虛假信息和操縱市場，當其不費吹灰之力就能達到人類賬戶的真實性時，其犯罪效率也將獲得大幅提升。
預(yù)測3：使用生成式AI進行虛假信息傳播
生成式AI工具有顯著改變惡意信息操作方式的潛力。將虛假內(nèi)容創(chuàng)作、自動文本生成用于傳播虛假信息、具有針對性的宣傳錯誤信息以及規(guī)避內(nèi)容審查，此類手段促成了惡劣影響的激增。
預(yù)測4：生成式AI的進步將助長黑客行為
隨著計算能力持續(xù)變得更加經(jīng)濟實惠以及易于使用，預(yù)計與世界重大事件相關(guān)的黑客行為將有所增長。通過使用AI工具以及利用智能手機和筆記本電腦，更多未經(jīng)磨練的新手可能會作為黑客加入到網(wǎng)絡(luò)空間的戰(zhàn)斗中。
對此，F(xiàn)5 CISO辦公室網(wǎng)絡(luò)威脅情報分析師Samantha Borer表示，“過去幾年中，黑客活動在世界各地不斷發(fā)生的戰(zhàn)爭沖突中復(fù)蘇。最初只是出現(xiàn)了少量的黑客活動，但隨著戰(zhàn)場上暴力的不斷升級，黑客活動也逐漸轉(zhuǎn)向更具破壞性的攻擊，其中包括DDoS攻擊、數(shù)據(jù)泄露、網(wǎng)站篡改，以及明顯企圖破壞關(guān)鍵基礎(chǔ)設(shè)施的攻擊。”
預(yù)測5：網(wǎng)絡(luò)攻擊將使用生成式AI的實時輸入能力
近年來，生成式AI在創(chuàng)造數(shù)字內(nèi)容方面的能力已經(jīng)不再是秘密，無論是制作網(wǎng)絡(luò)釣魚郵件還是虛假資料，都已得到廣泛應(yīng)用。因此，其在攻擊中的使用可以被視為是被動的。
F5 Lab總監(jiān)David Warburton指出，憑借生成式AI強大的編碼能力，LLM可以被用來指導(dǎo)實時攻擊中的程序序列，使得攻擊者在遇到防御時作出反應(yīng)。通過利用ChatGPT等開源GenAI系統(tǒng)的API，或者構(gòu)建自己的LLM，攻擊者將能夠在對網(wǎng)站或網(wǎng)絡(luò)的實時攻擊中融入AI系統(tǒng)的知識和想法。如果攻擊者的網(wǎng)站攻擊被安全控制措施攔截，AI系統(tǒng)可以用來評估響應(yīng)，并提供其他攻擊方式。未來，隨著LLM的不斷發(fā)展，可能會使攻擊鏈更加多樣化，并產(chǎn)生更加不利影響。
預(yù)測6：大語言模型的數(shù)據(jù)泄露問題
AI將會帶來新的漏洞風險，且大語言模型具有的強大不透明自動化潛力，將使企業(yè)的安全、隱私和合規(guī)團隊履行職責的任務(wù)日益復(fù)雜化。
F5 Lab高級威脅研究員Malcolm Heath表示，“生成式AI驅(qū)動的工具可能會造成重大問題，比如大規(guī)模的個人身份信息泄露、獲得未授權(quán)訪問的新技術(shù)和DoS。與云泄露相似，由于涉及數(shù)據(jù)量龐大，LLM泄露也將產(chǎn)生嚴重后果。”
根據(jù)研究顯示，目前應(yīng)用簡單方式即可誘使LLM泄露其包括專有和個人數(shù)據(jù)在內(nèi)的訓(xùn)練數(shù)據(jù)，而如今企業(yè)急于創(chuàng)建專有LLM的熱潮，將可能導(dǎo)致更多訓(xùn)練數(shù)據(jù)的泄露。而出現(xiàn)問題的原因，可能并非來自新型攻擊，而是企業(yè)倉促和配置不當?shù)陌踩刂拼胧┒隆?/p>
預(yù)測7：生成式漏洞
如今，無論是老手還是新手開發(fā)人員，在編寫代碼或檢查漏洞時都開始越來越多地依賴生成式AI。但如果沒有采用正確的安全防范措施，預(yù)計LLM將創(chuàng)造出難以確保其安全的漏洞代碼洪流。盡管開源軟件存在風險，但其優(yōu)勢在于其固有的一次性修復(fù)方法——如果在開源軟件庫中發(fā)現(xiàn)漏洞，只需修復(fù)一次，就可以供所有使用該庫的人使用。通過GenAI代碼生成技術(shù)，每個開發(fā)人員最終都會得到一個獨特的定制代碼。
F5網(wǎng)絡(luò)安全布道師Jim Downey表示，“代碼助手編寫代碼的速度如此之快，以至于開發(fā)人員可能沒有時間進行審查。根據(jù)LLM的構(gòu)建時間，它可能甚至無法識別最新的漏洞，使得該模型無法構(gòu)建避免這些漏洞的代碼，或避免導(dǎo)入存在漏洞的庫。而在生成式AI時代，優(yōu)先考慮速度而非安全的企業(yè)將不可避免地引入新漏洞?！?/p>
預(yù)測8：邊緣攻擊
F5高級解決方案架構(gòu)師Shahn Backer表示，“邊緣計算的興起將導(dǎo)致攻擊面的大幅擴張。物理篡改、管理挑戰(zhàn)，以及軟件和API漏洞都具有在邊緣環(huán)境中被放大的風險。75%的企業(yè)數(shù)據(jù)將在傳統(tǒng)數(shù)據(jù)中心或云環(huán)境之外生成和處理。這一范式重新定義了企業(yè)的邊界，因為邊緣位置的工作負載可能包含敏感信息和特權(quán)?！?/p>
如同多重身份驗證（MFA）一樣，攻擊者將把重點放在其付出的時間能產(chǎn)生最大影響的領(lǐng)域。如果企業(yè)像處理云計算一樣，以同樣疏忽的方式處理向邊緣計算的轉(zhuǎn)變，預(yù)計在未來安全事件也將會持續(xù)頻發(fā)。
預(yù)測9：攻擊者將提升其離地攻擊的能力
架構(gòu)的不斷復(fù)雜化為攻擊者提供了更多機會，他們能夠巧妙地利用企業(yè)現(xiàn)有工具進行反向攻擊。F5安全解決方案架構(gòu)師Kieron Shepard預(yù)測到，“IT環(huán)境的日益復(fù)雜，尤其是在云和混合架構(gòu)中，將使監(jiān)控和檢測離地攻擊（LOTL）變得更具挑戰(zhàn)性。攻擊者越來越傾向于使用LOTL技術(shù)，利用受攻擊系統(tǒng)上已有的合法管理軟件來實現(xiàn)其惡意目標。更為嚴重的是，LOTL攻擊可以并入供應(yīng)鏈攻擊，以危害關(guān)鍵基礎(chǔ)架構(gòu)并中斷系統(tǒng)運營。因此，企業(yè)需加強網(wǎng)絡(luò)可見性，以有效應(yīng)對攻擊者越來越頻繁地利用企業(yè)工具造成的安全威脅。”
預(yù)測10：網(wǎng)絡(luò)安全貧困線將變成網(wǎng)絡(luò)安全貧困矩陣
F5高級威脅安全研究員Sander Vinberg指出，安全架構(gòu)趨勢將對網(wǎng)絡(luò)安全貧困線產(chǎn)生深遠影響。這一概念最早由思科首席信息安全官顧問主管Wendy Nather提出，定義為實現(xiàn)最低限度的安全控制所需的知識、權(quán)限以及最重要的預(yù)算水平。
Vinberg表示，“當前安全產(chǎn)品的成本和復(fù)雜性可能迫使企業(yè)在整個系統(tǒng)的安全控制措施之間做出選擇。如今，企業(yè)需要安全編排、自動化和事件響應(yīng)（SOAR）、安全信息與事件管理（SIEM）、漏洞管理工具和威脅情報服務(wù)，以及配置管理、事件響應(yīng)、滲透測試和治理、合規(guī)與風險等多重安全保障。然而關(guān)鍵的問題在于，許多企業(yè)選擇將這些控制措施作為托管服務(wù)使用，盡管這一方式可以確保專業(yè)性，但同時也為企業(yè)帶來相應(yīng)的成本壓力。隨著進入每個細分領(lǐng)域的準入成本增加，企業(yè)面臨的抉擇將更趨向于完全投入或徹底放棄，這導(dǎo)致越來越多的企業(yè)必須在這兩者之間做出抉擇?！?/p>
寫在最后
上述的網(wǎng)絡(luò)安全預(yù)測強調(diào)了企業(yè)在持續(xù)適應(yīng)和創(chuàng)新方面對抗不斷演變的網(wǎng)絡(luò)威脅的必要性。無論是解決社會經(jīng)濟差異對網(wǎng)絡(luò)安全韌性的影響、加強邊緣計算環(huán)境，還是為看似無休止的AI驅(qū)動的攻擊做好準備，2024年的網(wǎng)絡(luò)安全形勢都需要企業(yè)采取主動和協(xié)作的方式，以共同保護美好的數(shù)字未來。
閩公網(wǎng)安備 35010202001226號
