ChatGPT和生成式人工智能（AI）的興起無(wú)疑增加了安全團(tuán)隊(duì)的負(fù)擔(dān)。只需寫(xiě)一個(gè)簡(jiǎn)短的提示，想成為黑客的人就能在幾秒鐘內(nèi)生成一個(gè)釣魚(yú)電子郵件模板，然后將其發(fā)送給無(wú)數(shù)毫無(wú)戒心的用戶，坐等用戶錯(cuò)誤地點(diǎn)擊惡意鏈接或附件。
電子郵件安全提供商SlashNext打算以人工智能對(duì)抗人工智能。BEC（商業(yè)電子郵件泄露）生成式AI是其正在申請(qǐng)專利的新解決方案，旨在幫助識(shí)別和阻止由ChatGPT和其他AI模型生成的詐騙消息。
BEC生成式AI使用AI數(shù)據(jù)增強(qiáng)和克隆技術(shù)自動(dòng)生成數(shù)千個(gè)潛在的商業(yè)電子郵件泄露（BEC）威脅。SlashNext現(xiàn)有的人工智能解決方案通過(guò)自然語(yǔ)言處理分析這些數(shù)據(jù)，學(xué)習(xí)如何更好地檢測(cè)惡意電子郵件。
雖然SlashNext聲稱該解決方案是業(yè)界第一個(gè)使用生成式AI來(lái)阻止BEC攻擊的解決方案，但更廣泛地說(shuō)，該發(fā)布演示了生成式AI如何在數(shù)據(jù)安全領(lǐng)域發(fā)揮積極作用——在該場(chǎng)景中，這主要是通過(guò)增強(qiáng)對(duì)釣魚(yú)電子郵件和社交工程騙局的檢測(cè)來(lái)實(shí)現(xiàn)的。
人工智能如何徹底改變網(wǎng)絡(luò)釣魚(yú)
在去年11月ChatGPT發(fā)布后，網(wǎng)絡(luò)釣魚(yú)騙局開(kāi)始呈上升趨勢(shì)，Vade在2022年第四季度發(fā)現(xiàn)了2.783億封獨(dú)特的網(wǎng)絡(luò)釣魚(yú)郵件，而2022年第三季度該數(shù)字僅為7440萬(wàn)封。
這些攻擊非常受攻擊者的歡迎，因?yàn)樗鼈兒苋菀撰@得高回報(bào)。例如，惡意行為者可以創(chuàng)建一個(gè)虛假的Office 365登錄表單，向毫無(wú)戒心的用戶發(fā)送釣魚(yú)電子郵件模板，并在他們?cè)噲D登錄時(shí)獲取其帳戶的詳細(xì)信息。
對(duì)于最終用戶和安全團(tuán)隊(duì)來(lái)說(shuō)，審查每封電子郵件并確定內(nèi)容是否合法通常十分耗時(shí)。事實(shí)上，研究發(fā)現(xiàn)70%的企業(yè)要花16-60分鐘來(lái)處理一封釣魚(yú)郵件。
如果用戶不堪疲勞轟炸，無(wú)意中觸發(fā)騙局可能會(huì)導(dǎo)致數(shù)百萬(wàn)美元的數(shù)據(jù)泄露。隨著生成式人工智能的使用不斷增加，員工面臨的威脅數(shù)量只會(huì)進(jìn)一步增加。
SlashNext公司的首席執(zhí)行官帕特里克·哈爾（Patrick Harr）指出，“威脅行為者已經(jīng)在使用生成式人工智能來(lái)自動(dòng)化數(shù)千條量身定制的網(wǎng)絡(luò)釣魚(yú)信息，同時(shí)，它可以創(chuàng)造數(shù)以千計(jì)的信息變體，以進(jìn)一步提高攻擊的成功率。像GPT-3這樣的大型語(yǔ)言模型通常也是免費(fèi)的，惡意行為者可以很快地利用任何新工具來(lái)增加攻擊量，同時(shí)減少所涉及的時(shí)間、精力和成本。這對(duì)威脅行為者來(lái)說(shuō)是有利的，安全界必須準(zhǔn)備好以人工智能對(duì)抗人工智能?！?/p>
雖然生成式人工智能誘發(fā)的騙局增加帶來(lái)了新的挑戰(zhàn)，但企業(yè)可以使用人工智能來(lái)自動(dòng)化和升級(jí)自身的安全操作，確保自身已經(jīng)準(zhǔn)備好快速檢測(cè)人工智能生成的惡意內(nèi)容。
電子郵件安全市場(chǎng)
SlashNext的解決方案屬于基于云的電子郵件安全市場(chǎng)，魔多情報(bào)公司（Mordor Intelligence）在2020年對(duì)該市場(chǎng)的估值為7.682億美元，預(yù)計(jì)到2026年將達(dá)到12.4699億美元。
SlashNext的主要競(jìng)爭(zhēng)對(duì)手之一是Abnormal Security，這是一家人工智能驅(qū)動(dòng)的電子郵件安全提供商，提供了一個(gè)使用人工智能評(píng)估傳入問(wèn)題的平臺(tái)，并將其與用戶的基線活動(dòng)進(jìn)行比較，然后，該平臺(tái)可以識(shí)別表明BEC企圖和網(wǎng)絡(luò)釣魚(yú)詐騙的異常通信，自動(dòng)修復(fù)惡意電子郵件，而無(wú)需人類用戶的參與。
去年，Abnormal Security的估值達(dá)到了40億美元。
另一個(gè)競(jìng)爭(zhēng)對(duì)手是云電子郵件安全提供商Avanan，該公司提供了一種基于API的解決方案，具有自然語(yǔ)言處理和圖像識(shí)別功能，據(jù)稱可以識(shí)別出99.2%的釣魚(yú)電子郵件。Check Point于2021年以約3億美元收購(gòu)了Avanan。
Harr認(rèn)為SlashNext與其競(jìng)爭(zhēng)對(duì)手之間的關(guān)鍵區(qū)別在于其零時(shí)（zero-hour）威脅檢測(cè)的準(zhǔn)確性。他介紹稱，“SlashNext是唯一一家將自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)、機(jī)器學(xué)習(xí)、深度上下文化和關(guān)系圖、文件附件檢查和發(fā)送者模擬分析結(jié)合到一個(gè)解決方案中的公司，可以實(shí)現(xiàn)行業(yè)中最好、最準(zhǔn)確的零時(shí)威脅檢測(cè)?！?/p>
閩公網(wǎng)安備 35010202001226號(hào)
