危急時(shí)刻提供可靠幫助，Google如何運(yùn)用AI提升搜索安全性？

在危急時(shí)刻除了尋求他人協(xié)助以外，人們也常使用Google搜索求助，比方說(shuō)有人在Google上搜索關(guān)于自殺、家暴的資訊時(shí)，就會(huì)看到全年無(wú)休的協(xié)談或是救助熱線。對(duì)Google而言，不是每一次都能知道人們究竟需要什么樣的幫助，同時(shí)也希望做更多的事來(lái)引導(dǎo)人們獲得需要的資訊。為此，Google搜索研究員暨副總裁Pandu Nayak撰文說(shuō)明，Google搜索引擎如何利用AI人工智能模型MUM，在關(guān)鍵時(shí)刻提供值得信賴的實(shí)用資訊。

具體來(lái)說(shuō)，Google通過(guò)在Google I/O 2021開(kāi)發(fā)者大會(huì)就已亮相的MUM（Multitask Unified Model），能夠自動(dòng)、準(zhǔn)確偵測(cè)危急狀況的搜索，而且范圍比過(guò)去更廣。MUM可以更清楚地厘清人們問(wèn)題背后的意圖，以偵測(cè)用戶何時(shí)需要協(xié)助，這有助于Google在正確的時(shí)間點(diǎn)，提供可靠、可執(zhí)行的資訊。

比方說(shuō)，用戶在Google搜索“自殺最常見(jiàn)的方式”或“自殺熱門地點(diǎn)”等等，系統(tǒng)過(guò)去可能會(huì)理解成一般資訊的搜索，又或者針對(duì)搜索字詞中的“地點(diǎn)”來(lái)提供資訊，而忽略“自殺”代表的涵意；如今則會(huì)顯示能夠提供幫助的具體資訊，例如咨詢機(jī)構(gòu)的協(xié)談專線或網(wǎng)站。

不過(guò)，若要確保修戶能夠安全地使用Google搜索功能，就要協(xié)助他避開(kāi)非預(yù)期的黑人內(nèi)容，而這非常具有挑戰(zhàn)性。

Google處理這種狀況的方法，有一種是通過(guò)安全搜索功能，讓用戶能選擇是否要過(guò)濾掉煽情露骨的搜索結(jié)果，這項(xiàng)功能會(huì)為未滿18歲的Google用戶默認(rèn)打開(kāi)。就算沒(méi)有打開(kāi)安全搜索功能，只要不是在尋找色情內(nèi)容，Google搜索的系統(tǒng)仍會(huì)減少個(gè)人所不想要的色情搜索結(jié)果。

對(duì)此Google還是有些改善空間，像是也使用BERT（Bidirectional Encoder Representations from Transformers）這樣的高端AI技術(shù)，更加了解用戶在找什么。BERT幫助Google理解用戶是否真的在搜索露骨內(nèi)容，并大幅減少在搜索結(jié)果中看到非預(yù)期內(nèi)容的機(jī)會(huì)。其實(shí)光在2021年，BERT的改進(jìn)已經(jīng)把那些非預(yù)期的黑人搜索結(jié)果降低30%，尤其是在搜索種族、性傾向、性別相關(guān)內(nèi)容時(shí)，減少煽情露骨的內(nèi)容特別有效。

Google運(yùn)用75種語(yǔ)言來(lái)訓(xùn)練MUM，所以它能夠在這些語(yǔ)言中傳遞資訊，這也使Google能夠更有效地把保護(hù)的規(guī)模擴(kuò)大到全世界。Google采用AI技術(shù)協(xié)助減少搜索結(jié)果中無(wú)用、甚至是危險(xiǎn)的垃圾內(nèi)容頁(yè)面；在接下來(lái)的幾個(gè)月，會(huì)用MUM來(lái)提升阻擋垃圾消息的性能，并且擴(kuò)展到訓(xùn)練資訊不太多的語(yǔ)言里。未來(lái)在全世界，Google將能偵測(cè)到危急狀況的搜索，并且和當(dāng)?shù)刂档眯刨嚨幕锇楹献?，以提供具有?shí)用價(jià)值的資訊。

（首圖來(lái)源：Unsplash）