Mozilla研究發(fā)現(xiàn)YouTube的推薦引擎相當(dāng)糟糕

參與研究的網(wǎng)民大部分表示后悔觀看的YouTube視頻都是由該網(wǎng)站的太空時(shí)代AI算法推薦的。

“YouTube推薦算法的這個(gè)問題是關(guān)于商業(yè)算法可能對(duì)我們的生活產(chǎn)生的不透明、神秘影響的更大故事的一部分，”周三發(fā)布的Mozilla領(lǐng)導(dǎo)的研究總結(jié)道。

“YouTube的算法估計(jì)每天會(huì)帶來7億小時(shí)的觀看時(shí)長(zhǎng)，但公眾對(duì)其運(yùn)作方式知之甚少。我們沒有官方的方法來研究它?！?/p>

Firefox制造商Mozilla構(gòu)建了一個(gè)名為RegretsReporter的瀏覽器擴(kuò)展，供YouTube用戶下載。安裝后，該擴(kuò)展程序會(huì)記錄網(wǎng)民在YouTube上的觀看活動(dòng)，記錄觀看視頻的詳細(xì)信息，并使用戶可以輕松標(biāo)記他們希望自己沒有看到的剪輯。將數(shù)據(jù)匯集在一起并進(jìn)行分析，試圖研究YouTube的推薦引擎的行為和有效性。

志愿者后悔觀看視頻的原因有很多，從材料只不過是關(guān)于政治精英喝兒童血的QAnon陰謀論，到關(guān)于COVID-19疫苗的虛假信息，再到對(duì)紅極一時(shí)的電影進(jìn)行不恰當(dāng)?shù)拇炙啄７峦婢呖倓?dòng)員。

Mozilla研究人員發(fā)現(xiàn)，在所有志愿者在谷歌擁有的平臺(tái)上觀看后悔的視頻中，有71%是由該巨頭的whiz-bang AI算法推薦的。他們還估計(jì)，在被舉報(bào)的視頻中，約有12.2%的內(nèi)容違反了YouTube自己的指導(dǎo)方針和政策——這些視頻根本不應(yīng)該出現(xiàn)在網(wǎng)站上，更不用說由它推薦了。

來自190個(gè)國(guó)家/地區(qū)的總共37,380名YouTube觀眾自愿參加了這項(xiàng)眾包研究；2020年7月至2021年5月期間，他們?yōu)樽约汉蠡谟^看的視頻提交了3,362份報(bào)告。YouTube的推薦算法在非英語國(guó)家的表現(xiàn)似乎更差，在這些國(guó)家，人們的后悔報(bào)告率更高。巴西、德國(guó)和法國(guó)被評(píng)為最差，美國(guó)和英國(guó)分別排名第八和第十六。

“我們推薦系統(tǒng)的目標(biāo)是將觀眾與他們喜歡的內(nèi)容聯(lián)系起來，在任何一天，僅主頁上就有超過2億個(gè)視頻被推薦，”谷歌發(fā)言人在一份聲明中告訴。

“超過800億條信息用于為我們的系統(tǒng)提供信息，包括觀眾對(duì)他們想要觀看的內(nèi)容的調(diào)查回復(fù)。我們一直致力于改善YouTube上的體驗(yàn)，僅在過去一年中，我們就推出了30多項(xiàng)不同的更改，以減少對(duì)有害內(nèi)容的推薦。由于這一變化，來自我們推薦的邊緣內(nèi)容的消費(fèi)量現(xiàn)在大大低于1%。”

佛羅里達(dá)州男子起訴Facebook、Twitter、YouTube帳戶禁令

歐洲法院裁定YouTube不對(duì)非法上傳受版權(quán)保護(hù)材料的用戶自動(dòng)承擔(dān)責(zé)任

如果英國(guó)在線安全法案通過議會(huì)，活動(dòng)家警告“算法驅(qū)動(dòng)的審查”未來

羅杰沃特斯在“巨大”的歌曲版權(quán)請(qǐng)求后告訴Facebook首席執(zhí)行官Zuck

YouTube多年來一直在努力解決推薦系統(tǒng)問題，并對(duì)其進(jìn)行了調(diào)整以提高性能。盡管如此，它的自動(dòng)化軟件并不完美：違反其內(nèi)容政策的視頻仍然會(huì)漏掉并繼續(xù)推薦給用戶。Mozilla認(rèn)為，只有當(dāng)YouTube對(duì)其算法的實(shí)際運(yùn)作方式保持靦腆時(shí)，這種情況才會(huì)繼續(xù)下去。

報(bào)告稱：“我們相信我們的研究揭示的只是冰山一角，這些發(fā)現(xiàn)中的每一個(gè)都值得并需要進(jìn)一步審查?！?/p>

“我們還認(rèn)識(shí)到，如果不進(jìn)行干預(yù)以對(duì)YouTube的算法進(jìn)行更嚴(yán)格的審查，這些問題將繼續(xù)不受控制，對(duì)我們社區(qū)的影響將越來越大。盡管YouTube聲稱在這些問題上取得了進(jìn)展，但研究人員幾乎不可能驗(yàn)證這些說法，也幾乎不可能研究YouTube的推薦算法?！?/p>

Mozilla建議YouTube發(fā)布有關(guān)其系統(tǒng)如何工作的數(shù)據(jù)，并對(duì)其內(nèi)容審核和推薦模型保持透明。Moz認(rèn)為，這樣一來，研究人員就可以獨(dú)立審核人工智能軟件。