Facebook：一個漏洞導致一些沒有違反其規(guī)則的內(nèi)容被錯誤地刪除

據(jù)CNET報道，F(xiàn)acebook母公司Meta周二表示，一個漏洞導致今年前三個月的一些沒有違反其規(guī)則的內(nèi)容被錯誤地刪除。這家社交媒體巨頭表示，它修復了這個漏洞，并恢復了那些被錯誤地標記為違反其規(guī)則的帖子，包括反對恐怖主義和有組織仇恨。

Facebook在第一季度對250萬條被標記為有組織仇恨的內(nèi)容采取了行動，比2021年第四季度的160萬條有所增加。該社交網(wǎng)絡在第一季度還對1600萬條恐怖主義內(nèi)容采取了行動，比第四季度的770萬條增加了一倍多。Meta公司將這一高峰歸因于其媒體匹配技術中的一個漏洞。該公司季度標準執(zhí)行報告中的一張圖表顯示，該社交網(wǎng)絡恢復了超過40萬條被錯誤標記為恐怖主義的內(nèi)容。

Meta的照片和視頻服務Instagram也因為這個漏洞對更多的恐怖主義和有組織的仇恨內(nèi)容采取了行動。這個漏洞也影響了其他類型的內(nèi)容。報告說，由于這個問題，F(xiàn)acebook在第一季度恢復了34.56萬條被標記為自殺和自殘的內(nèi)容，比第四季度的95300條有所增加。該社交網(wǎng)絡還在第一季度恢復了超過68.78萬條被錯誤標記為性剝削的內(nèi)容，比上一季度的18.06萬條有所增加。

這些錯誤引起了人們對Meta公司的自動技術運作情況的質(zhì)疑，以及是否存在其他未被發(fā)現(xiàn)的漏洞或錯誤。該公司表示，它一直在采取更多措施，防止內(nèi)容審核錯誤的發(fā)生。Meta正在測試新的人工智能技術，從上訴和恢復的內(nèi)容中學習。Meta公司誠信副總裁Guy Rosen在周二的新聞電話會議上說，它還在試驗在社交網(wǎng)絡對違反規(guī)則的人進行處罰之前給他們更多的提前警告。

Rosen說，當誤報被輸入其媒體匹配技術時，它將它會“散開”并刪除大量沒有違反平臺規(guī)則的內(nèi)容?！拔覀儽仨毞浅Ｖ斏鞯貙Υ诎l(fā)生扇出之前進入系統(tǒng)的所謂種子。在這種情況下，我們所遇到的是引進了一些新技術，這給系統(tǒng)帶來了一些誤報，”Rosen補充說，內(nèi)容后來被恢復了。

與此同時，F(xiàn)acebook也面臨著在恐怖主義內(nèi)容傳播之前沒有將其刪除的審查。上周末，官方稱被指控在布法羅市一家雜貨店向10名黑人開槍致死的白人男子在Twitch上發(fā)布的直播視頻，也在Facebook和Twitter等社交網(wǎng)絡上傳播?！度A盛頓郵報》報道，該視頻副本的鏈接出現(xiàn)在Facebook上，被分享了46000多次，收到了500多條評論。Facebook在10多個小時內(nèi)沒有刪除該鏈接。

Rosen說，在公司知道了這起槍擊事件后，員工們迅速將該事件定為恐怖襲擊，并刪除了該視頻的任何副本以及官員們所說的槍手長達180頁的充滿仇恨的言論。

Rosen說，挑戰(zhàn)之一是人們創(chuàng)建新版本的視頻或鏈接，試圖逃避社交媒體平臺的執(zhí)法。他說，該公司與任何發(fā)生的情況一樣，將完善其系統(tǒng)，以更快地發(fā)現(xiàn)違規(guī)內(nèi)容。Rosen補充說，關于Facebook正在考慮采取哪些具體措施，他沒有更多的細節(jié)可以分享。