3000字還原Meta如何執(zhí)行自己的內(nèi)容審核系統(tǒng)！

Meta會(huì)使用技術(shù)和審核團(tuán)隊(duì)來檢測(cè)、審核每天在Facebook和Instagram發(fā)布的眾多內(nèi)容，并對(duì)違規(guī)的內(nèi)容采取措施。那么，Meta是如何執(zhí)行自己的這套政策系統(tǒng)的呢？今天我們就一起走近Meta政策系統(tǒng)，幫助大家更好的了解Meta這個(gè)平臺(tái)，更順利的做Meta的廣告投放！

01

檢測(cè)違規(guī)內(nèi)容

技術(shù)和審核團(tuán)隊(duì)可以幫助Meta檢測(cè)和審核潛在的違規(guī)內(nèi)容和賬戶。檢測(cè)主要分為兩個(gè)部分：技術(shù)和審核團(tuán)隊(duì)。

技術(shù)

Meta技術(shù)可以在用戶舉報(bào)前就主動(dòng)檢測(cè)到絕大部分違規(guī)內(nèi)容并將其移除。Meta的工程師和數(shù)據(jù)科學(xué)家將與審核團(tuán)隊(duì)攜手，不斷更新并改進(jìn)這項(xiàng)技術(shù)。同時(shí)，Meta技術(shù)還有助于審核團(tuán)隊(duì)確定內(nèi)容的優(yōu)先級(jí)。

①如何利用技術(shù)檢測(cè)違規(guī)內(nèi)容

Facebook和Instagram上的用戶每天發(fā)布的內(nèi)容多達(dá)數(shù)十億條。即使全世界有成千上萬的審核員，他們也無法親力親為地審核所有內(nèi)容。這也是Meta引入人工智能技術(shù)的原因。在用戶舉報(bào)之前移除的內(nèi)容中，有超過90%是由技術(shù)檢測(cè)而出。另外，Meta的技術(shù)檢測(cè)到潛在的違規(guī)內(nèi)容后，會(huì)將它們發(fā)送給審核團(tuán)隊(duì)進(jìn)行審核并采取適當(dāng)?shù)拇胧?/p>

其實(shí)利用技術(shù)檢測(cè)違規(guī)內(nèi)容很簡單，某條帖子要么違反了相關(guān)政策，要么沒有。但對(duì)于有些“情緒不明”、“語言表達(dá)特別復(fù)雜”、或者“要解讀其中使用的圖像”、“需要深度分析其背景信息”的帖子，則需要采用人工審核來深入分析。

在決定人工審核團(tuán)隊(duì)?wèi)?yīng)該優(yōu)先審核的內(nèi)容時(shí)，Meta主要會(huì)從以下3個(gè)因素來考慮：

A.嚴(yán)重程度：這些內(nèi)容在線上或線下造成傷害的可能性有多大？

B.傳播力：這些內(nèi)容被分享的速度有多快？

C.違規(guī)概率：這些內(nèi)容實(shí)際上違反了Meta政策的概率有多高？

審核團(tuán)隊(duì)

全球有超過15,000名審核員負(fù)責(zé)審核Facebook和Instagram平臺(tái)上的違規(guī)內(nèi)容。他們都接受了深度培訓(xùn)，并通過專注于某些政策領(lǐng)域和地區(qū)，總共可以審核50多種語言的內(nèi)容。

這些審核人員來自不同的背景，體現(xiàn)了Meta社群的多元化，而且他們都擁有豐富的工作經(jīng)驗(yàn)，包括退伍軍人、法律專家、兒童安全、仇恨言論和反恐等政策領(lǐng)域的政策執(zhí)行專家等等，作為Meta內(nèi)容執(zhí)行系統(tǒng)的重要分支，審核團(tuán)隊(duì)必須具備一定的語言能力和文化能力才能勝任這份工作。

例如，某個(gè)菲律賓用戶在半夜舉報(bào)了一篇塔加拉族語的帖子，Meta的系統(tǒng)就會(huì)將其推送給當(dāng)?shù)鼗蚱渌麜r(shí)區(qū)會(huì)講塔加拉族語的審核員，讓他們進(jìn)一步審核。在識(shí)別不同文化的誹謗言論時(shí)，必須雇傭了解內(nèi)容的具體含義、文化背景、當(dāng)?shù)孛嘶驎r(shí)事新聞的審核員，才能清楚帖子的必要背景信息，從而準(zhǔn)確地執(zhí)行Meta的政策。

02

采取措施

Meta對(duì)Facebook和Instagram上違規(guī)內(nèi)容的執(zhí)行措施分為3類：移除、刪減和告知。

移除

Facebook和Instagram的社群守則里分別概述了Facebook允許和禁止發(fā)布的內(nèi)容。一旦發(fā)現(xiàn)違反了相關(guān)政策的內(nèi)容，Meta就會(huì)立即將其移除。

Meta也會(huì)向用戶發(fā)送通知，告知用戶為什么會(huì)移除該內(nèi)容，以及今后該如何避免分布違規(guī)內(nèi)容。同時(shí)使用違規(guī)計(jì)分系統(tǒng)記錄違規(guī)行為，督促用戶為自己發(fā)布的內(nèi)容承擔(dān)責(zé)任。最后還要看用戶的內(nèi)容所違反的具體政策，包括歷史違規(guī)記錄和違規(guī)計(jì)分次數(shù)，看是否要限制或停用該賬號(hào)。

對(duì)于Facebook上大多數(shù)的違規(guī)行為，違規(guī)計(jì)分將導(dǎo)致以下限制：

1次違規(guī)記分：將向您發(fā)出警告，因?yàn)檫@是您首次違規(guī)記分。

2到6次違規(guī)記分：禁止您在特定期限內(nèi)使用某些功能，例如在小組內(nèi)發(fā)帖。

7次違規(guī)記分：1天內(nèi)禁止創(chuàng)建內(nèi)容，包括發(fā)帖、評(píng)論、創(chuàng)建公共主頁等。

8次違規(guī)記分：3天內(nèi)禁止創(chuàng)建內(nèi)容。

9次違規(guī)記分：7天內(nèi)禁止創(chuàng)建內(nèi)容。

10次或更多次違規(guī)記分：30天內(nèi)禁止創(chuàng)建內(nèi)容。

如果經(jīng)一再警告和限制后，用戶仍然繼續(xù)發(fā)布違反Facebook社群守則或Instagram社群守則的內(nèi)容，Meta將禁用用戶的帳戶。

如果用戶覺得是Meta出現(xiàn)了誤判，也是可以通過“聯(lián)系我們”進(jìn)行復(fù)審的。

刪減

有一些問題內(nèi)容可能會(huì)給Facebook和Instagram用戶帶來負(fù)面的體驗(yàn)，即便這些內(nèi)容不太符合Meta的政策所規(guī)定的移除標(biāo)準(zhǔn)，但Meta通常也會(huì)減少它們的傳播。具體是如何操作的呢？

①根據(jù)用戶的直接反饋?zhàn)龀龈纳?/p>

Meta經(jīng)常詢問用戶他們?cè)贔acebook獲得的體驗(yàn)如何，并且通過問卷調(diào)查來更好地了解我們提供的服務(wù)。Meta會(huì)考量用戶的意見，以及可表明他們喜歡、不喜歡、評(píng)論或分享的內(nèi)容的信號(hào)。根據(jù)這些反饋，Meta會(huì)處理許多類型的問題內(nèi)容，包括：

劣質(zhì)內(nèi)容，比如點(diǎn)擊誘餌和互動(dòng)誘餌。

指向滿是廣告、加載緩慢或已經(jīng)損壞的網(wǎng)站的鏈接。

被反復(fù)復(fù)制粘貼的劣質(zhì)評(píng)論。

②鼓勵(lì)廣告主制作高質(zhì)量的內(nèi)容

Meta希望用戶看到的內(nèi)容既有趣又新穎，因此努力制定各種激勵(lì)措施，鼓勵(lì)廣告主制作優(yōu)質(zhì)內(nèi)容。但Meta不鼓勵(lì)發(fā)布以下內(nèi)容：

轉(zhuǎn)自其他來源的有限原創(chuàng)內(nèi)容。

濫用視頻或直播視頻格式的劣質(zhì)視頻。

錯(cuò)誤信息。

③營造一個(gè)更安全的社群

對(duì)于某些內(nèi)容，有的用戶可能想看，但其他人可能會(huì)覺得存在問題，所以Meta會(huì)減少其曝光度。這類內(nèi)容包括：

屢次違反我們政策的創(chuàng)作者發(fā)布的內(nèi)容。

告知

如果內(nèi)容可能具有敏感性或誤導(dǎo)性，Meta有時(shí)也會(huì)添加警告或分享來自獨(dú)立核查機(jī)構(gòu)的其他信息，這么做的目的是為了避免用戶看到潛在的敏感內(nèi)容。以下是Meta為可能具有敏感性或誤導(dǎo)性的內(nèi)容提供背景信息的一些方法：

①為Facebook和Instagram上的敏感內(nèi)容添加警告畫面

用戶非常重視能夠在線討論一些重要且通常很棘手的問題，但他們對(duì)某些類型的內(nèi)容的敏感程度各不相同。因此Meta會(huì)為Facebook上的潛在敏感內(nèi)容添加警告畫面，例如：

暴力或血腥圖像。

包含欺凌或騷擾內(nèi)容的帖子，前提是分享帖子是為了提高認(rèn)識(shí)。

某些形式的裸露內(nèi)容。

與自殺或試圖自殺有關(guān)的帖子。

②Facebook、Instagram和messenger中的認(rèn)證徽章

為了打擊冒充行為并幫助用戶鑒別偽裝成知名人士的騙子，Meta會(huì)為已認(rèn)證的公共主頁和個(gè)人主頁授予認(rèn)證徽章，表明其身份。這意味著Meta確認(rèn)此帳戶是其代表的公眾人物、名人或品牌/公司的真實(shí)帳戶。

如何在Facebook申請(qǐng)認(rèn)證徽章？

https://www.facebook.com/help/1288173394636262/

③Facebook應(yīng)用中過時(shí)文章的通知畫面

為了在用戶將新聞報(bào)道分享到Facebook之前為其提供更多背景信息，Meta會(huì)在發(fā)布時(shí)間超過90天的文章上顯示一個(gè)通知畫面。然后，用戶可根據(jù)需要繼續(xù)分享。此通知可幫助用戶了解特定新聞報(bào)道發(fā)布了多久及其來源。

為了確保Meta不會(huì)減緩可靠信息的傳播，尤其是衛(wèi)生領(lǐng)域的信息，由政府衛(wèi)生部門和公認(rèn)的全球衛(wèi)生組織發(fā)布的內(nèi)容不會(huì)顯示此通知畫面。這也是為什么很多用戶在Facebook上分享他人帖子時(shí)會(huì)看到通知畫面的原因。