instagram團(tuán)隊(duì)人數(shù)不多,他們是如何審查比如色情圖片等不良內(nèi)容的?
有審核管理人員,有7x24的管理。2、有舉報(bào)機(jī)制推薦使用一個(gè)平臺(tái)Snoopreport來(lái)查詢(xún)Instagram上的用戶(hù)操作此服務(wù)查詢(xún)所有用戶(hù)的喜好,評(píng)論和關(guān)注,以便您可以查詢(xún)Instagram上的客戶(hù)和競(jìng)爭(zhēng)對(duì)手的活動(dòng)
內(nèi)容審核是一個(gè)比較麻煩的事情,大致可以分為人工和程序兩種方式。
1、人工處理
引入舉報(bào)機(jī)制,一旦圖片被舉報(bào),推送到審核后臺(tái),運(yùn)營(yíng)人員進(jìn)行審核,予以通過(guò)審核、封禁照片、封禁個(gè)人以及封禁多長(zhǎng)時(shí)間的處理。相對(duì)于照片的數(shù)量,被舉報(bào)的照片數(shù)據(jù)量要少很多。
2、程序處理
可以通過(guò)基于物品的協(xié)同過(guò)濾來(lái)輔助處理
輸入:用戶(hù)的行為記錄,譬如瀏覽、點(diǎn)贊、回復(fù)等
輸出:照片的相似性
然后再人工找到若干色情圖片,找到與這些色情圖片相似的照片,逐漸拓展開(kāi)。
缺點(diǎn)是一個(gè)照片必須積累一定的時(shí)間,有足夠的用戶(hù)行為才能被識(shí)別出來(lái),有一定的滯后性。
人人網(wǎng)中,存在大量的色情相冊(cè),通過(guò)協(xié)同過(guò)濾的方式計(jì)算相冊(cè)的相似度,然后通過(guò)一個(gè)色情相冊(cè)擴(kuò)展出去,識(shí)別出來(lái)10w+的色情相冊(cè),然后進(jìn)行統(tǒng)一處理。