Google Jigsaw部門開發(fā)了騷擾管理器,這是一種用于過濾社交網絡上的負面內容的工具。針對記者和其他公眾人物,該工具使用Jigsaw Perspective API來整理潛在的冒犯性評論。谷歌已經發(fā)布了該工具的代碼,基于它的應用程序將于6月發(fā)布。
Twitter騷擾管理器允許您在檢查推文中的威脅、侮辱和褻瀆內容后隱藏回復和阻止帳戶。該工具在儀表板中對帖子進行排序,用戶可以在其中批量處理它們,而不是使用標準的審核工具單獨處理。Harassment Manager還提供向雇主報告冒犯性帖子和消息的能力,或者在直接威脅等非法內容的情況下向警方報告。
Jigsaw在國際婦女節(jié)宣布發(fā)布騷擾管理器,并稱該工具與面臨基于性別的騷擾的女記者特別相關。該團隊希望開發(fā)人員可以將其調整為其他處于風險中的社交媒體用戶,包括活動家、政治家和其他公眾人物。
Google已經使用Perspective進行自動審核。2019年,該公司發(fā)布了一款名為Tune的瀏覽器擴展程序,可讓您隱藏所謂的有毒信息。除了人工審核外,該擴展已被包括Vox Media的Coral在內的許多平臺使用。
與Tune不同,Harassment Manager不是一個審核工具。這是一個排序工具,可幫助您更快、更高效地處理大量社交媒體帖子和回復。