在LinkedIn上創(chuàng)建安全可靠的Jobs生態(tài)系統(tǒng)

LinkedIn的愿景是使全球員工隊(duì)伍與經(jīng)濟(jì)機(jī)會(huì)聯(lián)系起來(lái)。實(shí)現(xiàn)這一愿景的關(guān)鍵驅(qū)動(dòng)因素是我們世界一流的招聘市場(chǎng)，在這里我們可以幫助求職者找到下一個(gè)夢(mèng)想中的職位，并幫助招聘者找到最適合其職位空缺的職位。為了獲得成功，我們需要確保LinkedIn上的求職者對(duì)自己在平臺(tái)上看到的每份工作充滿信心，公平和安全，并確保無(wú)關(guān)緊要，歧視性或欺詐性的工作脫離平臺(tái)。

為此，我們?cè)O(shè)計(jì)了一個(gè)強(qiáng)大的防御系統(tǒng)，該系統(tǒng)主動(dòng)違反我們的《工作條款和條件》或《專業(yè)社區(qū)政策》，識(shí)別并刪除工作，概述了我們對(duì)平臺(tái)上會(huì)員和客戶行為的期望。LinkedIn上發(fā)布的每項(xiàng)工作均由我們的辯護(hù)進(jìn)行評(píng)估，這些辯護(hù)會(huì)尋找各種類型的違反政策并對(duì)其采取行動(dòng)。在此博客文章中，我們將更深入地探討會(huì)員發(fā)布的工作的防御措施，以幫助確保我們的平臺(tái)安全可靠。

Jobs生態(tài)系統(tǒng)中的多層欺詐防護(hù)

成員在LinkedIn上發(fā)布的每項(xiàng)工作都經(jīng)過(guò)一系列步驟，每個(gè)步驟都充當(dāng)檢查點(diǎn)，其中包含針對(duì)欺詐性工作的一整套防御措施。這些檢查點(diǎn)包括：

1.創(chuàng)建或訪問(wèn)LinkedIn帳戶

2.設(shè)置付款方式（可選）

3.起草和發(fā)布工作

在整個(gè)過(guò)程中，我們的保護(hù)措施旨在在創(chuàng)造就業(yè)機(jī)會(huì)的生命周期中盡早發(fā)現(xiàn)濫用行為。這意味著在起草欺詐性工作發(fā)布之前，先確定具有惡意或欠款的工作發(fā)布者。如果濫用者逃避了我們的主動(dòng)防御，一旦收集到更多信息，我們就會(huì)在下游建立識(shí)別欺詐的系統(tǒng)。在接下來(lái)的部分中，我們將逐步完成發(fā)布作業(yè)和相應(yīng)多層防御的這些關(guān)鍵步驟。

多層防御遍布三個(gè)檢查站，可防止欺詐性工作

檢查點(diǎn)1：創(chuàng)建或訪問(wèn)LinkedIn帳戶

成員發(fā)布的每項(xiàng)工作都始于該成員創(chuàng)建或訪問(wèn)其LinkedIn帳戶。我們防范欺詐性工作發(fā)布的第一層防御措施是確保嘗試發(fā)布工作的帳戶（無(wú)論是消費(fèi)者帳戶還是企業(yè)帳戶）都是合法的并且沒(méi)有受到損害。確保企業(yè)帳戶不受損害尤其重要，因?yàn)樗麄兊墓ぷ鞣植几鼜V泛，并且可能會(huì)受到潛在候選人的更多關(guān)注。

假帳戶

我們已經(jīng)投資了一套自動(dòng)的假帳戶防御系統(tǒng)，可以防止或立即刪除在網(wǎng)站上創(chuàng)建的假帳戶。防御措施包括對(duì)每次注冊(cè)嘗試進(jìn)行評(píng)分并挑戰(zhàn)風(fēng)險(xiǎn)嘗試的模型，到檢測(cè)異常會(huì)員活動(dòng)以高可信度識(shí)別假帳戶并將其刪除的模型。根據(jù)我們最新的透明度報(bào)告，這些自動(dòng)防御阻止或自動(dòng)刪除了我們從平臺(tái)刪除的98.4％的偽造帳戶。

LinkedIn上的企業(yè)帳戶需要自定義合同，因此，不良行為者更難以利用。簽訂合同后，將分配許可席位，并將帳戶鏈接到該席位。我們的合同不允許轉(zhuǎn)售席位，并且我們已經(jīng)制定了處理此類違規(guī)行為的規(guī)定。例如，我們可以利用席位持有人和與合同相關(guān)的公司之間的關(guān)系特征來(lái)檢測(cè)轉(zhuǎn)售席位的合同。然后將可疑合同發(fā)送給人工審查，然后再與合同所有者聯(lián)系。鑒于企業(yè)帳戶中作業(yè)的分布范圍更廣，因此這種檢測(cè)至關(guān)重要。

被黑客入侵的帳戶

我們還設(shè)有保護(hù)措施，以防止不良行為者入侵現(xiàn)有帳戶以發(fā)布欺詐性工作。我們會(huì)主動(dòng)使我們認(rèn)為可能已受到破壞的任何憑據(jù)無(wú)效，以防止未經(jīng)授權(quán)的訪問(wèn)。我們部署了一套自動(dòng)防御措施，以防止和刪除被黑客入侵的帳戶，這與偽造帳戶的防御體系結(jié)構(gòu)非常相似。例如，模型對(duì)每次登錄嘗試進(jìn)行評(píng)分，并為可疑的登錄嘗試請(qǐng)求進(jìn)一步的身份證明。我們還有登錄后機(jī)器學(xué)習(xí)的模型，這些模型可以由成員操作觸發(fā)，也可以使用基于圖形的豐富信息在后臺(tái)運(yùn)行。他們?cè)谄脚_(tái)上檢測(cè)到受感染的帳戶，并將其鎖定以恢復(fù)其原始帳戶所有者。

我們部署了類似的防御措施，以防止企業(yè)帳戶被黑客入侵。此外，為了保護(hù)這些帳戶，我們?cè)谄髽I(yè)級(jí)別上安裝了兩個(gè)要素認(rèn)證（2FA），因此Recruiter管理員現(xiàn)在可以要求其訂約的座椅支架打開(kāi)2FA才能訪問(wèn)Recruiter產(chǎn)品。2FA幾乎消除了企業(yè)帳戶被黑客入侵的風(fēng)險(xiǎn)，從而確保了企業(yè)合同不受未經(jīng)授權(quán)的職位發(fā)布的侵害。

檢查點(diǎn)2：設(shè)定付款方式

建立LinkedIn帳戶后，有一個(gè)可選步驟，提供一種付款方式來(lái)為職位空缺設(shè)置營(yíng)銷活動(dòng)。LinkedIn使用來(lái)自支付網(wǎng)關(guān)的市場(chǎng)情報(bào)以及有關(guān)會(huì)員和支付工具的豐富歷史信息來(lái)評(píng)估支付是否可疑。對(duì)于合法的招聘人員而言，此步驟看起來(lái)很簡(jiǎn)單，容易，但是在幕后，我們正在監(jiān)控可疑付款，這些付款會(huì)直接被拒絕，或者會(huì)發(fā)送給審核小組進(jìn)行進(jìn)一步審查。

檢查點(diǎn)3：起草和發(fā)布作業(yè)

建立付款方式和公司頁(yè)面之后，作業(yè)發(fā)布流程的下一步是草擬和發(fā)布作業(yè)本身。這是我們?cè)谄脚_(tái)上發(fā)布職位發(fā)布之前的最后一道防線。此步驟中的防御措施是產(chǎn)品控制和風(fēng)險(xiǎn)建模的結(jié)合。

產(chǎn)品控件

LinkedIn已仔細(xì)地重新設(shè)計(jì)了工作發(fā)布流程，以阻止壞演員，同時(shí)最大程度地減少與合法海報(bào)的摩擦。例如，我們推出了一項(xiàng)產(chǎn)品功能，要求職位發(fā)布者在職位發(fā)布中確認(rèn)與公司關(guān)聯(lián)的公司電子郵件的所有權(quán)。這大大降低了欺詐性工作虛假地與已建立公司有聯(lián)系的風(fēng)險(xiǎn)。

風(fēng)險(xiǎn)建模

一旦超過(guò)了適用的產(chǎn)品控制，消費(fèi)者帳戶發(fā)布的每個(gè)作業(yè)都將通過(guò)機(jī)器學(xué)習(xí)模型進(jìn)行評(píng)分，該模型會(huì)評(píng)估該作業(yè)被欺詐的可能性。這些模型使用大量功能，例如職位發(fā)布者，職位（例如，聯(lián)系電子郵件，公司）的特征以及它們之間關(guān)聯(lián)的可能性。被模型標(biāo)記為可疑的工作將被禁止發(fā)布，直到經(jīng)過(guò)人工審核員的驗(yàn)證為止，從而使我們能夠保護(hù)我們的成員。

職位發(fā)布后檢測(cè)

一旦職位發(fā)布在平臺(tái)上，我們也將繼續(xù)對(duì)其進(jìn)行評(píng)估，以捕獲可能已經(jīng)超出這些預(yù)防機(jī)制的任何欺詐性職位。首先，我們有更復(fù)雜的機(jī)器學(xué)習(xí)模型，這些模型在后臺(tái)運(yùn)行，并將可疑作業(yè)排入隊(duì)列以供人工檢查。我們還聽(tīng)取了來(lái)自760多個(gè)百萬(wàn)成員的可疑工作的報(bào)告，并將這些報(bào)告排隊(duì)等待人工審核。同時(shí)，在線和離線運(yùn)行大量假冒和被黑客入侵的帳戶模型，以檢測(cè)濫用帳戶并將其刪除，這也刪除了他們發(fā)布的任何欺詐性工作。

展望未來(lái)

我們團(tuán)隊(duì)的首要任務(wù)是確保尋找工作的成員可以信任在LinkedIn上發(fā)布的成員。當(dāng)我們?yōu)檎衅溉藛T準(zhǔn)備新的職位發(fā)布方式（例如，免費(fèi)職位）時(shí)，我們同時(shí)在風(fēng)險(xiǎn)建模和產(chǎn)品控制方面調(diào)整了防御措施。我們?cè)O(shè)計(jì)防御層的方式是產(chǎn)品控制（例如電子郵件驗(yàn)證）和機(jī)器學(xué)習(xí)模型本質(zhì)上都是模塊化的，可以輕松擴(kuò)展并適應(yīng)新的工作類型并有選擇地應(yīng)用。我們還通過(guò)新的分類算法，改進(jìn)的信號(hào)提取以及精心訓(xùn)練的模型訓(xùn)練數(shù)據(jù)，積極提高各種檢測(cè)模型的性能。同樣，我們正在評(píng)估通過(guò)產(chǎn)品設(shè)計(jì)來(lái)增強(qiáng)安全性的方法，以增加與不良行為者的摩擦。

盡管這篇文章專門介紹了LinkedIn對(duì)欺詐性工作的辯護(hù)，但我們也擁有檢測(cè)無(wú)關(guān)的工作和歧視性工作的系統(tǒng)，并一直在努力改進(jìn)它們。我們致力于保護(hù)我們的會(huì)員，我們期待繼續(xù)分享我們的進(jìn)步。

致謝

構(gòu)建豐富的產(chǎn)品功能和機(jī)器學(xué)習(xí)模型集以在我們的工作生態(tài)系統(tǒng)中提供深度防御，確實(shí)見(jiàn)證了多個(gè)組織和職能部門之間的團(tuán)隊(duì)協(xié)同工作。我們想感謝以下團(tuán)隊(duì)中的合作伙伴，沒(méi)有他們，這是不可能的：信任與人才解決方案工程，信任AI，信任與安全以及法律和政策部門的Jobs Trust工程，產(chǎn)品和數(shù)據(jù)科學(xué)團(tuán)隊(duì)。

原標(biāo)題：Creating a secure and trusted Jobs ecosystem on LinkedIn

合著者：Sakshi Jain，Grace Tang，Gaurav Vashist，Yu Wang，John Lu，Ravish Chhabra，Shruti Sharma，Dana Tom和Ranjeet Ranjan