推特分析自家圖片剪裁算法確實(shí)存在偏差

用戶在去年9月的時(shí)候，抗議推特的圖片縮略圖剪裁算法存在偏差，由于當(dāng)時(shí)正是BLM（Black Lives Matter，黑人的命也是命）運(yùn)動(dòng)熱烈進(jìn)行之時(shí)，這個(gè)事件在當(dāng)時(shí)引起軒然大波，官方也立即跳出來(lái)回應(yīng)用戶，承諾他們會(huì)進(jìn)一步研究，并且將研究發(fā)現(xiàn)開(kāi)源。

而現(xiàn)在推特的研究結(jié)果出爐，證明自家圖片剪裁算法的確存在部分偏差，而官方表示將會(huì)停止自動(dòng)剪裁圖片，通過(guò)完整顯示標(biāo)準(zhǔn)長(zhǎng)寬比的圖片消除偏差問(wèn)題，并讓用戶在編輯推文時(shí)，就可以預(yù)覽圖片呈現(xiàn)方式。

推特從2018年的時(shí)候就開(kāi)始使用突出顯示算法剪裁圖片，這樣做的目的是要讓時(shí)間軸中的照片大小一致，并且讓用戶能夠一次看到更多的推文。這個(gè)算法的想法，是預(yù)測(cè)用戶希望第一眼觀看到的圖片部分，并且將圖片剪裁成易于查看的大小。

推特通過(guò)模仿人眼觀看圖片的方法，來(lái)訓(xùn)練這個(gè)突出顯示模型，借由人眼關(guān)注資料來(lái)訓(xùn)練模型，教模型學(xué)習(xí)大多數(shù)人們認(rèn)為重要的事物，使得該模型可以預(yù)測(cè)圖像中每一個(gè)區(qū)域的分?jǐn)?shù)，并把得分?jǐn)?shù)最高的地方當(dāng)做剪裁的中心。

用戶指出剪裁模型可能存在三項(xiàng)缺點(diǎn)，第一項(xiàng)，模型在剪裁圖像時(shí)，傾向選擇白人而非黑人，并且圖片中傾向選擇女性而非男性，第二項(xiàng)，用戶反應(yīng)模型存在男性凝視，也就是圖像剪裁會(huì)傾向從男異性戀者的角度來(lái)選擇圖片剪裁特征，像是模型可能選擇女性的胸部或是腿部作為突出的特征。第三項(xiàng)缺點(diǎn)，則是算法決策讓用戶無(wú)法選擇圖片的呈現(xiàn)方式，因此傷害了呈現(xiàn)自由。

推特研究人員針對(duì)突出顯示算法，進(jìn)行性別與種族偏見(jiàn)實(shí)驗(yàn)，的確發(fā)現(xiàn)了模型存在一些問(wèn)題，在比較男性和女性時(shí)，模型偏好女性的幾率高出8%，黑人與白人相比時(shí)白人高出4%，黑人女性和白人女性相比時(shí)，模型偏好白人女性幾率高出7%，而黑人男性與白人男性相比，白人男性則多出2%。

研究人員也針對(duì)模型可能存在的男性凝視進(jìn)行研究，但是沒(méi)不到到任何客觀證據(jù)，官方提到，算法絕大多數(shù)都是以男性和女性的臉部作為剪裁目標(biāo)，但是約每100張圖片，會(huì)有3張剪裁區(qū)域在頭部范圍之外，但是當(dāng)圖像剪裁非人物頭部時(shí)，通常是為了剪裁非身體的部分，像是運(yùn)動(dòng)服上的數(shù)字。

而研究人員提到，即便對(duì)凸顯算法進(jìn)行調(diào)整，使模型在性別和種族完全平等，但仍然損害了用戶按自己意愿呈現(xiàn)內(nèi)容的自由，更更談不上凸顯算法還可能存在其他潛在危害，包括對(duì)文化細(xì)微差異不敏感等問(wèn)題。

現(xiàn)在推特更新圖片剪裁方法，以降低對(duì)機(jī)器學(xué)習(xí)的依賴，推特表示，并非所有平臺(tái)上的內(nèi)容都適合使用算法，剪裁圖像最好的方式就是讓用戶自己決定。推特從3月開(kāi)始，就在iOS和Android上測(cè)試能夠完整顯示標(biāo)準(zhǔn)長(zhǎng)寬比照片的新方法，這樣便無(wú)需使用算法剪裁圖片，也能讓用戶更好地控制圖像外觀，而更新也包括用戶在推文編輯區(qū)域的預(yù)覽，推文作者將可以清楚知道推文發(fā)布的外觀。