Twitter將研究其算法造成的潛在“無(wú)意傷害”

據(jù)外媒Engadget報(bào)道，Twitter宣布了一項(xiàng)研究其算法公平性的新計(jì)劃。作為這項(xiàng)被該公司稱(chēng)為“負(fù)責(zé)任的機(jī)器學(xué)習(xí)計(jì)劃”的努力的一部分，來(lái)自整個(gè)公司的數(shù)據(jù)科學(xué)家和工程師將研究其算法造成的潛在“無(wú)意傷害”，并將研究結(jié)果公之于眾。

“我們正在進(jìn)行深入的分析和研究，以評(píng)估我們使用的算法是否存在潛在的危害，”該公司在宣布該倡議的一篇博客文章中寫(xiě)道。

首先，該公司將研究Twitter的圖像裁剪算法，該算法一直被批評(píng)為偏向皮膚較白的人。Twitter還將研究其內(nèi)容推薦，包括“對(duì)我們的Home時(shí)間線推薦在不同種族亞群中的公平性評(píng)估”，以及“對(duì)七個(gè)國(guó)家不同政治意識(shí)形態(tài)的內(nèi)容推薦進(jìn)行分析”。

目前還不清楚這一舉措會(huì)產(chǎn)生多大的影響。Twitter指出，在某些情況下，它可能會(huì)根據(jù)其研究結(jié)果改變其平臺(tái)的各個(gè)方面，而其他研究可能只是導(dǎo)致“圍繞我們構(gòu)建和應(yīng)用ML（機(jī)器學(xué)習(xí)）的方式進(jìn)行重要討論”。但對(duì)于Twitter和其他社交媒體平臺(tái)來(lái)說(shuō)，這個(gè)問(wèn)題是一個(gè)及時(shí)的問(wèn)題。在美國(guó)國(guó)會(huì)大廈發(fā)生暴亂后，立法者已經(jīng)向Twitter、YouTube和Facebook施壓，要求它們的算法更加透明。一些立法者已經(jīng)提出立法，要求這些公司評(píng)估其算法是否存在偏見(jiàn)。

Twitter首席執(zhí)行官杰克·多西（Jack Dorsey）也曾表示，他希望建立一個(gè)算法“市場(chǎng)”，讓用戶(hù)可以控制自己使用哪些算法。該公司在其最新的博客文章中表示，對(duì)于類(lèi)似的想法，它正處于“探索的早期階段”。