近日YouTube官方突然封鎖了克羅地亞國(guó)際象棋棋手安東尼奧·拉迪克(Antonio Radic)的頻道,盡管YouTube沒(méi)有給出具體的封鎖原因,但外界猜測(cè)這與AI人工智能自動(dòng)偵測(cè)仇恨或種族歧視字眼有關(guān)。
該名職業(yè)國(guó)際象棋棋手在YouTube上的頻道名為agadmator’s Chess Channel,是世界上最受歡迎的YouTube國(guó)際象棋頻道,擁有超過(guò)100萬(wàn)的訂閱者。在2020年6月28日,Antonio Radic在與中村光大師(Hikaru Nakamura)進(jìn)行國(guó)際象棋表演時(shí)被YouTube封鎖,頻道直到24小時(shí)后才得到解封。
現(xiàn)在YouTube的審核系統(tǒng)是同時(shí)依賴人類和AI自動(dòng)算法,當(dāng)視頻中出現(xiàn)仇恨、種族或性別歧視的字眼時(shí),YouTube會(huì)對(duì)視頻下架甚至?xí)怄i賬戶,但對(duì)于國(guó)際象棋來(lái)說(shuō),“黑色”,“白色”,“攻擊”和“威脅”都是國(guó)際象棋的常用詞語(yǔ),這意味著如果YouTube只通過(guò)AI作自動(dòng)偵測(cè),可能會(huì)出現(xiàn)沒(méi)有理解上文下理而對(duì)視頻作出錯(cuò)誤的判斷。而實(shí)際數(shù)據(jù)也證明了這個(gè)漏洞,在被AI歸類為仇恨言論的1000條評(píng)論中,他們發(fā)現(xiàn)82%的評(píng)論由于使用了“黑色”,“白色”,“攻擊”和“威脅”這些字眼而被判定為發(fā)布仇恨言論。