YouTube用AI代替人工審核后踩坑

騰訊創(chuàng)業(yè)| ID：qqchuangye

YouTube 作為大規(guī)模用 AI 代替人工的先行者，勢必會(huì)踩坑，但同時(shí)也為其他公司甚至全社會(huì)，指明了人與 AI 協(xié)同關(guān)系中更加清晰的發(fā)展方向。

本文來源 “HyperAI超神經(jīng)”（ID：HyperAI），騰訊創(chuàng)業(yè)經(jīng)授權(quán)后轉(zhuǎn)載。

作者/ 超神經(jīng)

YouTube 在今年初，將內(nèi)容人工審核團(tuán)隊(duì)大量裁撤，全部替換成為 AI 進(jìn)行內(nèi)容審核。

所以，今年 4-6 月整個(gè)第二季度里，YouTube 線上的所有視頻，都是由 AI 進(jìn)行官方的內(nèi)容審核。這也是 YouTube 有史以來第一次整一季度，沒有人工審核員參與內(nèi)容初審。

這一大步跨越，帶來了不小的后果，YouTube 在近期叫停這項(xiàng)舉措，并且大批返聘在年初解雇的人工審核團(tuán)隊(duì)。

1

AI 替換人工：下架視頻數(shù)創(chuàng)紀(jì)錄

AI 審核被叫停的重要原因之一，就是 AI 審核的規(guī)則相較于人工，更為嚴(yán)格，甚至?xí)?dǎo)致誤傷。

根據(jù) Google 在定期的透明度報(bào)告中提到：在 2020 年 AI 接管內(nèi)容審核的 4-6 月中，共有 1100 萬個(gè)視頻被 AI 標(biāo)記違規(guī)并下架，這些視頻主要來自于美國、印度和巴西。

但是，在今年的第一季度里，被鑒定違規(guī)并下架的視頻，僅僅只有 660 萬。而 從人工換成 AI 之后，被下架的視頻數(shù)幾乎翻了一番。

因?yàn)?AI 審核遭下架的視頻，占全部下架視頻的 95%

（數(shù)據(jù)來源：Google 官方透明度報(bào)告）

在被 AI 下架的 1100 萬個(gè)視頻中，多數(shù)為色情、虛假、涉恐犯罪類型，但是也有不少是誤傷。

其中，就有32 萬個(gè)被 AI 標(biāo)記下架的視頻提出了申訴，最后近半數(shù)都通過二次審核，并重新上線。而在過去，進(jìn)行申訴的視頻，只有25%左右可能重新上線。

YouTube 的審核 AI，以一己之力，讓 YouTube 的播主們瑟瑟發(fā)抖，花更多時(shí)間自查內(nèi)容，一時(shí)間怨聲載道讓 YouTube 頭疼不已；大量的申訴，還給 YouTube 團(tuán)隊(duì)，增加了不少重新審核的工作量。

2

人工再上位：時(shí)機(jī)尚未成熟，AI 仍需努力

在年初 YouTube 裁減人工審核團(tuán)隊(duì)前，全職或外包的審核崗位多達(dá) 10000 個(gè)。

這些人工審核員分布在 Google 的全球辦公室，或是外包供應(yīng)商的各個(gè)辦公點(diǎn)。

01

萬人團(tuán)隊(duì)：巨大運(yùn)營成本

人工審核員的崗位要求并不低，比如要負(fù)責(zé)中東地區(qū)的內(nèi)容審核崗位，需要掌握阿拉伯語和阿拉伯方言語系，并對中東地區(qū)上傳視頻進(jìn)行審核，以便及時(shí)標(biāo)記出涉及恐怖、暴力、煽動(dòng)內(nèi)容的視頻。

這樣的工作，每周需要審核500 小時(shí)以上的視頻，初級崗位的薪水可以達(dá)到18.5 美元/小時(shí)，年薪可達(dá)37000 美元左右。

再資深的內(nèi)容審核崗位，需要掌握一些的法律知識，不僅能得到 Google 全職員工的待遇，還可以獲得近100000 美元的年薪。

風(fēng)光的背后，Google 也同時(shí)在承擔(dān)著不小的成本，這也導(dǎo)致了在今年疫情之際 YouTube 對人工審核崗位的裁撤。

這次返聘 YouTube 也提及：疫情讓人工審核成本變高、難度加大。當(dāng)初迫不得已，必須在人工干預(yù)不足和 AI 過度干預(yù)兩者之中，選擇了 AI。

02

人工審核：邊緣職業(yè)身心俱疲

內(nèi)容審核不是一份簡單的工作，不僅每周有固定的工作指標(biāo)，還要長時(shí)間面對兒童色情、暴力、恐怖類型的畫面，往往也會(huì)讓人身心俱疲。

《華盛頓郵報(bào)》、《財(cái)富雜志》等美國主流媒體均對內(nèi)容審核員這一職業(yè)，做出過深度報(bào)道。接受采訪的內(nèi)容審核員，無一例外都表達(dá)了這份職業(yè)，對自己的身心健康產(chǎn)生了強(qiáng)烈的負(fù)面影響。

媒體的輿論影響也敦促了科技公司對這類崗位進(jìn)行了一系列的改善，比如限制每周觀看不適視頻的時(shí)間上限、定期的心理治療等措施。

3

人工還是 AI：不用著急下定論

人工審核的支出、對人心理的傷害、機(jī)器學(xué)習(xí)的技術(shù)進(jìn)步，這些都推動(dòng)了近年各平臺(tái)對自動(dòng)化內(nèi)容審核的研究和快速應(yīng)用。

AI 雖然有一定的誤傷幾率，但是在對違規(guī)內(nèi)容的審查中，的確展現(xiàn)了超過人工審核的高效。

YouTube 首席產(chǎn)品官 Neal Mohan 向英國《金融時(shí)報(bào)》回應(yīng)人工審核重回崗位時(shí)，提到了一組數(shù)據(jù)「被 AI 標(biāo)記刪除的 1100 萬個(gè)視頻中，超過 50% 的視頻，在沒有用戶播放前就被下架；超過 80% 的視頻，播放 10 次以內(nèi)就被下架?！?/p>

YouTube 作為大規(guī)模用 AI 代替人工的先行者，勢必會(huì)踩坑，但同時(shí)也為其他公司甚至全社會(huì)，指明了人與 AI 協(xié)同關(guān)系中更加清晰的發(fā)展方向。

這樣的實(shí)驗(yàn)雖然折騰，但著實(shí)有必要。這需要公司有吃螃蟹的精神、承擔(dān)輿論非議的勇氣和快速善后的決心。同樣開放透明的數(shù)據(jù)，也讓媒體和社會(huì)在接受未來的不確定性，有更多的共識和信心。

誰知道寫文章的我，是不是個(gè) AI 呢？

END

原文標(biāo)題：YouTube用AI代替人工審核員后，又決定返聘

文章出處：【微信公眾號：騰訊創(chuàng)業(yè)】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。

責(zé)任編輯：haq