Facebook借助人工智能以幫助網(wǎng)絡(luò)平臺更好完成審核工作

Facebook 一直明確表示過要借助人工智能（AI）技術(shù)，以幫助該社交網(wǎng)絡(luò)平臺更好地完成審核工作。 當(dāng)機器學(xué)習(xí)過濾器遇到被標記可能違反平臺政策、或被用戶投訴的內(nèi)容時（包括但不限于垃圾郵件、仇恨言論、煽動暴力的帖子），系統(tǒng)就會及時響應(yīng)并介入一些操作（比如刪帖或?qū)~戶加以限制），以便寶貴的人工可用于審核其它案例。

FB 舊版審核系統(tǒng)，結(jié)合主動式的機器學(xué)習(xí)過濾 + 用戶反潰

據(jù)悉，F(xiàn)acebook 在全球范圍內(nèi)雇傭了大約 1.5 萬名審核人員，但過去因為沒有給予這些雇員足夠的支持而遭到批評。其主要工作是根據(jù)公司的平臺政策，對標記的帖子進行分類。

以往的流程，或多或少地都是根據(jù)時間先后進行排序。不過現(xiàn)在，F(xiàn)acebook 更希望借助更多機器學(xué)習(xí)算法的力量，根據(jù)內(nèi)容的權(quán)重進行審核排序，同時設(shè)定了傳播度、敏感度、違規(guī)嚴重程度這三大參考原則。

FB 新版審核系統(tǒng)，借助更多的機器學(xué)習(xí)技能，幫助人工對待審核隊列進行排序。

盡管尚不清楚這些標準的具體權(quán)重有何區(qū)別，但 Facebook 表示，其目標是有限處理那些最具破壞性的內(nèi)容。換言之，傳播后果越嚴重的帖子，就越會被優(yōu)先處理。

比如涉及暴恐、剝削兒童或自我傷害等內(nèi)容，將會受到實質(zhì)性的人工審核。。同時垃圾信息等礙眼但后果不太嚴重的內(nèi)容，將被 AI 判定為次優(yōu)先級。

新引入的 WPIE 整體評估工具 + 各種內(nèi)容排序用的機器學(xué)習(xí)算法。

Facebook 社區(qū)誠信團隊產(chǎn)品經(jīng)理 Ryan Barnes 在新聞發(fā)布會上向記者表示，該公司正在使用更好的算法，以評估所有違規(guī)內(nèi)容的人工審核優(yōu)先級，比如上圖所示的 WPIE 完整性嵌入模型。

這意味著算法將共同判斷給定帖子中的各種元素，試圖找出圖像、標題等共同顯示的內(nèi)容，此外新算法也有助于降低審核人員在處理某些惡劣違規(guī)內(nèi)容是所遭受的心理創(chuàng)傷。
責(zé)任編輯：YYX