人工智能也存在種族歧視嗎

2017年，一款皂液分發(fā)器走紅網(wǎng)絡(luò)：在推特用戶Chukwuemeka Afigbo上傳的視頻中，一位白人男性在分發(fā)器下方揮手，皂液正常流出；而黑皮膚的手放到分發(fā)器下時(shí)，機(jī)器卻毫無反應(yīng)。這兩個(gè)人交談著，再一次測(cè)試這臺(tái)冒犯人的、樂柏美商務(wù)用品出品的機(jī)器。一人問：“你的手怎么回事？”另一個(gè)回答說：“太黑了?！?/p>

他說的也有道理。皂液分發(fā)器通過紅外發(fā)光二極管燈泡發(fā)射不可見光，接收手的反射光啟動(dòng)機(jī)器。膚色較暗的人吸收的光多于反射的光，因此阻礙了皂液分發(fā)器的正常工作。

這則視頻在全球廣泛流傳，被分享成百上千次，也激起不少民憤；這告訴了我們一個(gè)簡(jiǎn)單的道理：不同于長(zhǎng)期以來技術(shù)推動(dòng)人類進(jìn)步的說法，技術(shù)仍然存在種族差異。

技術(shù)在娛樂應(yīng)用程序里的失敗技術(shù)應(yīng)用是一回事，但環(huán)顧四周會(huì)發(fā)現(xiàn)，生活中常用的技術(shù)出現(xiàn)種族差異是另一回事。如果你懷疑世界建立之初就只考慮到了白人，不妨看看新一輪技術(shù)熱潮是如何在早期開發(fā)過程中忽略“有色人種”的。

開發(fā)者承擔(dān)了大部分責(zé)任，同時(shí)科技初創(chuàng)公司正嘗試填補(bǔ)硅谷及其他地區(qū)“白人男性”開發(fā)者留下的空缺。到了2017年，開發(fā)人員自主研發(fā)不再是什么新鮮事，但讓技術(shù)忽略大部分全球人口，無非是個(gè)虧本買賣。有關(guān)新聞（附帶視頻）報(bào)道了一名劉姓中國(guó)學(xué)生的iPhone X面部識(shí)別功能如何無法分辨他和他的母親。技術(shù)的失誤帶來的安全隱患僅僅基于種族問題。

膚色問題在面部識(shí)別軟件中的無能表現(xiàn)得更為嚴(yán)峻：后者在遇到執(zhí)法過程中無法擺脫對(duì)黑人面孔的無意識(shí)偏見。Alexandria Ocasio-Cortez議員于五月就亞馬遜和移民和海關(guān)執(zhí)法局（ICE）對(duì)眾議院監(jiān)管委員會(huì)（House Oversight Committee）提出質(zhì)詢，她指出，“這些算法的有效程度因人而異”，并進(jìn)一步提問，它對(duì)女性、有色人種和不同性別是否有效。得到回應(yīng)均為否定時(shí)，她提出了一個(gè)尖刻的問題：這些算法對(duì)誰最有效？回答很簡(jiǎn)短：“肯定是白人男性?！?/p>

今年，也許最令人擔(dān)憂的是一份Georgia Tech的報(bào)告，該報(bào)告考察了自動(dòng)駕駛汽車問題，并分析了多種“機(jī)器視覺”系統(tǒng)識(shí)別不同膚色行人的有效程度。結(jié)果表明，比起較深膚色的人，AI系統(tǒng)更善于識(shí)別淺色皮膚的行人，成功識(shí)別白人行人的幾率比黑人高出10%。另一份近期的報(bào)告指出，F(xiàn)itbit等可穿戴心率追蹤器在有色人種身上不太靠譜，因?yàn)樗昧艘环N極易被黑色素吸收的綠光。

無數(shù)實(shí)例表明，技術(shù)設(shè)計(jì)忽視種族是當(dāng)今社會(huì)的“時(shí)興”問題。長(zhǎng)期以來，世界的發(fā)展就沒有考慮過有色人種，現(xiàn)在隨著朝AI和自動(dòng)化方向的變革，未來似乎仍沒有顧及這群人。盡管自動(dòng)化汽車和面部識(shí)別遠(yuǎn)未在全球范圍內(nèi)普及，此時(shí)此刻，人們?nèi)粘Ｉ钪衅毡槭褂玫募夹g(shù)正在他們的口袋里傳達(dá)著有關(guān)種族優(yōu)越的信息。

“iPhone里的Siri是我現(xiàn)在唯一常用的技術(shù)，我主要用它識(shí)別像‘帶我回家’之類的基礎(chǔ)句子，”Julian Mendel在Facetime上說，“但有幾次它聽到我的聲音后沒有反應(yīng)或壓根沒聽懂我在說什么?！?/p>

憑借自己在牙買加長(zhǎng)大、近期移居美國(guó)的經(jīng)歷，用戶Julian Mendel正用（英國(guó)人聽來）濃重的牙買加口音外加美式鼻音解釋Siri的用戶體驗(yàn)?！拔矣X得我的確在用一個(gè)不同的聲音和Siri說話，因?yàn)樗^對(duì)聽不懂方言。我不認(rèn)為牙買加那邊有這種東西，所以我堅(jiān)信這種技術(shù)還有很長(zhǎng)一段路要走。對(duì)很多人而言，它幾乎沒什么作用。很多人能夠支付技術(shù)的費(fèi)用，卻沒辦法使用它，因?yàn)槠匠４蠹視?huì)說方言?！?/p>

有色人種為了被人理解而采用更清晰（意作：更接近白人）的語音屢見不鮮，但讓一些人為新技術(shù)而順應(yīng)白人的語音習(xí)慣至少可以說是令人沮喪的。畢竟，根據(jù)口音縮小市場(chǎng)的技術(shù)能有多有效呢？

Mendel不是唯一受這類問題困擾的人。我和帶有濃重的印度、韓國(guó)和西班牙口音的人交談過，他們都表示遇到過類似情況。何況還有其他沒有說到的語言。所以，有沒有方法解決這個(gè)讓一部分全球人口無法使用技術(shù)的問題嗎？

在多倫多的Collision（北美最大的技術(shù)會(huì)議）會(huì)場(chǎng)上，Mozilla的創(chuàng)意總監(jiān)Katharina Borchert正面對(duì)200名聽眾。她展示的主題是：用語音數(shù)據(jù)彌補(bǔ)市場(chǎng)的空白。她穿著時(shí)髦，有一頭栗色的頭發(fā)，戴眼鏡，說著一口帶德語鼻音的口音，Borchert正在解釋技術(shù)公司代表的“白皮膚的陳舊男性”壟斷勢(shì)力如何怠慢被她稱為來自“新興市場(chǎng)”的人群。她強(qiáng)調(diào)了很多人已經(jīng)知道的事實(shí)：語音識(shí)別不能滿足有口音或非英語母語者的需求（她指出，即使像中文普通話一樣的通用語言也以男性語音為主）。她倡導(dǎo)Common Voice，一個(gè)意在通過收集個(gè)體聲音作為數(shù)據(jù)集，促進(jìn)A.I.語音多樣化的項(xiàng)目。點(diǎn)擊Common Voice，錄制諸如“所有房子都由木材建成”，或“帶有種族成見的各種民族恐慌和偏見”等句子貢獻(xiàn)語音。

“我們意識(shí)到，數(shù)據(jù)生態(tài)系統(tǒng)十分閉塞，因?yàn)榭偸悄敲磶讉€(gè)大公司擁有訓(xùn)練數(shù)據(jù)集，”Borchert結(jié)束演講后在茶歇時(shí)間說，“蘋果、亞馬遜、谷歌、Nuance和微軟，你可以利用它們的數(shù)據(jù)集，也可以利用亞馬遜Alexa的技能，但這些對(duì)于像Mozilla這樣有使命感、重視開放式網(wǎng)絡(luò)、立志創(chuàng)造充滿機(jī)遇的生態(tài)系統(tǒng)的公司來說，規(guī)模就遠(yuǎn)遠(yuǎn)不夠?！?/p>

“我們從幾年前開始開發(fā)語音識(shí)別的公司那里得知，他們通常將公共電臺(tái)的聲音收錄到數(shù)據(jù)集中，這樣就不必太擔(dān)心版權(quán)問題。這些音頻大多來自說母語、接受過發(fā)聲訓(xùn)練的男性，所以最后得到的語音是清晰的，因?yàn)閿?shù)據(jù)集里大部分聲音都如此。自然而然會(huì)導(dǎo)致不公正的結(jié)果，因?yàn)閿?shù)據(jù)就那些。收集的女聲不多，更沒有夸張口音。這就是為什么早期版本在識(shí)別女性聲音方面有很大的問題，因?yàn)榕砸粽{(diào)與男性的不同。所以，講話人語音越多樣，數(shù)據(jù)從長(zhǎng)遠(yuǎn)來講質(zhì)量也越好。”

這種方法存在一些問題——數(shù)據(jù)集的大小取決于講話人參與的積極性，人們還會(huì)擔(dān)心收集數(shù)據(jù)的用途。Borchert目前正與從柏林到盧旺達(dá)大大小小的社區(qū)合作；在東非地區(qū)，人們自然會(huì)懷疑白人“創(chuàng)意執(zhí)行官”為什么要找東非原住民錄制聲音。“當(dāng)然，找到愿意說英語的人比找到愿意說盧旺達(dá)語的人容易很多，因?yàn)檎莆蘸笳叩娜藬?shù)更少?！彼忉尩??！八杂⒄Z的數(shù)據(jù)容量比其他語言更容易擴(kuò)大，不過我認(rèn)為具體實(shí)施還要看社區(qū)積極性和參與度?！?/p>

Borchert也認(rèn)識(shí)到，人們?cè)诓恢肋@些數(shù)據(jù)的最終去向時(shí)，是不愿意提供聲音信息的。（Borchert保證，其條款是數(shù)據(jù)不被非法使用的保障，所有語音數(shù)據(jù)均會(huì)匿名，無法分辨其中的個(gè)人信息）

“我們不想擁有所有數(shù)據(jù)”她強(qiáng)調(diào)，“我們不想構(gòu)建所有語音系統(tǒng)。我希望我們能引發(fā)下一波語音平臺(tái)創(chuàng)新的熱潮。我母親的英語有濃重的德語口音，她能使用德語版本的Amazon Echo，但她用不了英語版本，也不能用Siri……我的父親不會(huì)用英語和Siri對(duì)話。

她辯稱，收集到的數(shù)據(jù)不僅可以用于養(yǎng)老，理想條件下，還可以用于移動(dòng)醫(yī)療，無需打字就可以問一些簡(jiǎn)單的問題。顯然這樣的項(xiàng)目除了調(diào)節(jié)語音的平衡，還能成為政治活動(dòng)的工具。Borchert回憶了近期發(fā)生的一件事：政治活動(dòng)家和高校人員共同將加泰羅尼亞語和威爾士語的語音引入項(xiàng)目，當(dāng)時(shí)正為這兩種語言即將失傳而擔(dān)憂的政治氛圍中。

Common Voice的進(jìn)程漫長(zhǎng)而艱辛。但它提供了很好的企業(yè)方案，有望借助大家的聲音反抗現(xiàn)有種族格局，大大改變?nèi)蚨鄶?shù)老齡化人口使用技術(shù)的方式。但見證真正的改變發(fā)生還需要對(duì)企業(yè)的部署結(jié)構(gòu)進(jìn)行根本性的改革，必須用現(xiàn)在的問題重新設(shè)定未來。在未來世界里，人們的技術(shù)將源自日常生活。

目前，我們只做到了第一步，即認(rèn)識(shí)到技術(shù)的種族差異。這或許聽起來難以接受，但如果你是正在爭(zhēng)取技術(shù)獲取權(quán)，希望在家庭日常生活中使用AI的有色人種來說，你比世界上的其他人更難找到方向——假裝白人的語音，把白色餐巾偷偷放在皂液分發(fā)器下，失去養(yǎng)老的機(jī)會(huì)，承擔(dān)比白人行人更高的風(fēng)險(xiǎn)，可能是你未來短期內(nèi)需要面對(duì)的境況。

來源：搜狐