AI陷入沼澤，算法是潛在偏見(jiàn)的最后解決方案？

人工智能本來(lái)并不存在偏見(jiàn)，它不會(huì)因?yàn)闊o(wú)法通過(guò)邏輯來(lái)解釋的理由而“想”某些東西是真的或假的。不幸的是，從創(chuàng)建算法到解釋數(shù)據(jù)，機(jī)器學(xué)習(xí)中存在著人類的偏見(jiàn)，并且直到現(xiàn)在，幾乎沒(méi)有人試圖解決這個(gè)嚴(yán)重的問(wèn)題。

本周二，外媒表示，由谷歌前首席技術(shù)官Varun Kacholia和Facebook前搜索引擎工程師Ashutosh Garg一起創(chuàng)立的AI公司，近日完成了2400萬(wàn)美元的融資，投資方為L(zhǎng)ightspeed Ventures和Foundation Capital。

這是一家旨在通過(guò)公開(kāi)收集世界各地的勞動(dòng)力的信息，解決雇傭、求職和晉升的信息鴻溝與招聘歧視問(wèn)題的初創(chuàng)公司，依托于自主研發(fā)的軟件收集處理招聘職位和應(yīng)聘者的個(gè)人信息，人工智能系統(tǒng)的處理減輕了信息不對(duì)稱的問(wèn)題，匹配率比傳統(tǒng)招聘的提高了八倍，同時(shí)還節(jié)約了90%的篩選成本。

將大數(shù)據(jù)和算法自動(dòng)化決策應(yīng)用于勞動(dòng)力的篩選上無(wú)可厚非，龐大的數(shù)據(jù)基礎(chǔ)也可以提高決策的效率。但算法的結(jié)果一定沒(méi)有偏差嗎？對(duì)此，Gary表示：“人們?cè)谡衅高^(guò)程中也存在偏見(jiàn)，這是因?yàn)閭€(gè)體獲取的信息是有限的。而數(shù)據(jù)算法為招聘人員提供了充足的信息和洞見(jiàn)，彌補(bǔ)了招聘人員可能因不了解某些技能或公司而產(chǎn)生的誤差，從而大幅增加合格候選人的數(shù)量?！?/p>

按照該公司的說(shuō)法，產(chǎn)品的篩選機(jī)制將消除任何潛在的人類偏見(jiàn)，使其完成符合平等就業(yè)機(jī)會(huì)委員會(huì)的規(guī)定，年齡、性別、種族、宗教、殘疾等都不會(huì)成為算法的參考標(biāo)準(zhǔn)。消除人們固有的成見(jiàn)，使人事決策變得不那么“私人化”固然有可取之處，但前提是決策系統(tǒng)本身不受這些偏見(jiàn)的影響。對(duì)算法的監(jiān)督和修正，必然成為算法運(yùn)行的重中之重。

其實(shí)，對(duì)于人工智能的偏見(jiàn)問(wèn)題，在2017年的時(shí)候，一篇來(lái)自MIT Technology Review的文章就曾針對(duì)這一問(wèn)題發(fā)表過(guò)相關(guān)評(píng)論。

“在機(jī)器學(xué)習(xí)和人工智能發(fā)展的關(guān)鍵時(shí)刻，算法偏見(jiàn)正逐漸成為一個(gè)重大的社會(huì)問(wèn)題。如果算法中潛在的偏見(jiàn)導(dǎo)致很重要的決策不被承認(rèn)、不受控制，這可能會(huì)造成更嚴(yán)重的負(fù)面后果，尤其是對(duì)較貧窮的社區(qū)和少數(shù)群體。另外，最終的抗議可能會(huì)阻礙一項(xiàng)極其有用的技術(shù)的進(jìn)步?！?/p>

而算法專家凱文·斯拉文（Kevin Slavin）也曾在TED演講中表示，算法“提煉自這個(gè)世界，來(lái)源于這個(gè)世界”，而現(xiàn)在則“開(kāi)始塑造這個(gè)世界”。在算法“塑造世界”的時(shí)代，我們應(yīng)該思考的是：該如何突破算法的瓶頸，賦予AI正向的價(jià)值。

1.算法其實(shí)并不客觀

在我們的認(rèn)知里，算法最大的優(yōu)勢(shì)是能夠根據(jù)用戶的“數(shù)字自我”實(shí)現(xiàn)智能化、精準(zhǔn)化推薦。換句話說(shuō)，算法是人們?cè)诒姸嗟男畔⒅袑ふ易约核璨牧系目焖偻ǖ?，這個(gè)過(guò)程的實(shí)現(xiàn)也是基于人們對(duì)算法的信任，即它具有“客觀性”。

不過(guò)，人們都忘了一點(diǎn)，AI算法及其決策程序是由開(kāi)發(fā)者塑造的。開(kāi)發(fā)者寫(xiě)入的代碼，使用的訓(xùn)練數(shù)據(jù)以及對(duì)算法進(jìn)行應(yīng)力測(cè)試的過(guò)程，都會(huì)影響算法之后的選擇。這就意味著開(kāi)發(fā)者的價(jià)值觀、偏見(jiàn)和人類缺陷都會(huì)反映在軟件上。

就像Facebook一直過(guò)不去的“劍橋分析丑聞”事件，利用先進(jìn)的計(jì)算技術(shù)或者AI技術(shù)，試圖通過(guò)人們的隱私數(shù)據(jù)來(lái)操縱選舉，其實(shí)質(zhì)，就是基本數(shù)據(jù)倫理的問(wèn)題。每個(gè)公司都有屬于自己的一套算法，因?yàn)樗麄兌加胁煌哪康暮蛢r(jià)值觀。獲取信息時(shí)，我們覺(jué)得自己有權(quán)利去做選擇，但實(shí)際上，所有的選項(xiàng)都是算法給出的既定選項(xiàng)。這么看來(lái)，算法并不客觀。

2.在不客觀中學(xué)會(huì)自救

對(duì)算法的質(zhì)疑從其誕生起就一直存在，這種質(zhì)疑反映出了人類的科學(xué)理性。在對(duì)算法的設(shè)計(jì)提出繼續(xù)完善的同時(shí)，學(xué)會(huì)自救也是必要的，換句話說(shuō)我們要學(xué)會(huì)自我保護(hù)。

就整體情況而言，算法的最大問(wèn)題，在于其不透明性。對(duì)于這個(gè)復(fù)雜的領(lǐng)域，專業(yè)的技術(shù)人員至今也未能全部摸清楚，搞明白，更不用說(shuō)普通人了。所以，在不確定其設(shè)計(jì)理念或者運(yùn)行邏輯的情況下，我們要做的是明確“算法并不客觀”的理念，時(shí)刻對(duì)其限制表示警惕。

或許，這個(gè)時(shí)候，較為激進(jìn)的思維模式更受歡迎，我們要學(xué)會(huì)提問(wèn)，從提問(wèn)中了解算法發(fā)生的作用以及其最初的設(shè)計(jì)目的。比如，用傳統(tǒng)網(wǎng)頁(yè)方式瀏覽新聞，盡量不依靠智能搜索，雖然不一定能成功，但是還是要學(xué)著用自己的邏輯對(duì)抗算法可能帶來(lái)的信息窄化，從而不被算法限制。

3.如何減少人工智能的偏見(jiàn)

至于如何減少人工智能的偏見(jiàn)，微軟的研究員表示，最好的方式是從算法訓(xùn)練的數(shù)據(jù)開(kāi)始審查，這是一種有效的方式。

數(shù)據(jù)分布本身有一定的偏見(jiàn)性。還是以美國(guó)大選為例，開(kāi)發(fā)者手中的美國(guó)公民數(shù)據(jù)分布并不均衡，本地居民的數(shù)據(jù)多于移民者，富人多于窮人，這都是可能出現(xiàn)的情況。而數(shù)據(jù)的不均衡可能會(huì)使AI對(duì)社會(huì)的組成得出錯(cuò)誤的結(jié)論，比如僅僅通過(guò)機(jī)器學(xué)習(xí)算法分析，就得出“大多數(shù)美國(guó)人都是富有的白人”這個(gè)結(jié)論。

同樣的，也有研究表明，用于執(zhí)法部門的AI 在檢測(cè)新聞中出現(xiàn)的罪犯照片時(shí)，結(jié)果會(huì)偏向黑人和拉丁美洲裔居民。此外，訓(xùn)練數(shù)據(jù)中存在的偏見(jiàn)還有很多其他形式，只不過(guò)這些提到的更多一些。但是訓(xùn)練數(shù)據(jù)只是審查方式的一種，通過(guò)“應(yīng)力測(cè)驗(yàn)”找出人類存在的偏見(jiàn)也同樣重要。

其實(shí)要讓AI變得沒(méi)有偏見(jiàn)，我們就要勇于去揭開(kāi)算法的“黑箱”?？焓諧EO宿華曾說(shuō)，如果沒(méi)有很好的對(duì)社會(huì)的認(rèn)知、對(duì)人文的思考，僅靠技術(shù)本身會(huì)很容易走偏，要用哲學(xué)的智慧將算法、技術(shù)力量放大，從而避免表達(dá)幸福感的種種障礙?，F(xiàn)在，我們要做的就是盡最大的努力去避免這些事情的發(fā)生。