面對(duì)人工智能的發(fā)展 人類(lèi)未來(lái)將扮演怎樣的角色？

現(xiàn)今，“AI讓會(huì)讓你丟失工作"、"AI可以無(wú)孔不入的監(jiān)控你"等等危險(xiǎn)的言論，讓很多人都很恐懼AI的發(fā)展。最近，谷歌首席決策科學(xué)家CassieKozyrkov卻提出了：“人類(lèi)可以彌補(bǔ)人工智能的缺點(diǎn)”，并進(jìn)一步表示，相較于”機(jī)器學(xué)習(xí)“，”機(jī)器教學(xué)“才是AI發(fā)展到現(xiàn)在更需要關(guān)注的點(diǎn)。

AI剛剛興起的時(shí)候，大多數(shù)人們對(duì)這個(gè)詞匯還是感到很陌生，但隨著各類(lèi)AI機(jī)器人不斷出現(xiàn)，人工智能聲名大噪，成為了各個(gè)國(guó)家未來(lái)的發(fā)展戰(zhàn)略。科學(xué)家、工程師看到了一個(gè)嶄新領(lǐng)域的興起，商人們看到了技術(shù)帶來(lái)源源不斷的財(cái)富，而普通人則不得不面對(duì)“機(jī)器人竊取大量工作”的局面。由此“人工智能是人類(lèi)最大的生存威脅”、“我們應(yīng)該抵制人工智能”等言論甚囂塵上！人類(lèi)與人工智能究竟能否共贏共存成為了一個(gè)既敏感又現(xiàn)實(shí)的問(wèn)題。

近日，谷歌首席決策科學(xué)家CassieKozyrkov提出了：“人類(lèi)可以彌補(bǔ)人工智能的缺點(diǎn)”。過(guò)去五年,CassieKozyrkov在Google擔(dān)任過(guò)很多技術(shù)職務(wù)，但如今她要正式面對(duì)“首席決策科學(xué)家”這個(gè)有點(diǎn)奇怪的職位了。

簡(jiǎn)單來(lái)講，決策科學(xué)就是數(shù)據(jù)和行為科學(xué)的交叉點(diǎn)，涉及統(tǒng)計(jì)學(xué)、機(jī)器學(xué)習(xí)、心理學(xué)、經(jīng)濟(jì)學(xué)等學(xué)科。Kozyrkov的主要職責(zé)就是幫助Google推動(dòng)更積極的AI議程，至少也要讓人們相信AI并不像頭條新聞所說(shuō)的那么糟糕。

面對(duì)人工智能，人類(lèi)到底在焦慮些什么？

“機(jī)器人正在竊取我們的工作，”“人工智能是人類(lèi)最大的生存威脅”，類(lèi)似的宣言已經(jīng)存在了很長(zhǎng)一段時(shí)間，但在過(guò)去幾年中，這種擔(dān)憂變得更加明顯。

對(duì)話式AI助手廣泛存在于現(xiàn)實(shí)生活中，汽車(chē)、卡車(chē)幾乎能夠自動(dòng)駕駛，機(jī)器可以輕而易舉的在電腦游戲中擊敗人類(lèi)，甚至藝術(shù)創(chuàng)意的工作也受到了人工智能的沖擊。我們不斷被告知，無(wú)聊和重復(fù)的工作可能會(huì)成為過(guò)去。

身處自動(dòng)化世界，人們對(duì)未來(lái)感到焦慮和困惑是可以理解的。但是，根據(jù)Kozyrkov的說(shuō)法，人工智能僅僅是自人類(lèi)誕生以來(lái)一直努力奮斗的延伸。

在倫敦AI峰會(huì)上Kozyrkov發(fā)表講話說(shuō)：“人類(lèi)的故事是自動(dòng)化的故事。人類(lèi)發(fā)展的歷程就是關(guān)于如何將事情做得更好，從舊石器時(shí)代開(kāi)始，原始人拿起一塊石頭敲擊另一塊巖石，就是因?yàn)榭梢愿焱瓿晒ぞ?，然后利用工具進(jìn)行更好的創(chuàng)造。從古至今，人類(lèi)都是工具制造的種族，我們反對(duì)一味的埋頭苦干”。

人工智能是危險(xiǎn)的，因?yàn)樗鼙热祟?lèi)做得更好。這種的潛在威脅對(duì)Kozyrkov來(lái)說(shuō)是站不住腳的，她認(rèn)為所有的工具都比人類(lèi)徒手來(lái)做強(qiáng)得多。理發(fā)師用剪刀剪頭發(fā)，就是因?yàn)橛檬肿ゲ荒敲蠢硐?。古騰堡的印刷機(jī)生產(chǎn)文本的規(guī)?？梢赃_(dá)到了人類(lèi)無(wú)法復(fù)制的規(guī)模。

使用工具比人類(lèi)徒手做效果更好—這就是工具的意義。如果沒(méi)有工具你可以做得更好，為什么要使用這個(gè)工具？如果你擔(dān)心計(jì)算機(jī)在認(rèn)知上比你更好，那么筆和紙?jiān)谟洃洉r(shí)也比人類(lèi)更長(zhǎng)久；水桶在拿水的時(shí)候比人類(lèi)得儲(chǔ)存量更大，計(jì)算器的六位數(shù)計(jì)算遠(yuǎn)勝于大部分人類(lèi)計(jì)算。我們有理由相信，未來(lái)人工智能在某些方面也會(huì)變得更好。

當(dāng)然，許多人對(duì)人工智能和自動(dòng)化的潛在恐懼并不是說(shuō)它會(huì)比人類(lèi)做得更好。而是害怕政府、企業(yè)和任何惡意實(shí)體可以肆無(wú)忌憚地追蹤和微觀管理人類(lèi)的一舉一動(dòng)——幾乎不費(fèi)吹灰之力就可以實(shí)現(xiàn)秘密的宏偉愿景，從而給人類(lèi)蒙上反烏托邦的陰影。

其他問(wèn)題涉及像算法偏見(jiàn)，缺乏足夠的監(jiān)督以及世界末日情景等因素有關(guān)：如果某件事急劇地——無(wú)意地——出錯(cuò)了怎么辦？

人工智能該如何真正減少人類(lèi)的偏見(jiàn)？

研究人員已經(jīng)證明了面部識(shí)別系統(tǒng)的內(nèi)在偏見(jiàn)，像亞馬遜的Rekognition。最近，民主黨總統(tǒng)候選人參議員伊麗莎白·沃倫呼吁聯(lián)邦機(jī)構(gòu)解決有關(guān)算法偏差的問(wèn)題，例如美聯(lián)儲(chǔ)的放貸歧視問(wèn)題。

其實(shí)，人工智能在現(xiàn)實(shí)生活也能起到減少人類(lèi)現(xiàn)有偏見(jiàn)的作用。

最近，舊金山警方聲稱，指控人們犯罪時(shí)，它將使用人工智能來(lái)減少偏見(jiàn)，例如，通過(guò)自動(dòng)編輯警方報(bào)告中的某些信息。在招聘領(lǐng)域，由風(fēng)險(xiǎn)投資公司支持的Fetcher正在著手通過(guò)利用人工智能來(lái)幫助公司尋找人才，該公司聲稱人工智能也有助于將人類(lèi)偏見(jiàn)降至最低，F(xiàn)etcher通過(guò)搜索在線渠道自動(dòng)尋找潛在候選人，并使用關(guān)鍵字來(lái)確定個(gè)人可能擁有的、未在個(gè)人資料中列出的技能。該公司將自己定位為簡(jiǎn)單消除招聘偏見(jiàn)的平臺(tái)，因?yàn)槿绻阌?xùn)練一個(gè)系統(tǒng)遵循一套嚴(yán)格的標(biāo)準(zhǔn)，而這些標(biāo)準(zhǔn)只關(guān)注技能和經(jīng)驗(yàn)，那么性別、種族或年齡等因素就不會(huì)被考慮在內(nèi)。

在很多人工智能領(lǐng)域，AI如何擴(kuò)散系統(tǒng)歧視的擔(dān)憂是首要議程。微軟敦促美國(guó)政府監(jiān)管面部識(shí)別系統(tǒng)，研究人員致力于在不影響預(yù)測(cè)結(jié)果準(zhǔn)確性的情況下減少人工智能中的偏見(jiàn)。

人工智能展示的偏差來(lái)源于何處？

人工智能正處于相對(duì)初期階段，研究人員仍在研究如何解決算法偏差等問(wèn)題。但Kozyrkov表示，人工智能展示的偏見(jiàn)和現(xiàn)存人類(lèi)偏見(jiàn)是一樣的，人類(lèi)用來(lái)訓(xùn)練機(jī)器的數(shù)據(jù)集就像用來(lái)教育人類(lèi)的教科書(shū)一樣。數(shù)據(jù)集和教科書(shū)都有人類(lèi)作者—它們都是根據(jù)人類(lèi)的指示收集的，其中一個(gè)比另一個(gè)更容易搜索。一個(gè)可能是紙質(zhì)版，另一個(gè)是電子版，實(shí)際上它們沒(méi)什么區(qū)別。如果你給學(xué)生一本有極度偏見(jiàn)作家寫(xiě)的教科書(shū)，難道你的學(xué)生不會(huì)接受一些同樣的偏見(jiàn)嗎？

當(dāng)然，在現(xiàn)實(shí)世界中，備受好評(píng)的同行評(píng)審期刊或教科書(shū)應(yīng)該有足夠的監(jiān)督來(lái)對(duì)抗任何公然的偏見(jiàn)。如果作家、原始數(shù)據(jù)、鼓勵(lì)學(xué)生閱讀的教科書(shū)的老師都有相同的偏見(jiàn)呢？人們要花費(fèi)很長(zhǎng)的時(shí)間才能發(fā)現(xiàn)一些陷阱，但到那時(shí)阻止任何不良影響都為時(shí)已晚。因此，Kozyrkov認(rèn)為“視角的多樣性”對(duì)于確保最小的偏見(jiàn)是必不可少的。

研究人員越是關(guān)注自己的數(shù)據(jù)，思考用這些例子來(lái)表達(dá)自己的結(jié)論，就越有可能抓住那些潛在的壞案例。在人工智能中，數(shù)據(jù)的多樣性是必須的，而且需要從不同的角度來(lái)看待和思考使用這些例子會(huì)對(duì)世界產(chǎn)生怎樣的影響。

檢驗(yàn)人工智能與檢驗(yàn)學(xué)生學(xué)習(xí)的方法非常相似

人工智能算法和機(jī)器學(xué)習(xí)模型部署之前，關(guān)鍵要像學(xué)生考試一樣測(cè)試它們，確保能夠執(zhí)行設(shè)定任務(wù)的。

如果在考試中，一個(gè)學(xué)生被問(wèn)及學(xué)過(guò)的確切問(wèn)題，可能表現(xiàn)得非常好，但這極大概率要?dú)w功于好的記憶，而不是對(duì)手頭的科目有完全的了解。為了測(cè)試更廣泛的理解，要為學(xué)生提供更多的問(wèn)題，以便他們能更好的應(yīng)用所學(xué)知識(shí)。

機(jī)器學(xué)習(xí)在同一個(gè)前提下運(yùn)行——有一個(gè)被稱為“過(guò)度擬合”的建模錯(cuò)誤，即一個(gè)特定的函數(shù)與訓(xùn)練數(shù)據(jù)過(guò)于接近，就會(huì)導(dǎo)致誤報(bào)。“計(jì)算機(jī)有很好的記憶力，“Kozyrkov指出，“所以你實(shí)際測(cè)試它們的方式是你給他們真正的新東西，他們無(wú)法記住，這與你的問(wèn)題有關(guān)。如果它有效，那么它就有效?！?/p>

Kozyrkov在安全有效的人工智能四個(gè)原則和學(xué)生教學(xué)的四個(gè)基本原則之間進(jìn)行了相似的比較并表示：

明確的教學(xué)目標(biāo)—你想要教給你學(xué)生的東西。

相關(guān)和多樣化的觀點(diǎn)。

精心設(shè)計(jì)的測(cè)試。

安全網(wǎng)

安全網(wǎng)特別重要，因?yàn)楹苋菀壮霈F(xiàn)忽視“如果出現(xiàn)問(wèn)題怎么辦？”的情況。即使是最精心設(shè)計(jì)，人工智能系統(tǒng)也可能出現(xiàn)問(wèn)題。事實(shí)上，系統(tǒng)越好在某些方面就越危險(xiǎn)，就像學(xué)生一樣。

Kozyrkov表示，即使你的學(xué)生真的很好，但他們?nèi)匀粫?huì)犯錯(cuò)誤。

甚至在某些方面，“C”學(xué)生比“A +”學(xué)生更不危險(xiǎn)，因?yàn)椤癈”學(xué)生犯錯(cuò)誤的頻率較高，所以你已經(jīng)有了安全網(wǎng)。 但是“A +”犯錯(cuò)頻率較少，如果你以前從未見(jiàn)過(guò)他們犯錯(cuò)誤，你可能會(huì)認(rèn)為他們從未犯過(guò)錯(cuò)誤，那么極有可能導(dǎo)致一個(gè)災(zāi)難性的失敗。

所謂的“安全網(wǎng)”可以采取多種形式，通常涉及建立一個(gè)單獨(dú)的系統(tǒng)而不是“過(guò)度信任你的“A +”學(xué)生。

一個(gè)有趣的例子，房主配置他的智能相機(jī)和鎖定系統(tǒng)以激活它是否發(fā)現(xiàn)不熟悉的面孔。但是，它錯(cuò)誤地將房主識(shí)別為他的T恤上蝙蝠俠圖像并拒絕他進(jìn)入。在這種情況下，“安全網(wǎng)”是鎖上的PIN，房主也可以在他的移動(dòng)應(yīng)用程序中使用一個(gè)功能來(lái)覆蓋AI。

這些都引出了一個(gè)對(duì)許多人來(lái)說(shuō)顯而易又值得重復(fù)的觀點(diǎn):人工智能是其創(chuàng)造者的反映。因此，我們需要專(zhuān)注于實(shí)施系統(tǒng)和檢查，以確保那些制造機(jī)器的人(“教師”)是負(fù)責(zé)的。

目前，人們?cè)絹?lái)越認(rèn)同“機(jī)器教學(xué)”的重要性，微軟等公司最近表示，人工智能的下一個(gè)前沿領(lǐng)域?qū)⑿枰萌祟?lèi)專(zhuān)業(yè)人員的專(zhuān)業(yè)知識(shí)來(lái)培訓(xùn)機(jī)器學(xué)習(xí)系統(tǒng)——而不是專(zhuān)家對(duì)人工智能的知識(shí)或編碼能力如何。。

“現(xiàn)在是我們關(guān)注機(jī)器教學(xué)的時(shí)候了，而不僅僅是機(jī)器學(xué)習(xí)，”Kozyrkov指出。“不要讓科幻小說(shuō)的華麗辭藻分散你對(duì)人類(lèi)責(zé)任的注意力，要從一開(kāi)始就關(guān)注人類(lèi)本身。領(lǐng)導(dǎo)者設(shè)定的目標(biāo)、工程師創(chuàng)作、分析師和決策者核查數(shù)據(jù)集、統(tǒng)計(jì)學(xué)家進(jìn)行測(cè)試以及可靠性工程師構(gòu)建的安全網(wǎng)——所有這些都包含了許多人為因素?！?/p>