人工智能距離「自我覺醒」還有多遠?

在 2019 年 5 月 20 日由IBM 中國聯(lián)合主辦的「HBRC 年度對話 X IBM 思想之夜」上，來自不同領域的五位大咖就「人工智能是否會改寫商業(yè)規(guī)則」展開了精彩論辯。

其中就人工智能，特別是由 IBM Project Debater 在與人類選手論辯過程中是否存在「動機」的表現(xiàn)引發(fā)了持久的思考。

動機，是許多科幻小說與電影中人類與人工智能間矛盾的爆發(fā)點。在影片《流浪地球》中，吳京所扮演的航天員劉培強一度認為領航者號空間站的核心人工智能主機「MOSS」叛逃，控制空間站并拋棄地球。

但在決定地球生死關頭的時刻，MOSS 被證明并沒有叛逃而是在遵循聯(lián)合政府的決議，劉培強依然堅持并說服了聯(lián)合政府的官員，拒絕了 MOSS 所給出的建議，并舍身取義協(xié)助地球上的救援部隊一起點燃了木星從而拯救了人類的命運。

當人工智能有了所謂的「動機」后，通常會作為從初級邁向高級階段的標志。

而在今天的現(xiàn)實世界中，人工智能是否仍處于我們認知上的初級階段？

1956 年，以麥卡賽、明斯基、羅切斯特和申農(nóng)等為代表的科學家共同討論了「如何用機器模擬人的智能」。

在首次提出人工智能的概念后，其在隨后的 60 多年間一直被全球各界通過各種方式擴展著認知程度。而在科技界，早在 1962 年的西雅圖世界博覽會上，IBM 就已經(jīng)發(fā)明了世界第一套人工語音識別系統(tǒng)「鞋盒子」（ShoeBox），其能識別 16 個單詞。

而到了 1997 年，IBM 深藍（DeepBlue）系統(tǒng)在與國際象棋世界冠軍卡斯帕羅夫的第二次對決中扭轉了前一年的結果，第一次擊敗了人類頂尖國際象棋選手；

2011 年，IBM 沃森（Watson）系統(tǒng)則在綜藝節(jié)目《危險邊緣》中擊敗了該節(jié)目最高獎金得主布拉德·魯特爾和連勝紀錄保持者肯·詹寧斯兩位頂尖人類選手；

2016 年至 2017 年，谷歌阿爾法圍棋（AlphaGo）則先后擊敗了圍棋世界冠軍李世石與柯潔。

這些事件表明，在既定規(guī)則下，哪怕是圍棋這類最為復雜的智力競賽，人工智能與人類相比已經(jīng)占據(jù)了上風。人類不禁再次認真思考，我們是否能從人工智能身上獲得進一步的提升與幫助？

IBM 在 2012 年開始著手進行 Project Debater 的研發(fā)工作，其初衷是為了通過中立的辯論幫助人們拓展思路，協(xié)助人們做出更好的決策。

與有著固定規(guī)則的比賽不同，辯論賽有著廣泛的議題，其通常具有很大的開放性與復雜度，并沒有相應的規(guī)則去區(qū)分正確錯誤與否。這點與現(xiàn)實世界非常相似，現(xiàn)實世界之所以復雜，正是因為大多數(shù)問題不是簡單的非黑即白。

IBM 認為相比起有著明確規(guī)則的游戲與棋類比賽，AI 辯手項目是讓人工智能進一步學習認知人類世界的適合方式。

自然語言作為人類區(qū)別于其他生命體最重要的特征之一，一直以來都是人工智能領域的突破難題。而如何讓人真正意義上與AI進行深入互動，勢必要找到人跟機器的溝通方法。

而通過 Project Debater 與人類辯手的數(shù)次交鋒，Project Debater 證明實現(xiàn)了人工智能領域的三大突破：

數(shù)據(jù)驅動的演講稿的撰寫和表達：其能夠通過一個有爭議主題的簡短描述，撰寫出結構良好的演講內(nèi)容，并清晰且有針對性地表達出來，甚至還會適時地展現(xiàn)幽默風趣。

聽力理解：能夠識別一長段連續(xù)人類自然語言中的重要概念和觀點。

模擬人類困境：通過獨特的知識表達方式來模擬人類爭議和困境，使系統(tǒng)能夠根據(jù)需要提出有原則的論點。

IBM 以色列海法研究院 AI 科學家 Aya Soffer 博士則解讀了辯論在算法方面所面臨的重大挑戰(zhàn)：

人類辯手在長達四分鐘的論述中，其語速與情感都存在著不同的變化，同時還帶有道德性以及倫理性的陳述，Project Debater 在聽力理解過程中要能夠提煉其話題主旨。

這與我們通常所熟知的個人語音識別完全不同，其不僅要能實現(xiàn)對關鍵詞的理解，更要理解相關關鍵詞所構成的語意主旨。

在 Project Debater 與人類辯手的第一次交鋒中，現(xiàn)場觀眾普遍認為人類辯手的表達更好，而 Debater 傳遞的信息量則優(yōu)于人類。

而在辯論中 Project Debater 有句話則讓人為之側目：

I can't say it makes my blood boil, because I have no blood. But it seems some people naturally suspect technology because it's new.

如果我有血液，它將讓我的血液沸騰。有些人似乎對于新技術有著與生俱來的懷疑，只是因為它是新的。

這句話讓人不禁聯(lián)想到當天辯論環(huán)節(jié)中所提到的「動機」，AI 是否也會在論辯過程中產(chǎn)生情緒波動？用更主動的方式去尋求改變與突破？

而聯(lián)系到 Aya Soffer 博士對于 Project debater 技術突破的介紹，我們可以確認，這只是 Project Debater 以人類方式思考問題而做出的話術辯論。

人工智能機器目前遠沒有達到可以自我編程、自主行事的高級階段。我們需要在其發(fā)展過程中，不斷為其輸送符合人類倫理道德的數(shù)據(jù)內(nèi)容；設置相應的規(guī)則與監(jiān)管對于人工智能技術發(fā)展非常必要。

論辯引發(fā)的思考

我們一直以來都講求用科技來為科技保駕護航，也就是說我們需要考慮用科技的手段來保證人工智能和其它更高級的技術向善的方向去發(fā)展，不會破壞我們道德的美好家園。

我們相信，人工智能在未來將成為人類更快升級自身認知的手段，幫助人們找到更好的社會位置，去為整個社會貢獻更多的力量。

IBM 認為，我們需要把人工智能發(fā)展到更高的階段，讓人工智能理解更復雜的世界，才能讓人工智能幫助我們做更多的事情。

所謂的人工智能更高階段，既讓機器以更接近人類的思維模式去主動理解挖掘和推理，以更多模態(tài)的方式去認知我們的世界。

就像以前學飛行器一樣，人類的夢想是像鳥一樣在天上飛，實際上真正飛機發(fā)明出來跟鳥完全不同，應用極大廣泛，甚至在此基礎上空間技術幫助人類走出了地球，想象空間足夠之大。

另外一個緯度是要小心求證，不斷用小步快走的方式，不積跬步，何以之千里。

回到人工智能本身，哲學家康德老先生有一句名言：「世界上有兩樣東西，讓我想得越多、越久、越深感敬畏，一是頭頂上的璀璨星空，二是我們心中的道德準則。」

這一場關于《人工智能是否會改寫商業(yè)規(guī)則》的辯論并沒有分出高下，但是在長達一個多小時的辯論過程中，我們都學習并去試圖理解論辯人之間不同的觀點。

辯論本身不是源于沖突或是競爭，而是源于更有建設性的討論。它豐富了決策制定的過程，幫助人們權衡新想法、新理念的利弊。

辯論不只是為了說服他人，也是為了理解和學習彼此的觀點，做出更加無偏見的決策。

萊德兄弟早在 1903 年 12 月 27 日所放飛的那架飛機，也不過飛行了 59 秒 260 米，但是今天所有的飛機，哪一架不是它的子孫。

1962 年 IBM 展示的鞋盒子系統(tǒng)在今天看來就如同嬰兒玩具，但卻開啟了自然語言識別這一人工智能大門的縫隙。我們需要對人工智能多一點耐心，讓它有更多的時間來了解認知我們的世界。