第三代AI要處理“可解釋性”問題

語言是人類智能的重要標志，在人類文明中的地位與作用毋庸置疑，自然語言處理，通俗地解釋就是“讓計算機學(xué)習(xí)人類語言”。清華大學(xué)新設(shè)立的中心旨在通過加強人工智能的基礎(chǔ)研究及其與人文社科學(xué)科的交叉合作，建立更強大的機器用知識庫，進而提升人工智能對語言的學(xué)習(xí)和處理的能力。

孫茂松認為，目前人工智能同社會科學(xué)和人文科學(xué)的結(jié)合有兩個主要的橋梁，一個是狹義的數(shù)據(jù)，比如說金融市場上的數(shù)據(jù)，可根據(jù)數(shù)據(jù)來預(yù)測市場行為；另一個就是語言文字形成的文本，比如新聞、消息、用戶在社交網(wǎng)絡(luò)上反映觀點和情緒的各種“短信息”等等。

基于人類語言文字這一橋梁，自2015年底起，他指導(dǎo)一個最初以兩位本科生為主體的課題小組，通過深度神經(jīng)網(wǎng)絡(luò)的方法，讓機器對全部古代詩歌進行“閱讀”并“理解”，在此基礎(chǔ)上，推出了會作詩的AI——“九歌”，使人工智能“跨界”到了文學(xué)創(chuàng)作領(lǐng)域。由于公眾的關(guān)注與參與，到目前為止“九歌”已經(jīng)產(chǎn)生了差不多400萬首詩，“從古流傳至今的詩歌總量估計達不到400萬首，如果這么想，效果也還不錯?！毙〗M目前正在研究現(xiàn)代詩的生成，以期滿足大眾越來越多樣的“作詩要求”。

社會人文學(xué)科是一個很寬廣的概念。除了文學(xué)外，今年以來人工智能研究院正在與清華大學(xué)法學(xué)院合作，在原有的法學(xué)基礎(chǔ)上更多地加入計算與人工智能的成分。法學(xué)院越來越認識到，“計算法學(xué)”是未來法學(xué)研究的一個發(fā)展趨勢。孫茂松也提到，近年來最高人民法院領(lǐng)導(dǎo)的案卷卷宗數(shù)字化、公開化是計算法學(xué)發(fā)展的一個重要基礎(chǔ)。

未來是否會有“AI法官”時，孫茂松說，“應(yīng)該會有‘人工智能輔助法官’。雖然本質(zhì)上機器的能力肯定超不過優(yōu)秀的法官，但機器確實有它的長處，比如說它可以快速閱讀大量的卷宗，人有時候會判斷有片面性、情緒上會有所波動、法官水平也會參差不齊，機器則不會。”

孫茂松指出，人工智能目前基于大數(shù)據(jù)的深層神經(jīng)網(wǎng)絡(luò)方法（也叫深度學(xué)習(xí)方法，見后）有可能為某些社會人文領(lǐng)域帶來研究范式的改變。雖然清華人工智能研究院目前剛剛開始進行外匯兌換率預(yù)測的研究，但他認為人工智能與金融、經(jīng)濟的深度融合可望帶來極具震撼力的成果，一旦深度學(xué)習(xí)方法被創(chuàng)造性地、系統(tǒng)性地應(yīng)用到這個領(lǐng)域，甚至“這幾年國際上能出一個諾貝爾經(jīng)濟學(xué)獎”。

針對金融、經(jīng)濟系統(tǒng)的高度復(fù)雜性，孫茂松認為，當(dāng)把各類相關(guān)信息都涵蓋進來，并且有高超的手段對這些信息進行“大一統(tǒng)”式的有效處理時，這個復(fù)雜系統(tǒng)的可預(yù)測性便會顯著上升。他舉了個例子，“螞蟻王國有自己的一套運作規(guī)律，但這個規(guī)律有時會變得非常脆弱，因為可能突然來一個人，啪地來一腳，便給這個王國帶來了滅頂之災(zāi)。僅僅從螞蟻的世界來看，這個突發(fā)事件是不可預(yù)測的。但如果把人的因素包含進來，細致了解這個人的秉性，比如他是否是一個有愛心的人、是否是一名佛教徒等等，他的行為的可預(yù)測性就會大大提高，螞蟻王國的不可預(yù)測性也會隨之大大降低”。

在孫茂松看來，經(jīng)典金融學(xué)或經(jīng)濟學(xué)的研究范式主要是依靠人的理性思辨和求解方程（無論是線性還是非線性方程）。但復(fù)雜且龐大的金融和經(jīng)濟系統(tǒng)里充滿了不確定性，很多現(xiàn)象難以用方程顯式地刻畫。但深度學(xué)習(xí)方法具有高度的非線性性質(zhì)，在大數(shù)據(jù)的驅(qū)動下，理論上它能隱式地模擬任何復(fù)雜的方程，更加有效地處理系統(tǒng)的不確定性。這就使得一種全新的金融學(xué)或經(jīng)濟學(xué)研究范式的產(chǎn)生成為可能。把“黑盒子”變成“灰盒子”

孫茂松的書架上擺著金融、語言、邏輯等各領(lǐng)域的書籍

“當(dāng)代人工智能教父”、2018年圖靈獎得主約書亞·本吉奧（Yoshua Bengio）認為，人工智能領(lǐng)域在近些年出現(xiàn)巨大變革要歸功于 “深度學(xué)習(xí)”（deep learning）的出現(xiàn)。他在一篇名為《深度學(xué)習(xí)：人工智能的復(fù)興》的署名文章中說，“近年來，深度學(xué)習(xí)已經(jīng)成為了驅(qū)動人工智能領(lǐng)域發(fā)展的最主要力量，各大信息技術(shù)公司在這方面共擲下了數(shù)十億美元的資金。”

本吉奧此前接受澎湃新聞（www.thepaper.cn）記者專訪時表示，現(xiàn)有的自然語言處理系統(tǒng)掌握了大量的詞匯量和語言轉(zhuǎn)換的技巧，但是卻并不理解句子的真正含義，機器“會犯一些非常愚蠢的錯誤，甚至沒有兩歲小孩的理解能力”。同時他認為，模擬人腦的神經(jīng)網(wǎng)絡(luò)以期能夠?qū)崿F(xiàn)類人工智能的機器學(xué)習(xí)技術(shù)，即神經(jīng)網(wǎng)絡(luò)技術(shù)對于新時代的意義是巨大的。

盡管意義巨大，但目前的深層神經(jīng)網(wǎng)絡(luò)系統(tǒng)存在著一個重大不足：給定一個輸入，系統(tǒng)給出相應(yīng)結(jié)果的深刻原因?qū)θ藖碚f是不透明的，從這個意義上來說，它基本上是一個“黑盒子”。這就導(dǎo)致系統(tǒng)的穩(wěn)健性會變大打折扣，系統(tǒng)的適用范圍也會縮窄。當(dāng)我們深究機器為什么犯錯時（如機器翻譯系統(tǒng)為什么把一句話翻成這樣、而不翻成那樣），機器卻無法給出解釋，“反正我就翻成這樣，你看著用吧?！?/p>

此外，深度學(xué)習(xí)最擅長處理的是關(guān)聯(lián)性：當(dāng)輸入“公雞打鳴”這個詞語時，它會自動聯(lián)想到“太陽升起來了”這句話。這體現(xiàn)了一種關(guān)聯(lián)性，但顯然前者不是導(dǎo)致后者的原因。深度學(xué)習(xí)現(xiàn)在基本上沒有因果推理能力。孫茂松說，深度學(xué)習(xí)只是在統(tǒng)計意義上“覺得”某兩個東西是相關(guān)的，但兩者之間到底有沒有邏輯關(guān)系，它卻渾然不知。

孫茂松進一步闡釋，自然語言處理研究面臨著同樣的難題，實際上，“可解釋性”是整個人工智能領(lǐng)域目前面臨的困境，也是目前的國際學(xué)術(shù)研究前沿。研究者們正在努力讓這個人工智能“黑盒子”至少變成一個“灰盒子”。孫茂松認為，在自然語言處理方面，知識庫的構(gòu)建或許是一個解決方法。以古詩詞寫作舉例：“灞橋”后接“折柳”，深度學(xué)習(xí)應(yīng)該能從詩庫中捕捉到這個知識關(guān)聯(lián)，但其它眾多知識關(guān)聯(lián)是否都能學(xué)到，就不好說了。但如果我們自覺地把跟“灞橋”相關(guān)的東西全預(yù)先列出來，如“灞水、驛站、銷魂、斷腸、長安、關(guān)中八景、李白、李商隱、孟浩然…”，建立起一個知識圖譜，那么，機器就可以根據(jù)這個知識圖譜比較自覺地去寫詩，針對性更強，寫詩過程也便具有了一定的可解釋性。

根據(jù)人工智能研究院院長張鈸院士的說法，人工智能在其發(fā)展史上已經(jīng)先后經(jīng)歷了理性主義和經(jīng)驗主義兩代。第三代人工智能應(yīng)該是這兩者的完美結(jié)合。解決可解釋性問題，是其核心研究任務(wù)之一。

因為知識天然地具有一定解釋性，知識庫就帶有一種可解釋性。

“通專雖應(yīng)兼顧，而重心所寄, 應(yīng)在通而不在?！?/strong>