李飛飛最新訪談：“AI能讓我愛上觀眾中的某個人嗎？”

是的，最近這些年，無人機可以說是爆發(fā)式發(fā)展。以前，它僅用于神秘的軍事用途。如今，卻在我們的日常生活中見怪不怪。

人工智能對人類會產(chǎn)生什么影響，一直是值得討論的話題，它會更好地幫助人類，還是攻擊人類？本周，由斯坦福倫理與社會中心、斯坦福以人為中心的人工智能研究所和斯坦福人文中心舉辦了一場關(guān)于“人工智能”人工智能的活動，人工智能領(lǐng)域的先驅(qū)之一——李飛飛參與其中，以下是活動討論內(nèi)容，雷鋒網(wǎng)全文編譯如下。

“用一種以人為中心的方式，重新構(gòu)建人工智能和技術(shù)的教育、研究和對話”

主持人：謝謝斯坦福大學(xué)邀請我們來到這里。我希望這次談話分為三個部分：首先，說明我們現(xiàn)在所處的位置；然后談?wù)勎覀儸F(xiàn)在必須做出的一些選擇；最后，給大廳里所有的人提一些建議。飛飛，你有博士學(xué)位和計算機科學(xué)學(xué)位，還是斯坦福大學(xué)的教授，你認(rèn)為生物知識乘以計算能力，乘以數(shù)據(jù)等于入侵人類的能力嗎？

李飛飛：作為一名工程師和科學(xué)家，我覺得我們現(xiàn)在有一場危機必須解決。當(dāng)提到人工智能危機的時候，我坐在那里思考，這是一個我熱愛的領(lǐng)域，我對這個領(lǐng)域充滿熱情，并且研究了20年，這是一個年輕的科學(xué)家成為人工智能博士的科學(xué)好奇心。但20年后發(fā)生了什么，人工智能變成了一場危機？事實上，它講的是人工智能的演變，這讓我和斯坦福大學(xué)的同事們有了今天以人為中心的人工智能的位置，這是一項革命性的技術(shù)。這是一項新興技術(shù)。與物理、化學(xué)、生物學(xué)相比，人工智能仍是一門新興科學(xué)，但憑借數(shù)據(jù)、計算的能力，以及人工智能正在產(chǎn)生的各種影響，正如你所說，人工智能正以廣泛而深刻的方式影響著人類生活和商業(yè)。針對人類面臨的這些問題和危機，我認(rèn)為斯坦福大學(xué)正在努力提出的解決方案之一，是我們能否用一種以人為中心的方式，重新構(gòu)建人工智能和技術(shù)的教育、研究和對話？我們今天不一定要找到一個解決方案，但我們能讓人道主義者、哲學(xué)家、歷史學(xué)家、政治學(xué)家、經(jīng)濟學(xué)家、倫理學(xué)家、法律學(xué)者、神經(jīng)學(xué)家、心理學(xué)家以及更多的其他學(xué)科的在下個階段進入研究和發(fā)展人工智能。

主持人：別那么肯定我們今天不會得到答案。還有72分鐘，讓我們試一試。人們說人工智能有很多危機，對吧？他們說人工智能正變得有意識，這意味著什么？他們談?wù)撝ぷ魈鎿Q，談?wù)撝?。但這是思考人工智能的人應(yīng)該關(guān)注的具體問題嗎？

李飛飛：當(dāng)然。人類從火開始創(chuàng)造的任何技術(shù)都是一把雙刃劍。人工智能可以改善生活、工作和社會，但它也會帶來風(fēng)險。你知道，我每天醒來都會擔(dān)心人工智能的多樣性和包容性問題。我們擔(dān)心公平或者缺乏公平，隱私，勞動力市場。因此，我們絕對需要關(guān)注，也正因為如此，我們需要擴大研究，發(fā)展政策以及人工智能的對話，進入人類的房間，進入社會問題，而不僅僅是代碼和產(chǎn)品。所以我完全同意你的觀點，現(xiàn)在是開啟對話的時刻，開啟對這些問題的研究。

人工智能的誕生是人工智能科學(xué)家與生物學(xué)家，尤其是神經(jīng)科學(xué)家的對話。人工智能的誕生很大程度上受到大腦活動的啟發(fā)。快進到60年后的今天，今天的人工智能正在醫(yī)療保健領(lǐng)域取得巨大進步。我們從生理和病理中收集了很多數(shù)據(jù)，并利用機器學(xué)習(xí)來幫助我們。

“AI能讓我愛上觀眾中的某個人嗎？”

主持人：讓我們來關(guān)注一下攻擊大腦是什么意思?，F(xiàn)在，某種程度上我的大腦被黑了，對吧？這個設(shè)備有一個吸引人的地方，它想讓我不斷地檢查它，就像我的大腦被黑客入侵了一樣。你的沒有，因為你每天冥想兩個小時，但我的有，可能大多數(shù)人都有。但是未來的大腦黑客到底會是什么樣子？飛飛，在反烏托邦A(yù)，自由民主的反烏托邦，是否存在人類特有的不能被入侵的東西？

李飛飛：當(dāng)你在兩分鐘前問我這個問題時，我首先想到的是愛。愛可以被入侵嗎？但這兩個反烏托邦，我沒有答案。但我想繼續(xù)說的是，這正是為什么現(xiàn)在是我們需要尋求解決方案的時刻。正因為如此，我們現(xiàn)在認(rèn)為，人工智能的新篇章需要由人文主義者、社會科學(xué)家、商界領(lǐng)袖、公民社會、政府等各方的共同努力來書寫，才能坐到同一張桌子上，展開多邊合作對話。我認(rèn)為，你們確實凸顯了這場潛在危機的緊迫性、重要性和規(guī)模。但我認(rèn)為，面對這種情況，我們需要采取行動。

主持人：你認(rèn)為這個裝置在未來的某一天會比現(xiàn)在強大得多，它能讓我愛上觀眾中的某個人嗎？

李飛飛：這就是我的研究領(lǐng)域，我想說兩點意見，就個人而言，我們在談話的這一部分做了兩個非常重要的假設(shè)。其一，人工智能是如此的無所不能，它已經(jīng)達到了一種狀態(tài)，超越了對任何物理現(xiàn)象的預(yù)測，它達到了意識層面，甚至達到了愛的極限。我十分確定我們認(rèn)識到我們離那個非常、非常、非常遠。這項技術(shù)還處于萌芽階段。我對今天的人工智能的部分擔(dān)憂是對其能力的過度炒作。所以我并不是說這不是一個有效的問題。但我認(rèn)為這部分對話是建立在這項技術(shù)已經(jīng)變得十分強大的假設(shè)之上的，而我甚至不知道我們離那個時代還有多少年。第二個相關(guān)的假設(shè)是，我覺得我們的談話是基于這樣的假設(shè)，即我們談?wù)摰氖澜缁蚴澜绲臓顟B(tài)是只有強大的人工智能存在，或者只有一小群制造了強大的人工智能并打算攻擊人類的人的存在。但事實上，我們?nèi)祟惿鐣侨绱藦?fù)雜，我們有很多人，對吧？我的意思是，人類在其歷史上見證過很多項技術(shù)，如果我們把它單獨地放在一個糟糕的玩家手中，沒有任何管理，跨國合作，規(guī)則，法律，道德準(zhǔn)則，技術(shù)也許不是攻擊人類，而是以巨大的方式摧毀人類或傷害人類。這已經(jīng)發(fā)生了，但是從歷史的觀點來看，我們的社會大體上正在走向更加文明和受控。因此，我認(rèn)為重要的是要看到更大的社會，并把其他參與者和人們帶到這個對話中來。所以我們不會說只有全能的人工智能決定把一切都破壞到最后。這讓我想到了你的話題，除了在你談?wù)摰哪莻€層次上攻擊人類，還有一些非常緊迫的問題：多樣性、隱私、勞工、法律變化，國際地緣政治。我認(rèn)為現(xiàn)在解決這些問題非常關(guān)鍵。

以人為本的人工智能

主持人：我喜歡和人工智能研究人員交談，因為在五年前，所有的人工智能研究人員都說它比你想象的要強大得多?，F(xiàn)在他們說，它沒有你想象的那么強大。好的，我來問一下——

李飛飛：這是因為五年前，你不知道人工智能是什么，現(xiàn)在你推算出太多了。

主持人：我并不是說那是錯誤的。我只是說事情就是這樣。讓我們談?wù)勎覀兘裉炷茏鲂┦裁?，?dāng)我們思考人工智能的風(fēng)險和人工智能的好處時，告訴我們，你認(rèn)為我們應(yīng)該用人工智能思考的最重要的事情是什么。

李飛飛：我們今天可以做很多事情。我想再談?wù)勗谒固垢Ｋ龅呐?，因為我認(rèn)為這是一個我們相信我們可以做很多努力的良好代表。在以人為本的人工智能中，這是一個整體的主題，我們認(rèn)為人工智能的下一章應(yīng)該以人為本，我們相信三大原則。其中一個原則是投資于下一代人工智能技術(shù)，這種技術(shù)更多地反映了我們想要的那種人類智能。我剛才在想您關(guān)于數(shù)據(jù)依賴的評論，以及數(shù)據(jù)的政策和管理應(yīng)該如何出現(xiàn)以規(guī)范和治理人工智能的影響。我們應(yīng)該開發(fā)能夠解釋人工智能的技術(shù)，我們稱之為可解釋的人工智能，或者人工智能可解釋性研究；我們應(yīng)該把重點放在對人類智能有更微妙的理解的技術(shù)上。我們應(yīng)該投資開發(fā)不那么依賴數(shù)據(jù)的人工智能技術(shù)，這將考慮到直覺、知識、創(chuàng)造力和其他形式的人類智能。所以人類智能激發(fā)的人工智能是我們的原則之一。

第二個原則是，再次歡迎人工智能的多學(xué)科研究。與經(jīng)濟學(xué)、倫理學(xué)、法學(xué)、哲學(xué)、歷史學(xué)、認(rèn)知科學(xué)等學(xué)科交叉。因為在社會、人類、人類學(xué)和倫理影響方面，我們需要了解的還有很多。作為技術(shù)人員，我們不可能單獨做到這一點。我們中的一些人甚至不應(yīng)該這樣做。倫理學(xué)家和哲學(xué)家應(yīng)該參與到這些問題中來，并與我們合作。這是第二個原則。在這方面，我們與政策制定者合作，召集多邊利益相關(guān)者的對話。

然后是第三點，也是最后一點但并非最不重要的一點，尼克，你在對話一開始就說過，我們需要促進這項技術(shù)的人性化、合作性和辯論性方面。你說得有道理。即使在那里，它也可能變得具有操控性。但我們需要從這種機警感、理解開始，但仍然要促進這項技術(shù)的善意的應(yīng)用和設(shè)計。至少，這是斯坦福大學(xué)以人為本的人工智能研究所所基于的三條原則。我感到非常自豪，在這個研究所成立的短短幾個月里，這個校園里有200多名教師參與了這種研究、對話、學(xué)習(xí)和教育，而且這個數(shù)字還在增長。

主持人：在這三個原則中，讓我們開始深入探討。我們來看第一個，可解釋性，這是人工智能中一個非常有趣的辯論。有些實踐者說你應(yīng)該有算法來解釋他們做了什么和他們做了什么選擇。聽起來非常合理。但你是怎么做到的呢？我做各種各樣的決定，但我不能完全解釋清楚。比如，我為什么要雇傭這個人，而不是那個人？我可以講一個我為什么這么做的故事。但我不確定。如果我們對自己不夠了解，不能總是如實、全面地解釋我們所做的事情，我們怎么能指望一臺使用人工智能的電腦做到這一點呢？如果我們在西方要求這樣做，那么世界上其他地方就不會要求誰能夠更快地采取行動。所以第一部分是，如果我們自己都很難解釋，我們能得到可解釋性嗎？

李飛飛：嗯，我很難把兩個數(shù)字相乘，但是，你知道，計算機可以做到這一點。所以對人類來說有些事情很難并不意味著我們不應(yīng)該讓機器來做。尤其是，你知道，畢竟所有這些算法都是基于非常簡單的數(shù)學(xué)邏輯。當(dāng)然，我們現(xiàn)在處理的神經(jīng)網(wǎng)絡(luò)有數(shù)百萬個節(jié)點和數(shù)十億個連接。所以可解釋性實際上很難。這是正在進行的研究。但我認(rèn)為這是一片肥沃的土地。當(dāng)涉及到醫(yī)療決定、財務(wù)決定、法律決定時，這是非常關(guān)鍵的。有很多情況下，這項技術(shù)可能是非常有用的。有了這種可解釋的能力，我們必須嘗試，我很有信心，有很多聰明的頭腦，這是一件容易破解的事情。

最重要的是，我認(rèn)為你有一個觀點，如果我們有技術(shù)可以解釋算法的決策過程，它會使它更難操縱和欺騙。對吧？這是一個技術(shù)解決方案，而不是整個解決方案，這將有助于澄清這項技術(shù)正在做什么。

如果人工智能用概率給出了2000個潛在特征的維度，這是不可理解的，但人類文明史上的整個科學(xué)史就是能夠以越來越好的方式傳達科學(xué)的結(jié)果。對吧？就像我剛做了年度體檢，一大堆電話號碼打到了我的手機上。首先，我的醫(yī)生，專家，可以幫助我解釋這些數(shù)字?，F(xiàn)在，就算是維基百科也能幫助我解釋其中的一些數(shù)字，并且解釋這些數(shù)字的技術(shù)改進將會改進。如果我們只是把200或2000個維度的概率數(shù)字扔給你，這就是我們作為技術(shù)專家的失敗。

AI 算法偏見

主持人：在我們結(jié)束這個話題之前，我想轉(zhuǎn)移到一個非常相關(guān)的問題上，我認(rèn)為這是最有趣的問題之一，那就是算法中的偏見問題，這是你已經(jīng)說得很清楚的。讓我們從金融體系開始說起。你可以想象一個算法被銀行用來決定是否應(yīng)該貸款給某些人。你還可以想象用種族主義的歷史數(shù)據(jù)訓(xùn)練它。我們不想這樣。所以，讓我們來看看如何確保這些數(shù)據(jù)不是種族主義的，讓它向人們提供不分種族的貸款。我們在座的每一個人都認(rèn)為這是一個很好的結(jié)果。我們假設(shè)，分析歷史數(shù)據(jù)表明，女性比男性更有可能償還貸款。我們要把它去掉嗎？還是我們允許它繼續(xù)存在？如果你允許它繼續(xù)存在，你會得到一個稍微更有效率的金融體系？如果你把它去掉，你會發(fā)現(xiàn)以前男女之間的平等程度更高。你如何決定哪些偏見是你想要消除的，哪些是可以保留的？

李飛飛：是的，這是一個非常好的問題，尼克。我的意思是，我個人不會給出答案，但我認(rèn)為你觸及了一個真正重要的問題，那就是，首先，機器學(xué)習(xí)系統(tǒng)偏見是真實存在的。就像你說的，它從數(shù)據(jù)開始，可能從我們收集數(shù)據(jù)的那一刻開始，從我們收集數(shù)據(jù)的類型開始，到整個管道，然后一直到應(yīng)用程序。但是偏見以非常復(fù)雜的方式出現(xiàn)。在斯坦福，我們有機器學(xué)習(xí)科學(xué)家研究偏見的技術(shù)解決方案，比如，去偏置數(shù)據(jù)或使某些決策正?；?。但是我們也有人文主義者爭論什么是偏見，什么是公平，什么時候偏見是好的，什么時候偏見是壞的？所以我認(rèn)為你剛剛為這個話題的研究，辯論和對話開啟了一個完美的話題。我還想指出的是，你們已經(jīng)用了一個非常相關(guān)的例子，一個機器學(xué)習(xí)算法有可能暴露偏見。對吧？你知道，我最喜歡的研究之一是幾年前的一篇論文，分析了好萊塢電影，并使用機器學(xué)習(xí)人臉識別算法，這在當(dāng)今是一項非常有爭議的技術(shù)，來系統(tǒng)地識別好萊塢給男演員比女演員更多的屏幕時間。沒有人可以坐在那里數(shù)所有的臉的幀數(shù)是否存在性別偏見，這是一個使用機器學(xué)習(xí)來揭露的完美例子。因此，總的來說，我們應(yīng)該研究一系列豐富的問題，再一次呼吁，把人文主義者，倫理學(xué)家，法律學(xué)者，性別研究專家融入到研究中。

主持人：同意。不過，在那篇文章發(fā)表之前，我就知道好萊塢是性別歧視的。

李飛飛：你是個聰明人。

主持人：讓我來問你，因為有三四人問這個問題，那就是，似乎人工智能的集中力讓數(shù)據(jù)和最好的電腦更強大，然后，無論是在國內(nèi)還是在世界范圍內(nèi)，都會加劇收入不平等，對吧？正如你所提到的國家那樣，首先中美兩國拔得頭籌，而歐洲各國緊隨其后，而加拿大更遜色一籌，但它們都要遙遙領(lǐng)先于中美洲。這一現(xiàn)象會加劇全球收入不平等。A，你覺得有可能嗎？B，你有多擔(dān)心？

李飛飛：我們一遍又一遍注意到的一件事，即使是在建立以人為本的人工智能社區(qū)以及內(nèi)部和外部人員交談的過程中，世界各地的企業(yè)和世界各國政府是有機會考慮他們的數(shù)據(jù)和人工智能策略的。對公司和國家而言，仍然有很多機會讓他們真正認(rèn)識到，這是他們的國家，他們的地區(qū)，他們的企業(yè)進入數(shù)字時代的重要時刻。我認(rèn)為，當(dāng)你談到這些潛在的危險和世界上那些還沒有真正趕上數(shù)字變革的地方缺乏數(shù)據(jù)的時候，現(xiàn)在是時候了，我們希望提高這種意識并鼓勵這種變革。

“這是一個在分享和傳播知識和技術(shù)方面非常開放的全球社區(qū)”

主持人：下一個問題是：這里有斯坦福大學(xué)的人員,他們將幫助建立一些公司，將進一步推動數(shù)據(jù)殖民化進程，或逆轉(zhuǎn)或?qū)⒔ⅲ辽儆伤固垢４髮W(xué)資助的，努力創(chuàng)建一個虛擬墻和基于人工智能的世界正在迅速崛起。對在座的所有學(xué)生，你希望他們?nèi)绾慰创斯ぶ悄?？你想讓他們學(xué)到什么？讓我們用最后10分鐘的時間來討論一下在座各位應(yīng)該做些什么。

李飛飛：如果你是計算機科學(xué)或工程學(xué)的學(xué)生，那就選Rob的課程。如果你是人文主義者，就上我的課。我教的是深度學(xué)習(xí)。但說真的，我想說的是斯坦福的學(xué)生，你們有很好的機會。我們有一段把這項技術(shù)帶到生活的自豪的歷史。斯坦福處于人工智能誕生的最前沿。事實上，我們的教授John McCarthy創(chuàng)造了人工智能這個詞，他于1963年來到斯坦福大學(xué)，建立了這個國家最古老的人工智能實驗室之一。從那時起，斯坦福大學(xué)的人工智能研究一直處于每一波人工智能變革的最前沿。2019年，我們也站在了以人為中心的人工智能革命的最前沿，或者說，我們正在書寫新的人工智能篇章。在過去的60年里，我們?yōu)槟銈冏隽诉@一切，為那些走進來的人，為那些即將畢業(yè)成為實踐者、領(lǐng)導(dǎo)者和公民社會的一部分的人，這就是我們的底線所在。以人為中心的人工智能需要由下一代的技術(shù)人員來編寫，這些技術(shù)人員上過像Rob這樣的課程，去思考倫理含義，人類的福祉。它也將由那些來自斯坦福大學(xué)人文學(xué)科和商學(xué)院的潛在未來決策者來撰寫，他們精通技術(shù)的細(xì)節(jié)，他們理解這項技術(shù)的含義，他們有能力與技術(shù)專家交流。也就是說，無論我們?nèi)绾瓮饣虿煌?，最重要的是，我們需要這種多語言的領(lǐng)導(dǎo)人、思想家和實踐者。這就是斯坦福大學(xué)以人為中心的人工智能研究所的宗旨。

主持人：好的，飛飛，讓我們快速地看幾個問題。我們經(jīng)常談?wù)搧碜源蠊镜淖陨隙碌娜斯ぶ悄?，我們?yīng)該如何設(shè)計個人的人工智能來幫助加速我們的生活和事業(yè)？我對這個問題的解釋是，很多人工智能都是在大公司里工作的。如果你想在小公司或個人擁有人工智能，能做到嗎？

李飛飛：首先，確實有很多投資、努力和資源投入到大公司的人工智能研究和開發(fā)中，但并不是所有的人工智能都發(fā)生在那里。我想說的是學(xué)術(shù)界繼續(xù)在人工智能的研究和發(fā)展中發(fā)揮著巨大的作用，尤其是在人工智能的長期探索中。什么是學(xué)術(shù)界？學(xué)術(shù)界是一個由學(xué)生和教授組成的世界范圍的網(wǎng)絡(luò)，他們對不同的觀點進行非常獨立和創(chuàng)造性的思考。所以從這個角度來看，這是人工智能研究中的一種非常基層的努力，這種努力還在繼續(xù)。小企業(yè)和獨立研究機構(gòu)也可以發(fā)揮作用。有很多公開可用的數(shù)據(jù)集。這是一個在分享和傳播知識和技術(shù)方面非常開放的全球社區(qū)。所以，是的，無論如何我們都希望全球參與進來。

主持人：好吧，這是我最喜歡的問題。不幸的是，這是匿名者發(fā)來的。如果我在八年級，我還需要學(xué)習(xí)嗎？

李飛飛：作為一個媽媽，我會告訴你是的?；厝懽鳂I(yè)吧。

主持人：飛飛，75分鐘前，你說我們不會得出任何結(jié)論你覺得我們有什么進展嗎？

李飛飛：嗯，我們開啟了人文主義者和技術(shù)專家之間的對話，我想看到更多這樣的對話。

主持人：太好了。非常感謝。謝謝你，飛飛。