看AI教父對人工智能研究的年輕人，給出的一些忠告

人們說，人工智能會帶來風險，人工智能產(chǎn)業(yè)要促進，人工智能需要監(jiān)管，人工智能軍備競賽愈發(fā)激烈。

他們還說，人工智能人才非常非常短缺，年輕人，如果你想入行……

深度學習教父Geoffrey Hinton的建議，值得一看。在一份訪談中，他面向想做人工智能研究的年輕人，給出了一些忠告。當然，前邊所說的風險、監(jiān)管、產(chǎn)業(yè)等等問題也都有談及。

這份訪談，來自馬丁·福特（Martin Ford）新書，《智能締造者：人工智能開發(fā)者口述真相》（Architects of Intelligence: The Truth About AI from the People Building It）。

Hinton認為，年輕人如果讀個碩士然后就直接進入工業(yè)界，對研究是不利的。這樣的人提不出全新的想法，學界應該留住那些受過良好教育的研究生，他們需要坐下來，思考幾年才行。

他也鼓勵年輕人批判地看待基礎理論、挑戰(zhàn)基本假設，也要在認為大家想法都錯了的時候，堅持自己的直覺。

以下，是《智能締造者》中節(jié)選出來的這段訪談：

福特：我們來談談人工智能的潛在風險。有一個具體挑戰(zhàn)是對就業(yè)市場和經(jīng)濟的潛在影響。你是否認為所有這些都可能引發(fā)新的工業(yè)革命并徹底改變就業(yè)市場？如果是這樣，我們真的需要為此擔憂，還是說這可能又被夸大其詞了？

Hinton：如果你能夠大幅提高生產(chǎn)力并提供更多好處，那應該是一件好事。

它是否是一件好事完全取決于社會制度，根本不取決于技術。人們卻在研究技術，就像把技術進步是一個問題一樣。

問題在于社會制度，在于我們是否會建立一個公平分享的社會制度，或者說，我們的社會制度會是公平的，還是會讓所有進步集中體現(xiàn)在1％的人群身上，然后把剩下的人看得一文不值。

這與技術無關。

福特：那么問題就來了，因為很多工作都會消失——特別是可以預測，而且易于自動化的工作。社會對此作出的反應是為這類人提供基本收入。你同意這種做法嗎？

Hinton：是的，我認為基本收入是一個非常明智的想法。

福特：那么，你認為需要通過政策來解決此事嗎？有些人認為我們應該讓事情自然發(fā)展，但那似乎不負責任。

Hinton： 我搬到加拿大是因為這里稅率較高，因為我認為正確的稅收是好事。政府應該做的是建立各種機制，以便當人們出于自身利益行事時，也會幫助到每個人。高稅收是一種這樣的機制：當人們致富時，其他人都會獲得稅收的幫助。

想要確保人工智能讓每所有人都受益，還有很多工作要做。我當然認同這種觀點。

福特：你對其他一些跟人工智能有關的風險怎么看？比如武器化？

Hinton：是的，我對普京總統(tǒng)最近所說的一些事情感到擔憂。

我認為人們現(xiàn)在應該采取非常積極的措施，努力讓國際社會以對待化學武器和大規(guī)模殺傷性武器的態(tài)度，來對待那些不需要人類參與就能殺死人類的武器。

福特：你是否贊成暫停某種類型的研發(fā)？

Hinton：這種類型的研發(fā)不會暫停，就像神經(jīng)毒劑的發(fā)展也沒有暫停一樣，但的確有一套國際機制來阻止它們被廣泛使用。

福特：除軍事武器外，你怎么看待其他風險？是否有其他問題，比如隱私和透明度？

Hinton：我認為有，用它來操縱選舉和選民非常令人擔憂。劍橋分析由Bob Mercer成立，他是一名機器學習研究人員，你已經(jīng)看到劍橋分析造成了很大的破壞。我們不得不認真對待。

福特：你認為有監(jiān)管空間嗎？

Hinton：是的，需要很多監(jiān)管。這是一個非常有趣的問題，但我不是這方面的專家，所以談不了太多。

福特：你怎么看一般的全球軍備競賽？你認為不應該讓一個國家遙遙領先領先其他國家嗎？

Hinton：你所談論的是全球政治問題。

很長一段時間，英國是一個占主導地位的國家，但他們表現(xiàn)得不是很好。

然后就是美國，他們表現(xiàn)得也不是很好。

換一個國家主導，我也不指望他們會有很好的表現(xiàn)。

福特：你認為我們應該采取某種形式的產(chǎn)業(yè)政策嗎？美國和其他西方政府是否應該關注人工智能，并將其作為國家重要發(fā)展方向？

Hinton：技術將迎來巨大的發(fā)展，如果一個國家不努力追趕潮流，它肯定是瘋了。所以很明顯，我認為應該有很多投資。這在我看來似乎是常識。

福特：總的來說，你對這一切感到樂觀嗎？你認為人工智能是利大于弊嗎？

Hinton：我希望利大于弊，但我不知道最終能否如愿。這是一個社會制度問題，而不是技術問題。

福特： 人工智能人才短缺，大家都在招聘。對于想要進入這個領域的年輕人，你有沒有什么建議？你能否再提一些建議來吸引更多人，讓他們成為人工智能和深度學習方面的專家？

Hinton：我擔心為基礎理論挑毛病的人不夠多。

我提出的“Capsules”(膠囊網(wǎng)絡)的想法就是想說，也許我們現(xiàn)在做事的一些基本方法并不是最好的，我們應該拋出一張更大的網(wǎng)。我們應該思考一些非?；镜募僭O有沒有替代品。

我給人們的一條建議是，如果你的直覺告訴你，人們在做的事情并不對，而且可能有更好的方法，你應該遵循你的直覺。

你很可能是錯的，但是除非人們在思考如何徹底改變事物時遵循直覺，否則就會深陷其中。

還有一點擔憂，是我認為新思想最富饒的來源是在大學中接受過良好教育的研究生。他們可以自由地提出真正的新想法，他們學到的東西足以讓他們不再單純重復歷史，我們應該留住這些人。

獲得碩士學位然后直接進入工業(yè)界的人不會提出全新的想法。我認為你需要坐下來思考幾年。

福特：加拿大似乎成了深度學習中心。這是偶然事件，還是說加拿大有什么特別的地方起到了幫助？

Hinton：加拿大高級研究院（CIFAR）為高風險領域的基礎研究提供資金，這非常重要。

還有很多事情有運氣成分，比如Yann LeCun（他曾經(jīng)短暫當過我的博士后）和Yoshua Bengio也都在加拿大。我們?nèi)齻€人可以形成非常富有成果的協(xié)作，CIFAR為這種合作提供了資助。

那時，我們身處一個充滿敵意的環(huán)境中感覺有點孤立——深度學習的環(huán)境直到最近才變得友好起來——所以獲得這筆資金給我們很大幫助，讓我們可以用很多時間召開小型會議，展開相互交流。在那里，我們可以真正分享尚未發(fā)表的想法。

One More Thing

在《智能締造者》這本書里，還有很多AI領域名人的訪談。

比如和Hinton并稱三巨頭的Yoshua Bengio、Yann LeCun，著有人工智能經(jīng)典教材的伯克利教授Stuart Russell，讓馬斯克對人工智能產(chǎn)生興趣和恐懼的牛津大學哲學教授Nick Bostrom，還有我們熟悉的李飛飛、吳恩達、DeepMind創(chuàng)始人Demis Hassabis等等，共23人。