深度學(xué)習(xí)的冬天什么時(shí)候到來(lái)？

從 2016 年 AlphaGo 戰(zhàn)勝李世石掀起深度學(xué)習(xí)的熱潮，到如今深度學(xué)習(xí)寒冬論甚囂塵上，短短兩三年時(shí)間，深度學(xué)習(xí)被唱衰，如今在產(chǎn)業(yè)互聯(lián)網(wǎng)的高速發(fā)展下深度學(xué)習(xí)又該走向何方？未來(lái)的發(fā)展方向在何方？

深度學(xué)習(xí)技術(shù)自身的局限性

深度學(xué)習(xí)畢竟是機(jī)器學(xué)習(xí)，不會(huì)像人一樣思考，這就使得深度學(xué)習(xí)存在著很大的局限性。對(duì)于大多數(shù)任務(wù)而言，要么不存在相應(yīng)的深度神經(jīng)網(wǎng)絡(luò)能夠解決任務(wù)，要么即使存在這樣的網(wǎng)絡(luò)，它也可能是不可學(xué)習(xí)的。

通過堆疊更多的層并使用更多訓(xùn)練數(shù)據(jù)來(lái)擴(kuò)展當(dāng)前的深度學(xué)習(xí)技術(shù)，只能在表面一緩解一些問題，無(wú)法解決更根本的問題，比如深度學(xué)習(xí)模型可以表示的內(nèi)容非常有限，比如大多數(shù)你想要學(xué)習(xí)的程序都不能被表示為數(shù)據(jù)流形的連續(xù)幾何變換。

另外一點(diǎn)比較突出的問題在于深度學(xué)習(xí)的泛化能力不夠，或者稱之為只有局部泛化能力。而我們?nèi)祟惒粫?huì)，我們通過將事務(wù)進(jìn)行抽象和推理的手段，可以做到少樣本或者零樣本學(xué)習(xí)。對(duì)于我們?nèi)祟惗?，我們有著極端泛化能力。

比如說，我們想要學(xué)習(xí)讓火箭登錄月球的正確發(fā)射參數(shù)。

如果使用深度網(wǎng)絡(luò)來(lái)完成這個(gè)任務(wù)，并用監(jiān)督學(xué)習(xí)或強(qiáng)化學(xué)習(xí)來(lái)訓(xùn)練網(wǎng)絡(luò)，那我們需要輸入上千次、甚至上百萬(wàn)次發(fā)射實(shí)驗(yàn)。相比之下，我們?nèi)祟惪梢岳贸橄竽芰μ岢鑫锢砟Ｐ停ɑ鸺茖W(xué)），并且只用一次或幾次實(shí)驗(yàn)就能得到讓火箭登錄月球的精確解決方案。同樣，如果你開發(fā)一個(gè)能夠控制人體的深度網(wǎng)絡(luò)，并且希望它學(xué)會(huì)在城市里安全行走，不會(huì)被汽車撞上，那么這個(gè)網(wǎng)絡(luò)不得不在各種場(chǎng)景中死亡數(shù)千次，才能推斷出汽車是危險(xiǎn)的，并且做出適當(dāng)?shù)亩惚苄袨椤⑦@個(gè)網(wǎng)絡(luò)放在一個(gè)新的城市，它將不得不重新學(xué)習(xí)已知的大部分知識(shí)。但人類不需要死亡就可以學(xué)會(huì)安全行為，這個(gè)也要?dú)w功于我們對(duì)假想情景進(jìn)行抽象建模的能力。

看來(lái)，深度學(xué)習(xí)和真正意義上的智能有著極大差距。語(yǔ)音識(shí)別、智能翻譯、圖像識(shí)別、AlphaGo、自動(dòng)駕駛….. 盡管人類在深度學(xué)習(xí)領(lǐng)域取得了不小的進(jìn)步，但是距離人類級(jí)別的人工智能仍有著很大距離。

深度學(xué)習(xí)技術(shù)該走向何方？

深度學(xué)習(xí)帶來(lái)了人工智能的第三次熱潮，大量資本和人才紛紛涌入人工智能領(lǐng)域，關(guān)于人工智能的創(chuàng)業(yè)公司迅速增長(zhǎng)。據(jù)最新發(fā)布的《中國(guó)新一代人工智能科技產(chǎn)業(yè)發(fā)展報(bào)告》統(tǒng)計(jì)，2018 年全球人工智能領(lǐng)域?qū)＠暾?qǐng)量達(dá)到 13 萬(wàn)余件，我國(guó)人工智能企業(yè)占世界人工智能企業(yè)總數(shù)的 21.67% ，排名世界第二。

技術(shù)不同于科學(xué)研究，遲早要尋求回報(bào)。人工智能風(fēng)口下的初創(chuàng)公司，只有精耕產(chǎn)品需求，使解決方案更加的解決客戶難題，才能發(fā)揮技術(shù)的價(jià)值。

另一項(xiàng)數(shù)據(jù)則顯示我國(guó) 90% 的 AI 公司由于未找到商業(yè)變現(xiàn)的途徑，處于虧損狀態(tài)。但也有一些企業(yè)借創(chuàng)新的技術(shù)，過硬的實(shí)力，全鏈的產(chǎn)業(yè)落地模式，在產(chǎn)業(yè)互聯(lián)網(wǎng)時(shí)代受到資本的寵溺，一躍成為行業(yè)獨(dú)角獸，如第四范式、字節(jié)跳動(dòng)、寒武紀(jì)科技、云從科技、馭勢(shì)科技、曠視科技、商湯科技、圖森未來(lái)、依圖科技等高科技公司。

國(guó)內(nèi)外各大科技巨頭公司紛紛進(jìn)軍深度學(xué)習(xí)領(lǐng)域，無(wú)論是國(guó)外的谷歌、亞馬遜、Facebook，還是國(guó)內(nèi)的百度、阿里、騰訊等科技巨頭公司紛紛開源了自己的深度學(xué)習(xí)框架。產(chǎn)業(yè)互聯(lián)網(wǎng)時(shí)代，更多人工智能公司追求商業(yè)落地，將技術(shù)賦能場(chǎng)景。

我們?nèi)绾慰朔疃葘W(xué)習(xí)的局限性并通向通用智能？眾多科學(xué)家對(duì)此也進(jìn)行了解答：

在未來(lái)，模型將會(huì)融合算法模塊與幾何模塊，前者提供正式的推理、搜索和抽象能力，后者提供非正式的直覺和模式識(shí)別能力?！?a href="http://srfitnesspt.com/tags/python/" target="_blank">Python 深度學(xué)習(xí)》

AlphaGo（這個(gè)系統(tǒng)需要大量的手動(dòng)軟件工程和人為設(shè)計(jì)決策）就是這種符合人工智能和幾何人工智能融合的一個(gè)早期的例子。

此外，通過使用存儲(chǔ)在可復(fù)用的子程序的全局庫(kù)（這個(gè)庫(kù)隨著在數(shù)千個(gè)先前任務(wù)和數(shù)據(jù)集上學(xué)習(xí)高性能模型而不斷進(jìn)化）中的模塊化部件，這種模型可以自動(dòng)成長(zhǎng)，而不需要人類工程師對(duì)其進(jìn)行硬編碼。隨著元學(xué)習(xí)系統(tǒng)識(shí)別出經(jīng)常出現(xiàn)的問題解決模式，這些模式將會(huì)被轉(zhuǎn)化為可復(fù)用的子程序（正如軟件工程中的函數(shù)和類），并被添加到全局庫(kù)中。這樣就可以實(shí)現(xiàn)抽象和極端泛化能力。

因此，這種永久學(xué)習(xí)的模型生長(zhǎng)系統(tǒng)可以被看作是一種通用人工智能（AGI artificial general intelligence）。

為了達(dá)到這個(gè)目標(biāo)，多年來(lái)，深度學(xué)習(xí)領(lǐng)域一直處于所謂的人工智能革命的最前沿。許多人相信深度學(xué)習(xí)將帶領(lǐng)我們進(jìn)入通用 AI 時(shí)代。但從過去的風(fēng)口浪尖，到如今的塵埃落地，浪潮一再的退去。計(jì)算機(jī)視覺與 AI 專家 Filip Piekniewski 曾警示預(yù)測(cè)人工智能的冬天就像是猜測(cè)股市崩盤——不可能精確地知道發(fā)生的時(shí)間，但幾乎可以肯定會(huì)在某個(gè)時(shí)刻發(fā)生，就像股市崩盤之前，有跡象表明會(huì)發(fā)生危機(jī)，但在當(dāng)時(shí)的環(huán)境中，卻很容易被大家忽視。

深度學(xué)習(xí)已經(jīng)出現(xiàn)了明顯的下降跡象。人工智能將何去何從？深度學(xué)習(xí)將會(huì)走向何方？

2019 年 10 月 19 日，中國(guó)計(jì)算機(jī)大會(huì)將就“深度學(xué)習(xí)的冬天什么時(shí)候到來(lái)”的話題開展論壇，由中科院計(jì)算所研究員山世光擔(dān)任論壇主席。這場(chǎng)大會(huì)以“智能+引領(lǐng)社會(huì)發(fā)展”為主題，將邀請(qǐng)多位國(guó)內(nèi)外計(jì)算機(jī)領(lǐng)域知名專家、企業(yè)家到會(huì)做特邀報(bào)告，同時(shí)還有 80+ 場(chǎng)技術(shù)論壇、20 場(chǎng)活動(dòng)及展覽展示等。

未來(lái)充滿了不確定，但我們可以為這個(gè)冬天做好更多的準(zhǔn)備。