人工智能知識分享之機器學習和深度學習的區(qū)別與聯(lián)系

人工智能的浪潮正在席卷全球，諸多詞匯時刻縈繞在我們耳邊：人工智能（Artificial Intelligence）、機器學習（Machine Learning）、深度學習（Deep Learning）。不少人對這些高頻詞匯的含義及其背后的關(guān)系總是似懂非懂、一知半解。

為了幫助大家更好地理解人工智能，這篇文章用最簡單的語言解釋了這些詞匯的含義，理清它們之間的關(guān)系，希望對剛?cè)腴T的同行有所幫助。

人工智能：從概念提出到走向繁榮

1956年，幾個計算機科學家相聚在達特茅斯會議，提出了“人工智能”的概念，夢想著用當時剛剛出現(xiàn)的計算機來構(gòu)造復雜的、擁有與人類智慧同樣本質(zhì)特性的機器。其后，人工智能就一直縈繞于人們的腦海之中，并在科研實驗室中慢慢孵化。之后的幾十年，人工智能一直在兩極反轉(zhuǎn)，或被稱作人類文明耀眼未來的預言，或被當成技術(shù)瘋子的狂想扔到垃圾堆里。直到2012年之前，這兩種聲音還在同時存在。

2012年以后，得益于數(shù)據(jù)量的上漲、運算力的提升和機器學習新算法（深度學習）的出現(xiàn)，人工智能開始大爆發(fā)。據(jù)領(lǐng)英近日發(fā)布的《全球AI領(lǐng)域人才報告》顯示，截至2017年一季度，基于領(lǐng)英平臺的全球AI（人工智能）領(lǐng)域技術(shù)人才數(shù)量超過190萬，僅國內(nèi)人工智能人才缺口達到500多萬。

人工智能的研究領(lǐng)域也在不斷擴大，圖一展示了人工智能研究的各個分支，包括專家系統(tǒng)、機器學習、進化計算、模糊邏輯、計算機視覺、自然語言處理、推薦系統(tǒng)等。

圖一人工智能研究分支

但目前的科研工作都集中在弱人工智能這部分，并很有希望在近期取得重大突破，電影里的人工智能多半都是在描繪強人工智能，而這部分在目前的現(xiàn)實世界里難以真正實現(xiàn)（通常將人工智能分為弱人工智能和強人工智能，前者讓機器具備觀察和感知的能力，可以做到一定程度的理解和推理，而強人工智能讓機器獲得自適應能力，解決一些之前沒有遇到過的問題）。

弱人工智能有希望取得突破，是如何實現(xiàn)的，“智能”又從何而來呢？這主要歸功于一種實現(xiàn)人工智能的方法——機器學習。

機器學習：一種實現(xiàn)人工智能的方法

機器學習最基本的做法，是使用算法來解析數(shù)據(jù)、從中學習，然后對真實世界中的事件做出決策和預測。與傳統(tǒng)的為解決特定任務、硬編碼的軟件程序不同，機器學習是用大量的數(shù)據(jù)來“訓練”，通過各種算法從數(shù)據(jù)中學習如何完成任務。

舉個簡單的例子，當我們?yōu)g覽網(wǎng)上商城時，經(jīng)常會出現(xiàn)商品推薦的信息。這是商城根據(jù)你往期的購物記錄和冗長的收藏清單，識別出這其中哪些是你真正感興趣，并且愿意購買的產(chǎn)品。這樣的決策模型，可以幫助商城為客戶提供建議并鼓勵產(chǎn)品消費。

機器學習直接來源于早期的人工智能領(lǐng)域，傳統(tǒng)的算法包括決策樹、聚類、貝葉斯分類、支持向量機、EM、Adaboost等等。從學習方法上來分，機器學習算法可以分為監(jiān)督學習（如分類問題）、無監(jiān)督學習（如聚類問題）、半監(jiān)督學習、集成學習、深度學習和強化學習。

傳統(tǒng)的機器學習算法在指紋識別、基于Haar的人臉檢測、基于HoG特征的物體檢測等領(lǐng)域的應用基本達到了商業(yè)化的要求或者特定場景的商業(yè)化水平，但每前進一步都異常艱難，直到深度學習算法的出現(xiàn)。

深度學習：一種實現(xiàn)機器學習的技術(shù)

深度學習本來并不是一種獨立的學習方法，其本身也會用到有監(jiān)督和無監(jiān)督的學習方法來訓練深度神經(jīng)網(wǎng)絡。但由于近幾年該領(lǐng)域發(fā)展迅猛，一些特有的學習手段相繼被提出（如殘差網(wǎng)絡），因此越來越多的人將其單獨看作一種學習的方法。

最初的深度學習是利用深度神經(jīng)網(wǎng)絡來解決特征表達的一種學習過程。深度神經(jīng)網(wǎng)絡本身并不是一個全新的概念，可大致理解為包含多個隱含層的神經(jīng)網(wǎng)絡結(jié)構(gòu)。為了提高深層神經(jīng)網(wǎng)絡的訓練效果，人們對神經(jīng)元的連接方法和激活函數(shù)等方面做出相應的調(diào)整。其實有不少想法早年間也曾有過，但由于當時訓練數(shù)據(jù)量不足、計算能力落后，因此最終的效果不盡如人意。

深度學習摧枯拉朽般地實現(xiàn)了各種任務，使得似乎所有的機器輔助功能都變?yōu)榭赡堋?a href="http://srfitnesspt.com/v/tag/472/" target="_blank">無人駕駛汽車，預防性醫(yī)療保健，甚至是更好的電影推薦，都近在眼前，或者即將實現(xiàn)。

三者的區(qū)別和聯(lián)系

機器學習是一種實現(xiàn)人工智能的方法，深度學習是一種實現(xiàn)機器學習的技術(shù)。我們就用最簡單的方法——同心圓，可視化地展現(xiàn)出它們?nèi)叩年P(guān)系。

圖二三者關(guān)系示意圖

目前，業(yè)界有一種錯誤的較為普遍的意識，即“深度學習最終可能會淘汰掉其他所有機器學習算法”。這種意識的產(chǎn)生主要是因為，當下深度學習在計算機視覺、自然語言處理領(lǐng)域的應用遠超過傳統(tǒng)的機器學習方法，并且媒體對深度學習進行了大肆夸大的報道。

深度學習，作為目前最熱的機器學習方法，但并不意味著是機器學習的終點。起碼目前存在以下問題：

1.深度學習模型需要大量的訓練數(shù)據(jù)，才能展現(xiàn)出神奇的效果，但現(xiàn)實生活中往往會遇到小樣本問題，此時深度學習方法無法入手，傳統(tǒng)的機器學習方法就可以處理；

2.有些領(lǐng)域，采用傳統(tǒng)的簡單的機器學習方法，可以很好地解決了，沒必要非得用復雜的深度學習方法；

3.深度學習的思想，來源于人腦的啟發(fā)，但絕不是人腦的模擬，舉個例子，給一個三四歲的小孩看一輛自行車之后，再見到哪怕外觀完全不同的自行車，小孩也十有八九能做出那是一輛自行車的判斷，也就是說，人類的學習過程往往不需要大規(guī)模的訓練數(shù)據(jù)，而現(xiàn)在的深度學習方法顯然不是對人腦的模擬。

深度學習大佬 Yoshua Bengio 在 Quora 上回答一個類似的問題時，有一段話講得特別好，這里引用一下，以回答上述問題：

Science is NOT a battle, it is a collaboration. We all build on each other's ideas. Science is an act of love, not war. Love for the beauty in the world that surrounds us and love to share and build something together. That makes science a highly satisfying activity, emotionally speaking!

這段話的大致意思是，科學不是戰(zhàn)爭而是合作，任何學科的發(fā)展從來都不是一條路走到黑，而是同行之間互相學習、互相借鑒、博采眾長、相得益彰，站在巨人的肩膀上不斷前行。機器學習的研究也是一樣，你死我活那是邪教，開放包容才是正道。

結(jié)合機器學習2000年以來的發(fā)展，再來看Bengio的這段話，深有感觸。進入21世紀，縱觀機器學習發(fā)展歷程，研究熱點可以簡單總結(jié)為2000-2006年的流形學習、2006年-2011年的稀疏學習、2012年至今的深度學習。未來哪種機器學習算法會成為熱點呢？深度學習三大巨頭之一吳恩達曾表示，“在繼深度學習之后，遷移學習將引領(lǐng)下一波機器學習技術(shù)”。但最終機器學習的下一個熱點是什么，誰又能說得準呢。

因此，當下入門人工智能，不僅需要掌握傳統(tǒng)的機器學習算法，還要熟悉深度學習模型。為此，中科院自動化所科研一線青年教師，與深藍學院聯(lián)合推出《機器學習：從理論到實踐》、《深度學習：從理論到實踐》兩門在線直播課程。課程體系設置充分結(jié)合理論與實踐，PPT以及代碼均會提供給學員，并為學員搭建與課程講師即時交流的微信群。

機器學習課程內(nèi)容

1.數(shù)學基礎（PPT資料）

1.1矩陣論、概率論、優(yōu)化基礎知識

2.機器學習算法：從理論到實踐（20學時）

2.1 機器學習概述

2.1.1 機器學習方法分類

2.1.2基礎知識介紹

2.2 KNN算法

2.2.1概述與理論詳解

2.2.2K近鄰應用案例及代碼實現(xiàn)

2.1 機器學習概述

2.1.1 機器學習方法分類

2.1.2 基礎知識介紹

2.2 KNN算法

2.2.1 概述與理論詳解

2.2.2 K近鄰應用案例及代碼實現(xiàn)

2.3 貝葉斯分類

2.3.1 樸素貝葉斯

2.3.2 貝葉斯決策論

2.3.3 NB分類算法應用案例及代碼實現(xiàn)

2.4 回歸與分類

2.4.1 曲線擬合

2.4.2 線性回歸

2.4.3 logistic回歸

2.4.4 相關(guān)應用案例及代碼實現(xiàn)

2.5 支持向量機

2.5.1 線性支持向量機

2.5.2 非線性支持向量機

2.5.3 核方法

2.5.4 SVM應用案例及代碼實現(xiàn)

2.6 聚類算法

2.6.1 K均值聚類

2.6.2 層次聚類

2.6.3 聚類算法應用案例及代碼實現(xiàn)

2.7 數(shù)據(jù)降維

2.7.1 線性降維

2.7.2 非線性降維

2.7.3 降維應用案例及代碼實現(xiàn)

2.8 EM算法

2.8.1 EM算法基礎

2.8.2 多高斯參數(shù)估計

2.8.3 EM應用案例及代碼實現(xiàn)

2.9 Adaboost算法

2.9.1 獨立于算法的機器學習

2.9.2 Adaboost算法

2.9.3 應用案例及代碼實現(xiàn)

2.10 隱馬爾科夫模型

2.10.1 馬爾科夫

2.10.2 隱馬爾科夫模型

2.10.3 應用案例及代碼實現(xiàn)

深度學習課程內(nèi)容

1.數(shù)學基礎（PPT資料）

1.1 貝葉斯決策理論、參數(shù)與非參數(shù)估計

1.2 回歸與分類、梯度下降優(yōu)化

1.3 信息熵

2.深度學習理論（6學時）

2.1 前饋神經(jīng)網(wǎng)絡（概述、單層神經(jīng)網(wǎng)絡、多層神經(jīng)網(wǎng)絡）

2.2 卷積神經(jīng)網(wǎng)絡（基本概念、發(fā)展歷程、網(wǎng)絡特點、網(wǎng)絡設置、網(wǎng)絡訓練以及相關(guān)應用）

2.3 反饋神經(jīng)網(wǎng)絡（Hopfield網(wǎng)絡、玻爾茲曼機、受限玻爾茲曼機）

3.深度網(wǎng)絡常見模型與Keras實戰(zhàn)（8學時）

3.1 Keras與殘差網(wǎng)絡（從LSTM到Highway網(wǎng)絡、從Highway網(wǎng)絡到殘差網(wǎng)絡、基于Highway網(wǎng)絡的應用）

3.2 自動編碼機AE及生成對抗網(wǎng)絡GAN（AE的起源與變種、生成對抗網(wǎng)絡GAN、基于GAN網(wǎng)絡的應用）

3.3 基于Keras的行為識別（行為識別問題簡介、基于深度學習的行為識別常用模型介紹、基于Keras的行為識別實踐）

3.4 基于Keras的場景分割（場景分割問題簡介、基于深度學習的場景分割常用模型介紹、基于Keras的場景分割實踐）

4.深度學習框架（4學時）

4.1 Caffe入門（簡介、安裝和配置、優(yōu)點與局限性分析、深入Caffe源碼、Caffe調(diào)試）

4.2 Caffe提高（基于Caffe的MINST手寫識別、Caffe的Python接口、Caffe修改與添加Layer、網(wǎng)絡訓練技巧）

講師團隊

汪老師，中科院自動化所一線科研學者，副研究員，在領(lǐng)域頂級會議期刊ICCV、TNNLS、TIP等發(fā)表論文20多篇；參加全國視頻圖像分析技術(shù)挑戰(zhàn)賽，獲得目標檢測識別第二名，熟練掌握并應用深度學習Keras框架和Caffe框架。

宮老師，某知名外企研究院算法工程師，中國科學院自動化研究所博士畢業(yè)生，在計算機視覺與人工智能領(lǐng)域具有近六年的研究經(jīng)歷。攻讀博士學位期間主要研究方向是模式識別與圖像處理，曾在模式識別領(lǐng)域內(nèi)頂級國際期刊發(fā)表論文，參加某知名互聯(lián)網(wǎng)公司舉辦的圖像分割競賽，獲得第四名的成績。目前主要負責計算機視覺與人工智能方面的算法研發(fā)工作。

邵老師，現(xiàn)任副教授、碩士生導師，中科院自動化所博士畢業(yè)，具有兩年教學授課經(jīng)驗。主要研究方向包括機器學習、模式識別與圖像處理，作為項目負責人承擔國家自然科學基金，在國際主流期刊和會議上發(fā)表論文數(shù)篇。

霍老師，一線青年學者，西安電子科技大學博士畢業(yè)，研究方向為圖像處理，主持和參與多項國家自然科學基金，以第一作者在相關(guān)領(lǐng)域期刊以及會議上發(fā)表論文多篇。

開課時間及形式

1.深度學習課程價格為 499元，僅剩 90個名額，10月29日-11月26日每周六、日晚7點-9點，在線直播授課；

2.機器學習課程價格為 499 元，11月30日-12月21日每周四、六、日晚7點-9點，在線直播授課；

3.課程一年內(nèi)可實時查看視頻回放；

4.課程PPT和源程序，會提前公開給學員；

5.課前、課中和課后，微信群均可答疑。