機(jī)器學(xué)習(xí)基礎(chǔ)知識(shí)匯總（分類、應(yīng)用、安全性）

機(jī)器學(xué)習(xí)的定義

1、專門研究計(jì)算機(jī)怎樣模擬或?qū)崿F(xiàn)人類的學(xué)習(xí)行為，以獲取新的知識(shí)或技能，重新組織已有的知識(shí)結(jié)構(gòu)使之不斷改善自身的性能。

2、機(jī)器學(xué)習(xí)是用數(shù)據(jù)或以往的經(jīng)驗(yàn)，以此優(yōu)化計(jì)算機(jī)程序的性能標(biāo)準(zhǔn)。

3、機(jī)器學(xué)習(xí)是一門人工智能的科學(xué)，該領(lǐng)域的主要研究對(duì)象是人工智能，特別是如何在經(jīng)驗(yàn)學(xué)習(xí)中改善具體算法的性能。

4、對(duì)于某類任務(wù)T和性能度量P，如果一個(gè)計(jì)算機(jī)程序在T上以P衡量的性能隨著經(jīng)驗(yàn)E而自我完善，那么我們稱這個(gè)計(jì)算機(jī)程序在從經(jīng)驗(yàn)E學(xué)習(xí)。

機(jī)器學(xué)習(xí)的分類（根據(jù)反饋的不同）

1、監(jiān)督學(xué)習(xí)：主要特點(diǎn)是要在訓(xùn)練模型時(shí)提供給學(xué)習(xí)系統(tǒng)訓(xùn)練樣本以及樣本對(duì)應(yīng)的類別標(biāo)簽，因此又稱為有導(dǎo)師學(xué)習(xí)。典型的監(jiān)督學(xué)習(xí)方法：決策樹、支持向量機(jī)（SVM）、監(jiān)督式神經(jīng)網(wǎng)絡(luò)等分類算法和線性回歸等回歸算法。

2、無(wú)監(jiān)督學(xué)習(xí)：主要特點(diǎn)是訓(xùn)練時(shí)只提供給學(xué)習(xí)系統(tǒng)訓(xùn)練樣本，而沒有樣本對(duì)應(yīng)的類別標(biāo)簽信息。典型的無(wú)監(jiān)督學(xué)習(xí)方法：聚類學(xué)習(xí)、自組織神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)

3、強(qiáng)化學(xué)習(xí)：主要特點(diǎn)是通過(guò)試錯(cuò)來(lái)發(fā)現(xiàn)最優(yōu)行為策略而不是帶有標(biāo)簽的樣本學(xué)習(xí)。

形象化解釋：

機(jī)器學(xué)習(xí)的應(yīng)用方面

1、圖像處理識(shí)別（人臉識(shí)別、圖片分類）

2、自然語(yǔ)言處理

3、網(wǎng)絡(luò)安全（垃圾郵件檢測(cè)、惡意程序流量檢測(cè)）

4、自動(dòng)駕駛

5、機(jī)器人

6、醫(yī)療擬合預(yù)測(cè)

7、神經(jīng)網(wǎng)絡(luò)

8、金融高頻交易

9、互聯(lián)網(wǎng)數(shù)據(jù)挖掘/關(guān)聯(lián)推薦

機(jī)器學(xué)習(xí)安全分類體系

1、按照對(duì)分類器的影響：

（1） 誘發(fā)性攻擊

（2） 探索性攻擊

2、按照安全損害類型

（1） 完整性攻擊

（2） 可用性攻擊

（3） 隱私竊取攻擊

3、按照攻擊的專一性

（1） 針對(duì)性攻擊

（2） 非針對(duì)性攻擊

機(jī)器學(xué)習(xí)敵手模型

1、敵手目標(biāo)

敵手目標(biāo)可以從兩個(gè)角度描述，即攻擊者期望造成的安全破壞程度（完整性、可用性或隱私性）和攻擊的專一性（針對(duì)性、非針對(duì)性）。例如：攻擊者的目標(biāo)可以是產(chǎn)生一個(gè)非針對(duì)性的破壞完整性的攻擊，來(lái)最大化分類器的錯(cuò)誤率；也可以產(chǎn)生針對(duì)性的竊取隱私的攻擊，來(lái)從分類器中獲得具體的客戶隱私信息。

2、敵手知識(shí)

敵手的知 識(shí)可以從分類器的具體組成來(lái)考慮，從敵手是否知 道分類器的訓(xùn)練數(shù)據(jù)、特征集合、學(xué)習(xí)算法和決策 函數(shù)的種類及其參數(shù)、分類器中可用的反饋信息 （敵手通過(guò)輸入數(shù)據(jù)得到系統(tǒng)返回的標(biāo)簽信息）等 方面將敵手知識(shí)劃分為有限的知識(shí)和完全的知識(shí)。

3、敵手能力

敵手的知 識(shí)主要是指攻擊者對(duì)訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)的控制 能力?？梢詮囊韵聨讉€(gè)方面定義：第一是攻擊對(duì)分 類器造成的影響是探索性的還是誘發(fā)性的；第二是 敵手控制訓(xùn)練數(shù)據(jù)或者測(cè)試數(shù)據(jù)的程度；第三是敵手操縱的特征的內(nèi)容及具體程度。

4、攻擊策略

敵手的攻擊策略 是指攻擊者為了最優(yōu)化其攻擊目的會(huì)對(duì)訓(xùn)練數(shù)據(jù) 和測(cè)試數(shù)據(jù)進(jìn)行的修改措施。具體包括：攻擊哪些 樣本類型；如何修改類別信息；如何操縱特征等。

安全性問題匯總

1、垃圾郵件檢測(cè)系統(tǒng)和惡意流量檢測(cè)系統(tǒng)等發(fā)現(xiàn)針對(duì)系統(tǒng)模型特點(diǎn)來(lái)逃避檢測(cè)的問題

2、針對(duì)面部識(shí)別系統(tǒng)缺陷來(lái)模仿受害者身份的非法認(rèn)證危害

3、針對(duì)醫(yī)療數(shù)據(jù)、人物圖片數(shù)據(jù)的隱私竊取危害

4、針對(duì)自動(dòng)駕駛汽車、語(yǔ)音控制系統(tǒng)的惡意控制危害