AI開(kāi)發(fā)的安全問(wèn)題，今年將迎爆發(fā)期

無(wú)人駕駛、人臉識(shí)別、智慧城市、智能家居等各類場(chǎng)景中都在運(yùn)用AI，但一旦后端控制系統(tǒng)被攻擊，出現(xiàn)規(guī)?；?、連鎖式的崩盤(pán)，AI失控的后果不堪設(shè)想。近日，阿里安全專家表示，“安全AI會(huì)成為未來(lái)網(wǎng)絡(luò)安全問(wèn)題的新解法，將在2019年迎來(lái)爆發(fā)期?！?/p>

“AI發(fā)展趨勢(shì)是一定的，但AI應(yīng)用來(lái)解決安全問(wèn)題時(shí)并不能生搬硬套，需要根據(jù)實(shí)際場(chǎng)景進(jìn)行AI的技術(shù)升級(jí)，”阿里安全圖靈實(shí)驗(yàn)室負(fù)責(zé)人奧創(chuàng)表示，在大量的AI技術(shù)落地之前，安全AI需要引起足夠的重視才能從源頭上防范更多的風(fēng)險(xiǎn)。

奧創(chuàng)解釋，安全AI是指安全場(chǎng)景中進(jìn)化出的AI，擁有更強(qiáng)、更多元化的能力，與當(dāng)前通用AI的理念不同，其更注重在業(yè)務(wù)安全領(lǐng)域垂直縱深的技術(shù)積淀，開(kāi)發(fā)出適應(yīng)更多安全場(chǎng)景的新一代AI，讓傳統(tǒng)的安全問(wèn)題找到新的AI解法。

基于問(wèn)答技術(shù)、知識(shí)圖譜和對(duì)抗樣本等技術(shù)，阿里安全近日研發(fā)出新一代AI驗(yàn)證碼，通過(guò)AI挖掘生活常識(shí)類信息作為問(wèn)答題庫(kù)，并對(duì)原始圖像有針對(duì)性的加入干擾，使得人眼識(shí)別不受影響，但會(huì)顯著降低黑產(chǎn)AI打碼的成功率。

基于安全AI理念，阿里安全圖靈實(shí)驗(yàn)室推出的AI鑒黃師可識(shí)別圖片、彈幕、語(yǔ)音等多維度信息。

“知識(shí)圖譜、多源網(wǎng)絡(luò)、對(duì)抗樣本等構(gòu)建出更強(qiáng)、更安全的AI技術(shù)能力，可以有效防范攻擊，降低風(fēng)險(xiǎn)”。奧創(chuàng)舉例，用AI判定互聯(lián)網(wǎng)平臺(tái)上對(duì)于違規(guī)視頻的判定，除了計(jì)算機(jī)視覺(jué)技術(shù)之外，加入了語(yǔ)言、語(yǔ)音等多源網(wǎng)絡(luò)的設(shè)計(jì)，比如視頻畫(huà)面、視頻中的語(yǔ)音、彈幕和交互信息等多個(gè)維度。

奧創(chuàng)認(rèn)為，2019年將是安全AI的爆發(fā)之年，針對(duì)安全場(chǎng)景的AI設(shè)計(jì)，極限數(shù)據(jù)情況下的模型訓(xùn)練、實(shí)現(xiàn)不同業(yè)態(tài)與場(chǎng)景下的模型遷移、決策場(chǎng)景下的模型可解釋性、強(qiáng)對(duì)抗場(chǎng)景下的模型安全性這四個(gè)方向?qū)⒎浅Ｖ档锰剿鳌?/p>

“歐盟剛剛出臺(tái)《人工智能道德準(zhǔn)則》，明確提出AI的發(fā)展方向應(yīng)該是‘可信賴AI’，包含安全、隱私、透明等多個(gè)方面，AI應(yīng)用正在成為一個(gè)社會(huì)問(wèn)題，如何解決已經(jīng)成為各界共同關(guān)注的話題?！眾W創(chuàng)說(shuō)。