阿里攜手IJCAI共同發(fā)起AI對(duì)抗算法競(jìng)賽

1月23日，阿里安全、阿里云天池平臺(tái)聯(lián)合人工智能領(lǐng)域國際會(huì)議IJCAI（International Joint Conference on Artificial Intelligence），共同發(fā)起AI對(duì)抗算法競(jìng)賽，探索在對(duì)抗攻擊時(shí)，如何解決 AI 模型的安全性問題。目前，賽題和日程已在阿里云天池平臺(tái)公布。

這次比賽主要針對(duì)圖像分類，包括模型攻擊與模型防御，公開110個(gè)類目，共計(jì)約11萬張圖片，供選手使用。參賽選手可以作為攻擊方，對(duì)圖片進(jìn)行輕微擾動(dòng)生成對(duì)抗樣本，使模型識(shí)別錯(cuò)誤或識(shí)別成指定的錯(cuò)誤類別；同時(shí)也可以作為防御方，構(gòu)建一個(gè)更加魯棒的模型，準(zhǔn)確識(shí)別對(duì)抗樣本。

該比賽強(qiáng)調(diào)面向真實(shí)場(chǎng)景，因此競(jìng)賽采用實(shí)際場(chǎng)景的圖片識(shí)別任務(wù)進(jìn)行攻防對(duì)抗。除真實(shí)數(shù)據(jù)外，還包括對(duì)計(jì)算量的嚴(yán)格限制，以及對(duì)擾動(dòng)噪音的限制，這更能還原真實(shí)的安全與“黑灰產(chǎn)”的攻防。

據(jù)悉，通過大賽發(fā)掘安全AI人才是本次大賽的預(yù)期目標(biāo)之一。經(jīng)過初賽、復(fù)賽和答辯，排名前三的隊(duì)伍，除獲得1000-5000美元不等的獎(jiǎng)金外，還會(huì)被邀請(qǐng)參加今年8月在澳門舉辦的 IJCAI 會(huì)議。

IJCAI 被中國計(jì)算機(jī)學(xué)會(huì)推薦為計(jì)算機(jī)學(xué)科領(lǐng)域A 國際會(huì)議，從1969年開始，每?jī)赡昱e辦一次，自2016年起改為每年舉辦一次。