AI時(shí)代如何確保計(jì)算安全？

正如其他技術(shù)革新一樣，人工智能 (AI) 為人們的數(shù)字體驗(yàn)帶來(lái)了新機(jī)遇，但同時(shí)也伴隨著諸多挑戰(zhàn)。除了潛在的變革性影響，有鑒于AI 應(yīng)用的過(guò)程中，大量的敏感數(shù)據(jù)會(huì)被收集和保存，并進(jìn)一步被使用在為最終用戶提供高度個(gè)性化的技術(shù)體驗(yàn)上，它同時(shí)也帶來(lái)了獨(dú)特的安全威脅。對(duì)安全問(wèn)題的關(guān)注正推動(dòng)行業(yè)及社會(huì)各界展開密切討論，攜手尋找合適的解決方案，以更大限度地發(fā)揮 AI 的優(yōu)勢(shì)，并盡可能減少任何潛在的社會(huì)影響。

注重安全性深植于 Arm 的企業(yè)核心基因之中。積極應(yīng)對(duì)安全挑戰(zhàn)是 Arm 為無(wú)處不在的 AI 奠定技術(shù)基礎(chǔ)的根基。在 AI 以空前的規(guī)模加速技術(shù)創(chuàng)新之時(shí)，Arm 在其業(yè)內(nèi)領(lǐng)先的 IP 中部署了基礎(chǔ)安全技術(shù)與相關(guān)標(biāo)準(zhǔn)，在 AI 的持續(xù)演進(jìn)過(guò)程中繼續(xù)發(fā)揮重要作用，以應(yīng)對(duì)新出現(xiàn)的安全威脅。

安全性在邊緣 AI 領(lǐng)域的作用

隨著 AI 日益普及，我們預(yù)計(jì)在網(wǎng)絡(luò)邊緣設(shè)備上運(yùn)行 AI 推理工作負(fù)載的場(chǎng)景將大幅增長(zhǎng)。由于推理工作使用的是經(jīng)過(guò)訓(xùn)練的模型，其所需的算力較少，有助于廣泛地推動(dòng)在邊緣領(lǐng)域?qū)崿F(xiàn)更高效的 AI 計(jì)算。與此同時(shí)，AI 工作負(fù)載將在更接近數(shù)據(jù)采集之處進(jìn)行處理，也能夠提供更快響應(yīng)的用戶體驗(yàn)，減少延遲。

從安全角度來(lái)看，將 AI 處理分布到邊緣應(yīng)用將使企業(yè)和用戶大受裨益。其中一個(gè)關(guān)鍵的安全優(yōu)勢(shì)在于，敏感的用戶數(shù)據(jù)可以在實(shí)際設(shè)備上進(jìn)行處理，而無(wú)需再發(fā)送給第三方，這使得企業(yè)和消費(fèi)者都能更好地掌控自己的數(shù)據(jù)。

目前市面上有很多基于 AI 的安全用例，其中，智能視覺可以充分展示邊緣 AI 的優(yōu)勢(shì)。許多企業(yè)正在研發(fā)智能攝像頭，以廣泛應(yīng)用于家庭、護(hù)理院和醫(yī)院，用以監(jiān)測(cè)老年人的相關(guān)活動(dòng)，以及時(shí)處理摔倒等意外情況的發(fā)生。在實(shí)際設(shè)備上提供圖像處理和場(chǎng)景識(shí)別的能力，實(shí)現(xiàn)了本質(zhì)上更安全的系統(tǒng)，消除了將敏感信息發(fā)送給第三方處理所帶來(lái)的風(fēng)險(xiǎn)。這也讓人們更容易接受在所需環(huán)境中安裝此類攝像頭，因?yàn)檫@些環(huán)境中往往也存在著重要的隱私考量。

打造可信賴的硬件

然而，企業(yè)還需要確保其硬件值得信賴，尤其是在 AI 時(shí)代，他們必須保護(hù)其成本高昂的生成式 AI 模型免受攻擊。此前發(fā)布的《PSA Certified 2023 安全性報(bào)告》強(qiáng)調(diào)了對(duì)安全硬件的需求，報(bào)告表明 69% 的技術(shù)決策者愿意為保護(hù)設(shè)備安全支付額外費(fèi)用，其中 65% 的決策者在做出購(gòu)買決策時(shí)特別關(guān)注安全認(rèn)證。若要防止惡意攻擊者竊取基于 AI 和機(jī)器學(xué)習(xí) (ML) 模型的知識(shí)產(chǎn)權(quán)，有效地保護(hù)邊緣設(shè)備至關(guān)重要。

處理器安全

不論是將 AI 的處理全權(quán)交給 CPU，或是結(jié)合 GPU 或 NPU 等協(xié)處理器一起提供支持，邊緣 AI 的發(fā)展趨勢(shì)都與 CPU 相關(guān)。大量 AI 計(jì)算正發(fā)生在 CPU 之上，因此 AI 時(shí)代的安全性取決于 CPU 的安全性。這也是為什么確保 AI 安全在很大程度上依賴于保障計(jì)算安全的基礎(chǔ)。

使用 AI 和 ML 工具及框架部署代碼有助于識(shí)別安全漏洞，但攻擊者也可以使用同樣的技術(shù)在數(shù)百萬(wàn)行代碼中找出可利用的漏洞。這意味著計(jì)算機(jī)架構(gòu)師需要加倍努力提高計(jì)算系統(tǒng)的安全性。多年來(lái)，Arm 朝著這個(gè)目標(biāo)刻苦鉆研，不斷開發(fā)和投資新的安全架構(gòu)功能。

內(nèi)存標(biāo)記擴(kuò)展

Arm 的內(nèi)存標(biāo)記擴(kuò)展 (Memory Tagging Extension, MTE) 功能內(nèi)建于最新一代 Armv9 架構(gòu) CPU 中。MTE 可以動(dòng)態(tài)識(shí)別空間和時(shí)間內(nèi)存安全問(wèn)題，這些問(wèn)題占所有嚴(yán)重安全漏洞的 70%。隨著 AI 的發(fā)展，這些安全威脅持續(xù)存在。

MTE 已經(jīng)在移動(dòng)設(shè)備市場(chǎng)上得到了廣泛應(yīng)用。MediaTek 已將這項(xiàng)技術(shù)部署到面向旗艦智能手機(jī)的基于 Arm 架構(gòu)的天璣 9300 系統(tǒng)級(jí)芯片 (SoC)上，而谷歌也已在 Android 14 中啟用了 MTE。vivo 在其 X100 和 X100 Pro 旗艦智能手機(jī)中搭載了天璣 9300，此前還宣布開放千鏡內(nèi)存安全檢測(cè)能力，將為其開發(fā)者提供 MTE 等技術(shù)。整個(gè)移動(dòng)生態(tài)系統(tǒng)致力于支持 MTE，這將幫助全球數(shù)百萬(wàn)開發(fā)者加快產(chǎn)品上市速度，提供更出色、更安全的用戶體驗(yàn)。未來(lái) MTE 的應(yīng)用范圍將不再局限于移動(dòng)領(lǐng)域，而是隨著采用 Arm A 系列架構(gòu)處理器的設(shè)備進(jìn)入到高性能的物聯(lián)網(wǎng) (IoT) 市場(chǎng)。

Arm 安全技術(shù)

作為 Armv9 架構(gòu)的一部分，我們推出了機(jī)密領(lǐng)域管理擴(kuò)展 (Realm Management Extensions, RME)，這是 Arm 機(jī)密計(jì)算架構(gòu) (CCA) 的基礎(chǔ)。這有助于保護(hù)運(yùn)行虛擬機(jī)的數(shù)據(jù)安全，避免因虛擬機(jī)管理程序遭到破壞而受到攻擊。用于訓(xùn)練先進(jìn) ML 模型的數(shù)據(jù)中心顯然需要這種技術(shù)，但在部署經(jīng)過(guò)訓(xùn)練的 ML 模型的物聯(lián)網(wǎng)市場(chǎng)中，確保邊緣計(jì)算系統(tǒng)的安全也同樣重要。

我們還引入了指針驗(yàn)證 (Pointer Authentication, PAC) 和分支目標(biāo)識(shí)別 (Branch Target Identification, BTI)，作為內(nèi)置于 Armv9 架構(gòu)中的安全技術(shù)，從而提供更強(qiáng)大的保護(hù)性能，防止返回導(dǎo)向編程 (Return-Orientated Programming, ROP) 和跳轉(zhuǎn)導(dǎo)向編程 (Jump-Orientated Programming, JOP) 等代碼復(fù)用攻擊。在 AI 時(shí)代，這一點(diǎn)非常重要，因?yàn)楣粽邔⒛軌蚶?AI 和 ML 工具，開發(fā)出復(fù)用已有代碼的復(fù)雜方法。PAC 和 BTI 正部署到消費(fèi)技術(shù)和物聯(lián)網(wǎng)市場(chǎng)的 Arm A 系列和 M 系列架構(gòu)中。

此外，Arm 將繼續(xù)與業(yè)界伙伴展開協(xié)作，推動(dòng)我們的安全框架和認(rèn)證計(jì)劃 PSA Certified 的發(fā)展，創(chuàng)建面向所有聯(lián)網(wǎng)設(shè)備的最佳實(shí)踐基準(zhǔn)。這一體系從核心層面構(gòu)建，有助于改善系統(tǒng)的基礎(chǔ)安全狀況，滿足消費(fèi)者的期望——即隨著設(shè)備的普及，其安全性也應(yīng)得到保障。這一目標(biāo)主要針對(duì)基于 Arm A 系列和 M 系列架構(gòu)的物聯(lián)網(wǎng)設(shè)備。

Morello 與安全領(lǐng)域的未來(lái)

除了現(xiàn)有的安全功能外，Arm 始終關(guān)注新的技術(shù)、標(biāo)準(zhǔn)和合作，積極尋求提高安全性的機(jī)會(huì)。Morello 就是一個(gè)很好的例子，該計(jì)劃重點(diǎn)研究 CPU 架構(gòu)的創(chuàng)新設(shè)計(jì)方法，致力于構(gòu)建更加強(qiáng)大的處理器，防止產(chǎn)生某些關(guān)鍵的安全漏洞。我們與劍橋大學(xué)和 SRI International 合作，開發(fā)出了一種原型技術(shù)，如果進(jìn)展順利的話，可能會(huì)實(shí)施到未來(lái)的硬件中。

加快推進(jìn) AI 時(shí)代的安全性

基于 AI 和 ML 的技術(shù)正日益滲透到計(jì)算的各個(gè)領(lǐng)域。隨著 AI 工作負(fù)載逐漸轉(zhuǎn)移到邊緣，機(jī)遇和挑戰(zhàn)將在安全領(lǐng)域并存。

在 AI 創(chuàng)新快速涌現(xiàn)的同時(shí)，我們?nèi)匀恍枰裱A(chǔ)的安全原則。事實(shí)上，在 AI 時(shí)代，許多目前已投入使用的 Arm 基礎(chǔ)安全技術(shù)將變得更為重要。

正因如此，我們將致力于提高相關(guān)架構(gòu)、IP 和處理器的安全性，并為由此產(chǎn)生的技術(shù)組件和標(biāo)準(zhǔn)提供大力支持。Arm 將持續(xù)增加更多的 AI 和 ML 功能，同時(shí)推動(dòng)安全性的加速發(fā)展，進(jìn)而成為全球 AI 體驗(yàn)的安全計(jì)算平臺(tái)。

審核編輯：劉清