淺談邊緣計(jì)算與云計(jì)算

公有云計(jì)算平臺(tái)使企業(yè)能夠使用全球服務(wù)器補(bǔ)充其私有數(shù)據(jù)中心，將基礎(chǔ)設(shè)施擴(kuò)展到任何位置，并根據(jù)自身需求擴(kuò)展和縮減計(jì)算資源。這些公私混合云為企業(yè)計(jì)算應(yīng)用提供了前所未有的靈活性、價(jià)值和安全性。

但在全球各地實(shí)時(shí)運(yùn)行的AI應(yīng)用可能需要巨大的本地處理能力，而且往往是在遠(yuǎn)離中央云服務(wù)器的偏遠(yuǎn)地區(qū)。由于低時(shí)延或數(shù)據(jù)駐留要求，一些工作負(fù)載需要保留在本地或特定地點(diǎn)。

這就是為什么許多企業(yè)使用邊緣計(jì)算部署AI應(yīng)用，邊緣計(jì)算能夠在產(chǎn)生數(shù)據(jù)的地點(diǎn)處理數(shù)據(jù)，在本地邊緣設(shè)備中處理和存儲(chǔ)數(shù)據(jù)，而不是在遙遠(yuǎn)的中央數(shù)據(jù)存儲(chǔ)庫中進(jìn)行云處理。因此，此類設(shè)備無需聯(lián)網(wǎng)就能作為一個(gè)獨(dú)立的網(wǎng)絡(luò)節(jié)點(diǎn)運(yùn)行。

云和邊緣計(jì)算有許多優(yōu)點(diǎn)和用例，并且可以一起使用。

什么是云計(jì)算

根據(jù)研究機(jī)構(gòu)Gartner的定義，“云計(jì)算是一種使用網(wǎng)絡(luò)技術(shù)以服務(wù)形式提供可擴(kuò)展、彈性IT功能的計(jì)算方式?！?/p>

云計(jì)算有許多優(yōu)點(diǎn)。《哈佛商業(yè)評(píng)論》中的“云轉(zhuǎn)型狀況”報(bào)告，83%的受訪者表示，云對(duì)企業(yè)機(jī)構(gòu)的未來戰(zhàn)略和增長(zhǎng)極其重要。

云計(jì)算必定會(huì)日益普及。企業(yè)采用云基礎(chǔ)設(shè)施并將繼續(xù)這樣做的原因包括：

更低的前期成本：省去了購買硬件、軟件、IT管理以及24小時(shí)供電和冷卻的資本支出。云計(jì)算使企業(yè)機(jī)構(gòu)能夠迅速將應(yīng)用推向市場(chǎng)并降低進(jìn)入市場(chǎng)的財(cái)務(wù)門檻。

靈活的定價(jià)：企業(yè)只需為所使用的計(jì)算資源付費(fèi)，因此可以更好地控制成本，減少意外情況。

無限的按需計(jì)算：云服務(wù)能夠通過自動(dòng)配置和刪除資源來即時(shí)應(yīng)對(duì)和適應(yīng)不斷變化的需求，從而降低成本，提高企業(yè)機(jī)構(gòu)的整體效率。

簡(jiǎn)化的IT管理：云供應(yīng)商為其客戶提供IT管理專家服務(wù)，使員工能夠?qū)Ｗ⒂谄髽I(yè)的核心需求。

易于更新：只需點(diǎn)擊一次就可以獲得最新的硬件、軟件和服務(wù)。

穩(wěn)定可靠：由于可以在云供應(yīng)商網(wǎng)絡(luò)上的多個(gè)冗余站點(diǎn)建立數(shù)據(jù)鏡像，因此能夠以更低的成本輕松地實(shí)現(xiàn)備份、災(zāi)難恢復(fù)和業(yè)務(wù)連續(xù)性。

節(jié)省時(shí)間：企業(yè)在配置私有服務(wù)器和網(wǎng)絡(luò)時(shí)會(huì)浪費(fèi)時(shí)間。有了按需提供的云基礎(chǔ)設(shè)施，企業(yè)能夠在很短的時(shí)間內(nèi)部署應(yīng)用并更快進(jìn)入市場(chǎng)。

什么是邊緣計(jì)算

邊緣計(jì)算將算力移動(dòng)到產(chǎn)生數(shù)據(jù)的硬件附近(通常是物聯(lián)網(wǎng)設(shè)備或傳感器)，它因?qū)⑺懔σ苿?dòng)到網(wǎng)絡(luò)或設(shè)備邊緣而得名，能加快數(shù)據(jù)處理速度、增加帶寬并確保數(shù)據(jù)主權(quán)。

通過在網(wǎng)絡(luò)邊緣處理數(shù)據(jù)，邊緣計(jì)算減少了大量數(shù)據(jù)在服務(wù)器、云和設(shè)備或邊緣位置之間傳輸?shù)男枨蟆＿@對(duì)于數(shù)據(jù)科學(xué)和AI等現(xiàn)代化應(yīng)用尤為重要。

邊緣計(jì)算的優(yōu)點(diǎn)

Gartner預(yù)測(cè)：“在生產(chǎn)中部署邊緣用例的企業(yè)數(shù)量將從2019年的約5%增長(zhǎng)至2024年的約40%。”許多高性能計(jì)算應(yīng)用已經(jīng)成為現(xiàn)代生活的支柱，例如深度學(xué)習(xí)和推理、數(shù)據(jù)處理和分析、模擬以及視頻流等。隨著企業(yè)逐漸意識(shí)到這些應(yīng)用由邊緣計(jì)算驅(qū)動(dòng)，生產(chǎn)中的邊緣用例數(shù)量也將會(huì)增加。

投資于邊緣技術(shù)的企業(yè)可以獲得以下優(yōu)勢(shì)：

減少時(shí)延：邊緣數(shù)據(jù)處理避免或減少了數(shù)據(jù)的傳輸，因此可以更快洞悉具有低時(shí)延要求的復(fù)雜AI模型用例，例如全自動(dòng)駕駛汽車和增強(qiáng)現(xiàn)實(shí)等。

降低成本：與云計(jì)算相比，使用局域網(wǎng)進(jìn)行數(shù)據(jù)處理可以讓企業(yè)以更低的成本獲得更高的帶寬和存儲(chǔ)。此外，由于在邊緣進(jìn)行處理，因此需要發(fā)送到云或數(shù)據(jù)中心進(jìn)行進(jìn)一步處理的數(shù)據(jù)變得更少，這減少了需要傳輸?shù)臄?shù)據(jù)量，同時(shí)也降低了成本。

模型精度：AI依賴高精度模型，尤其是對(duì)于需要實(shí)時(shí)響應(yīng)的邊緣用例。當(dāng)網(wǎng)絡(luò)帶寬過低時(shí)，一般會(huì)通過降低輸入模型的數(shù)據(jù)大小來緩解。這會(huì)導(dǎo)致圖像尺寸減少、視頻跳幀和音頻采樣率降低。當(dāng)部署在邊緣時(shí)，數(shù)據(jù)反饋回路可提高AI模型的精度，并且可以同時(shí)運(yùn)行多個(gè)模型。

更廣泛的覆蓋范圍：互聯(lián)網(wǎng)接入是傳統(tǒng)云計(jì)算的必備條件。但邊緣計(jì)算可以在本地處理數(shù)據(jù)并且無需連接網(wǎng)絡(luò)，這將計(jì)算范圍擴(kuò)大到了以前無法接入或遠(yuǎn)程的位置。

數(shù)據(jù)主權(quán)：當(dāng)數(shù)據(jù)在采集地點(diǎn)得到處理時(shí)，企業(yè)機(jī)構(gòu)就可以通過邊緣計(jì)算將所有敏感數(shù)據(jù)和計(jì)算保留在局域網(wǎng)和公司防火墻內(nèi)。這能降低云端遭受網(wǎng)絡(luò)安全攻擊的風(fēng)險(xiǎn)，并使企業(yè)能夠更好地遵守嚴(yán)格而不斷變化的數(shù)據(jù)法律。

云計(jì)算在邊緣AI中扮演什么角色

邊緣和云計(jì)算都可以充分使用容器化的應(yīng)用。容器是一種易于部署的軟件包，可以在任何操作系統(tǒng)上運(yùn)行應(yīng)用。這些軟件包從主機(jī)操作系統(tǒng)中提取，因此它們可以在任何平臺(tái)或云端運(yùn)行。

云和邊緣容器的主要區(qū)別在于位置。邊緣容器位于網(wǎng)絡(luò)的邊緣，更接近數(shù)據(jù)源，而云容器則在數(shù)據(jù)中心運(yùn)行。

已實(shí)施容器化云解決方案的企業(yè)機(jī)構(gòu)可以十分輕松地將它們部署在邊緣。

企業(yè)機(jī)構(gòu)一般會(huì)使用云原生技術(shù)來管理他們的邊緣AI數(shù)據(jù)中心。這是因?yàn)檫吘堿I數(shù)據(jù)中心的服務(wù)器常常分布在成千上萬個(gè)地點(diǎn)，而且這些地點(diǎn)無法既沒有物理安全保障也沒有受過培訓(xùn)的人員。因此邊緣AI服務(wù)器必須是安全、有彈性并且易于大規(guī)模管理的。

何時(shí)使用邊緣計(jì)算和云計(jì)算?

邊緣計(jì)算和云計(jì)算具有不同的特點(diǎn)，大多數(shù)企業(yè)機(jī)構(gòu)最終會(huì)同時(shí)使用這兩種計(jì)算。下面是您部署不同工作負(fù)載時(shí)需要考慮的一些因素。

云計(jì)算

非時(shí)延敏感型數(shù)據(jù)處理

可靠的網(wǎng)絡(luò)連接

動(dòng)態(tài)工作負(fù)載

存儲(chǔ)在云端的數(shù)據(jù)

邊緣計(jì)算

實(shí)時(shí)數(shù)據(jù)處理

網(wǎng)絡(luò)連接受限或無網(wǎng)絡(luò)連接的遠(yuǎn)程地點(diǎn)

大型數(shù)據(jù)集的成本太高，無法發(fā)送到云

高度敏感的數(shù)據(jù)和嚴(yán)格的數(shù)據(jù)法律

邊緣計(jì)算優(yōu)于云計(jì)算的應(yīng)用示例之一是醫(yī)療機(jī)器人。外科醫(yī)生需要訪問實(shí)時(shí)數(shù)據(jù)，而這些系統(tǒng)包含了大量可以在云中執(zhí)行的軟件，但手術(shù)室中日益增加的智能分析和機(jī)器人控制系統(tǒng)無法容忍時(shí)延、網(wǎng)絡(luò)可靠性問題或帶寬限制。在該應(yīng)用示例中，邊緣計(jì)算直接關(guān)乎病人的生死。

兩全其美的選擇：混合云架構(gòu)

許多企業(yè)機(jī)構(gòu)必須融合云和邊緣，他們會(huì)盡可能采取集中式管理并在必要時(shí)采取分散式管理?；旌显萍軜?gòu)使企業(yè)能夠發(fā)揮本地系統(tǒng)的安全性和可管理性，同時(shí)充分運(yùn)用服務(wù)供應(yīng)商的公有云資源。

不同的企業(yè)機(jī)構(gòu)所采用的混合云解決方案也有所不同，例如在云端訓(xùn)練+在邊緣部署、在數(shù)據(jù)中心訓(xùn)練+在邊緣使用云管理工具、在邊緣訓(xùn)練+將模型集中到云端進(jìn)行聯(lián)合學(xué)習(xí)等。云與邊緣的結(jié)合可以創(chuàng)造無限的可能性。

原文標(biāo)題：一文了解邊緣計(jì)算與云計(jì)算

文章出處：【微信公眾號(hào)：NVIDIA英偉達(dá)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

審核編輯：湯梓紅