利用邊緣計算如何構(gòu)建應(yīng)用平臺

物聯(lián)網(wǎng)（ IoT ）的發(fā)展和企業(yè)對人工智能的采用，使人們重新關(guān)注邊緣計算。組織正在尋求利用這些物聯(lián)網(wǎng)設(shè)備在邊緣產(chǎn)生的數(shù)據(jù)，解決以前集中式數(shù)據(jù)中心或云計算無法解決的挑戰(zhàn)。

當(dāng)邊緣計算和人工智能（也稱為 Edge AI ）相結(jié)合時，用于實時推理，從而推動業(yè)務(wù)流程的數(shù)字轉(zhuǎn)換。 Edge AI 是智能空間的核心技術(shù)，可提高效率、自動化工作流程、降低成本并改善整體客戶體驗。

如今，所有行業(yè)的組織都在工廠、零售店、石油鉆塔和自動機器上推出 edge AI 解決方案。

與任何新的 IT 計劃一樣，充分利用邊緣計算需要精心規(guī)劃，以構(gòu)建一個能夠滿足當(dāng)今和未來任何擴展需求的平臺。

什么是邊緣計算？

從廣義上講， 邊緣計算 指的是數(shù)據(jù)中心或云之外的任何東西。更具體地說，這是一種將計算能力從物理上轉(zhuǎn)移到更接近數(shù)據(jù)生成位置（通常是物聯(lián)網(wǎng)設(shè)備或傳感器）的做法。

與云計算相比 ，邊緣計算提供更低的延遲、更低的帶寬要求和更好的數(shù)據(jù)隱私。有 不同類型的邊緣計算 ，通常根據(jù)用例、網(wǎng)絡(luò)需求或位置進(jìn)行細(xì)分。內(nèi)容交付網(wǎng)絡(luò)、工廠檢查、無摩擦商店和機器人都被認(rèn)為是邊緣計算的例子。

盡管存在差異，但好處仍然是一樣的：低延遲、降低帶寬要求和數(shù)據(jù)隱私。

邊緣計算的成本是多少？

邊緣計算的成本因規(guī)模、數(shù)據(jù)、位置和專業(yè)知識而大不相同?？傮w成本可能會增加或減少，具體取決于邊緣環(huán)境中當(dāng)前的基礎(chǔ)設(shè)施。圖 1 顯示了幾個關(guān)鍵因素。

圖 1 影響成本的邊緣計算解決方案的組件

基礎(chǔ)設(shè)施成本

在邊緣部署人工智能應(yīng)用程序的首要考慮因素之一是支持用例所需的系統(tǒng)和傳感器。一般來說，在添加新的硬件或軟件之前，已經(jīng)有了某種基礎(chǔ)設(shè)施。邊緣基礎(chǔ)設(shè)施最常見的組件是傳感器、計算系統(tǒng)和網(wǎng)絡(luò)。

傳感器

傳感器的數(shù)量和類型都會影響組織的成本。許多組織已經(jīng)對物聯(lián)網(wǎng)傳感器進(jìn)行了投資，從而減少了邊緣計算推廣所需的總體投資。在添加傳感器時，一次性使用的掃描儀可以快速添加。

攝像頭是最通用的邊緣設(shè)備之一，可以讓您同時運行多個應(yīng)用程序。其他傳感器包括麥克風(fēng)、條形碼掃描儀或支持 RFID 的智能標(biāo)簽。

計算系統(tǒng)

邊緣計算可以在一個簡單的嵌入式設(shè)備上運行，成本高達(dá)數(shù)百美元。或者，它可以運行到半個甚至全機架的服務(wù)器，花費數(shù)十萬美元。計算系統(tǒng)的大小取決于收集和處理的數(shù)據(jù)量、一個或多個人工智能模型的復(fù)雜性，以及在任何給定時間運行的推理次數(shù)。

當(dāng)在邊緣建立計算時，重要的是要考慮在環(huán)境中運行的現(xiàn)有和將來的邊緣用例。一些應(yīng)用程序可以在僅CPU的系統(tǒng)上運行，而其他應(yīng)用程序需要 GPU ，或者可以從 GPU 中受益匪淺。

嵌入式設(shè)備，甚至是單 GPU 系統(tǒng)在前端都比較便宜。但是，如果您的計劃是運行多個 AI 應(yīng)用程序，那么一個具有多個 GPU 且可以運行多個工作負(fù)載的單一系統(tǒng)可以節(jié)省成本。在空間有限的地區(qū)，它通常也會更有效。

網(wǎng)絡(luò)

大多數(shù)企業(yè)邊緣使用案例都是在本地運行的，可以是硬連線到網(wǎng)絡(luò)，也可以是 Wi-Fi 。這使得網(wǎng)絡(luò)組件基本上是免費的。依賴蜂窩網(wǎng)絡(luò)的遠(yuǎn)程設(shè)備確實會因傳輸?shù)臄?shù)據(jù)產(chǎn)生成本，如果數(shù)據(jù)是視頻，成本會特別高。

AI-on-5G 是許多組織需要考慮的一個關(guān)鍵話題，尤其是那些正在研究依賴有保證的性能和高速無線網(wǎng)絡(luò)的用例的組織。這些解決方案仍處于開發(fā)的早期階段，這使得成本難以確定。

邊緣計算的另一個網(wǎng)絡(luò)考慮因素是查看將向數(shù)據(jù)中心或云發(fā)送哪些數(shù)據(jù)以及發(fā)送多少數(shù)據(jù)。大多數(shù)組織使用來自邊緣的數(shù)據(jù)在一個集中的位置驗證和再培訓(xùn)他們的人工智能模型。圍繞數(shù)據(jù)構(gòu)建一個考慮到網(wǎng)絡(luò)和存儲的戰(zhàn)略對于確保管理維護邊緣應(yīng)用程序的總體成本至關(guān)重要。

申請費用

在未來幾年，人工智能應(yīng)用程序的生產(chǎn)數(shù)量預(yù)計將增長到 60% 以上。不是組織是否會部署人工智能應(yīng)用程序，而是何時部署。組織要么構(gòu)建或購買應(yīng)用程序，要么使用混合方法。

構(gòu)建人工智能應(yīng)用程序

從頭開始建設(shè)數(shù)據(jù)科學(xué)團隊可能是一項艱巨的任務(wù)，尤其是由于大多數(shù)地區(qū)對合格候選人的需求很高，且供應(yīng)有限。數(shù)據(jù)科學(xué)家的平均工資從 10 萬美元到 15 萬美元不等，取決于技能水平。即使是內(nèi)部有人工智能開發(fā)人員的組織，也經(jīng)常采用構(gòu)建和購買相結(jié)合的策略，將其內(nèi)部專業(yè)知識用于幫助其與眾不同的關(guān)鍵應(yīng)用程序。

購買人工智能應(yīng)用程序

對于那些還沒有數(shù)據(jù)科學(xué)家和人工智能開發(fā)人員的組織來說，購買人工智能應(yīng)用程序是首選方法。

Prebuilt applications 可以定制，價格從數(shù)千美元到數(shù)萬美元不等，具體取決于它們的許可方式。

Custom applications 從頭開始構(gòu)建，包括開發(fā)和推出，成本高達(dá)數(shù)十萬美元。

根據(jù)客戶需求，可以購買額外的服務(wù)合同，用于對這些應(yīng)用程序進(jìn)行持續(xù)管理和升級。

管理成本

邊緣計算為管理帶來了獨特的挑戰(zhàn)。這些環(huán)境高度分散，部署在遠(yuǎn)程位置，沒有經(jīng)過培訓(xùn)的 IT 人員，而且通常缺乏數(shù)據(jù)中心預(yù)期的物理安全性。

管理軟件

專用邊緣人工智能管理解決方案通常根據(jù)使用情況定價，管理中的系統(tǒng)或 GPU 是決定因素。這些解決方案具有為邊緣部署量身定制的關(guān)鍵功能，以及隨著成本增長而擴展的能力。這些解決方案的一些示例包括 NVIDIA Fleet Command 、 Azure IoT 和 AWS IoT 。

另一個管理選項是將傳統(tǒng)的數(shù)據(jù)中心管理解決方案擴展到邊緣。 VMware Tanzu 和 RedHat OpenShift 通常都存在于許多數(shù)據(jù)中心部署中，這意味著 IT 團隊對它們有經(jīng)驗。將這些解決方案擴展到邊緣可能需要增加許可成本，具體取決于公司簽訂的合同。

應(yīng)考慮的其他成本包括使這些解決方案與邊緣部署兼容所需的時間，以及對這些環(huán)境的持續(xù)管理。

托管服務(wù)

一些組織希望將其邊緣計算環(huán)境的管理外包給系統(tǒng)集成商或其他管理合作伙伴。這些活動可能會有很大不同，包括人工智能模型的開發(fā)、基礎(chǔ)設(shè)施的供應(yīng)和管理，以及人工智能應(yīng)用程序的推出和更新。

當(dāng)構(gòu)建和管理 edge AI 解決方案的內(nèi)部專業(yè)知識有限時，通常會考慮此選項。根據(jù)范圍、規(guī)模和持續(xù)時間的不同，這些項目的成本從數(shù)十萬美元到數(shù)百萬美元不等。

邊緣計算比云計算便宜嗎？

許多組織都在云計算領(lǐng)域進(jìn)行了大量投資。現(xiàn)在，隨著邊緣計算的興起，他們正在尋求節(jié)約成本。當(dāng) 將邊緣與云進(jìn)行比較 出現(xiàn)時， edge AI 通常是一項新的投資，因此需要提前開始。如果將這一成本與移動流媒體數(shù)據(jù)并將其存儲在云中的成本相比較，成本可能會有所降低。

大多數(shù)情況下，向邊緣計算的轉(zhuǎn)移是由于一個需要實時響應(yīng)或部署在帶寬有限的遠(yuǎn)程位置的用例。例如，由于延遲要求，云環(huán)境不可能提供預(yù)測性維護、安全警報或自動機器等工作負(fù)載。

在這種情況下，降低邊緣計算的成本并不重要；相反，人工智能算法為組織帶來了巨大的商業(yè)價值。

邊緣計算的價值是什么？

對于大多數(shù)組織來說，邊緣計算是一種范式轉(zhuǎn)變。與其他轉(zhuǎn)型轉(zhuǎn)變一樣，如果不仔細(xì)思考，這個過程可能會很復(fù)雜，成本也很高。然而，當(dāng)與人工智能結(jié)合時，您的組織可以看到巨大的好處。從提高效率到降低運營成本，再到改善客戶智能和體驗， edge AI 帶來的經(jīng)濟效益可以用數(shù)百萬美元來衡量。

人工智能提供了一種無摩擦的購物體驗，顧客可以走進(jìn)商店，選擇他們想要購買的商品，然后離開，商品會自動記入他們的賬戶。

零售商通過人工智能解決勞動力短缺和供應(yīng)鏈問題 ：在過去的一年里，零售商經(jīng)歷了令人難以置信的挑戰(zhàn)，勞動力減少了 6.2% ，停工對全球供應(yīng)鏈造成了嚴(yán)重破壞。使用人工智能解決方案，商店和餐館已經(jīng)能夠改進(jìn)自動化、預(yù)測和物流，為客戶提供更好的體驗。

人工智能檢驗降低了總制造成本 ：在任何生產(chǎn)線上，手動檢查都需要大量時間，并且需要高技能工人來保持高質(zhì)量。當(dāng)需要準(zhǔn)確、快速的缺陷檢測時，人工智能可以是提高整體設(shè)備效率（ OEE ）和提高生產(chǎn)線產(chǎn)量的完美解決方案。一家制造商能夠通過在工廠使用人工智能光學(xué)檢測，將檢測成本從總制造成本的 30% 降低到 30% 。

智能醫(yī)院優(yōu)化工作流程，改善臨床醫(yī)生體驗 ：醫(yī)療服務(wù)的提供變得越來越具有挑戰(zhàn)性，提供者、員工和 IT 都必須用更少的資源做更多的事情。人工智能有助于增強這些供應(yīng)商的工作，為他們提供有價值的及時見解，不僅減輕他們的負(fù)擔(dān)，還拯救生命。使用視覺人工智能監(jiān)控患者和自動化工作流程，一個擁有 100 張床位的設(shè)施每年可以節(jié)省 1100 萬美元。

開始

鑒于 Edge AI 的價值，如何推出成功的 edge 戰(zhàn)略無疑是組織和 IT 部門關(guān)注的一個關(guān)鍵話題。作為人工智能領(lǐng)域的領(lǐng)導(dǎo)者，NVIDIA 與客戶和合作伙伴合作，創(chuàng)建了能夠提供強大分布式計算的邊緣計算解決方案；安全遠(yuǎn)程管理；以及與業(yè)界領(lǐng)先技術(shù)的兼容性。

關(guān)于作者

Amanda Saunders 在 NVIDIA 負(fù)責(zé) Edge 和企業(yè)計算解決方案集團的 Edge AI 產(chǎn)品營銷。她為醫(yī)院、商店、倉庫、工廠等帶來了智能的邊緣計算解決方案。除了從事 edge 解決方案之外， Amanda 還在 NVIDIA 擔(dān)任銷售和營銷角色，與 AI 、數(shù)據(jù)科學(xué)、虛擬 GPU 和許多不同行業(yè)合作。

審核編輯：郭婷