物聯(lián)網(wǎng)( IoT )的發(fā)展和企業(yè)對人工智能的采用,使人們重新關(guān)注邊緣計算。組織正在尋求利用這些物聯(lián)網(wǎng)設(shè)備在邊緣產(chǎn)生的數(shù)據(jù),解決以前集中式數(shù)據(jù)中心或云計算無法解決的挑戰(zhàn)。
當(dāng)邊緣計算和人工智能(也稱為 Edge AI )相結(jié)合時,用于實時推理,從而推動業(yè)務(wù)流程的數(shù)字轉(zhuǎn)換。 Edge AI 是智能空間的核心技術(shù),可提高效率、自動化工作流程、降低成本并改善整體客戶體驗。
如今,所有行業(yè)的組織都在工廠、零售店、石油鉆塔和自動機器上推出 edge AI 解決方案。
與任何新的 IT 計劃一樣,充分利用邊緣計算需要精心規(guī)劃,以構(gòu)建一個能夠滿足當(dāng)今和未來任何擴展需求的平臺。
什么是邊緣計算?
從廣義上講, 邊緣計算 指的是數(shù)據(jù)中心或云之外的任何東西。更具體地說,這是一種將計算能力從物理上轉(zhuǎn)移到更接近數(shù)據(jù)生成位置(通常是物聯(lián)網(wǎng)設(shè)備或傳感器)的做法。
與云計算相比 ,邊緣計算提供更低的延遲、更低的帶寬要求和更好的數(shù)據(jù)隱私。有 不同類型的邊緣計算 ,通常根據(jù)用例、網(wǎng)絡(luò)需求或位置進(jìn)行細(xì)分。內(nèi)容交付網(wǎng)絡(luò)、工廠檢查、無摩擦商店和機器人都被認(rèn)為是邊緣計算的例子。
盡管存在差異,但好處仍然是一樣的:低延遲、降低帶寬要求和數(shù)據(jù)隱私。
邊緣計算的成本是多少?
邊緣計算的成本因規(guī)模、數(shù)據(jù)、位置和專業(yè)知識而大不相同??傮w成本可能會增加或減少,具體取決于邊緣環(huán)境中當(dāng)前的基礎(chǔ)設(shè)施。圖 1 顯示了幾個關(guān)鍵因素。
圖 1 影響成本的邊緣計算解決方案的組件
基礎(chǔ)設(shè)施成本
在邊緣部署人工智能應(yīng)用程序的首要考慮因素之一是支持用例所需的系統(tǒng)和傳感器。一般來說,在添加新的硬件或軟件之前,已經(jīng)有了某種基礎(chǔ)設(shè)施。邊緣基礎(chǔ)設(shè)施最常見的組件是傳感器、計算系統(tǒng)和網(wǎng)絡(luò)。
傳感器
傳感器的數(shù)量和類型都會影響組織的成本。許多組織已經(jīng)對物聯(lián)網(wǎng)傳感器進(jìn)行了投資,從而減少了邊緣計算推廣所需的總體投資。在添加傳感器時,一次性使用的掃描儀可以快速添加。
攝像頭是最通用的邊緣設(shè)備之一,可以讓您同時運行多個應(yīng)用程序。其他傳感器包括麥克風(fēng)、條形碼掃描儀或支持 RFID 的智能標(biāo)簽。
計算系統(tǒng)
邊緣計算可以在一個簡單的嵌入式設(shè)備上運行,成本高達(dá)數(shù)百美元。或者,它可以運行到半個甚至全機架的服務(wù)器,花費數(shù)十萬美元。計算系統(tǒng)的大小取決于收集和處理的數(shù)據(jù)量、一個或多個人工智能模型的復(fù)雜性,以及在任何給定時間運行的推理次數(shù)。
當(dāng)在邊緣建立計算時,重要的是要考慮在環(huán)境中運行的現(xiàn)有和將來的邊緣用例。一些應(yīng)用程序可以在僅CPU的系統(tǒng)上運行,而其他應(yīng)用程序需要 GPU ,或者可以從 GPU 中受益匪淺。
嵌入式設(shè)備,甚至是單 GPU 系統(tǒng)在前端都比較便宜。但是,如果您的計劃是運行多個 AI 應(yīng)用程序,那么一個具有多個 GPU 且可以運行多個工作負(fù)載的單一系統(tǒng)可以節(jié)省成本。在空間有限的地區(qū),它通常也會更有效。
網(wǎng)絡(luò)
大多數(shù)企業(yè)邊緣使用案例都是在本地運行的,可以是硬連線到網(wǎng)絡(luò),也可以是 Wi-Fi 。這使得網(wǎng)絡(luò)組件基本上是免費的。依賴蜂窩網(wǎng)絡(luò)的遠(yuǎn)程設(shè)備確實會因傳輸?shù)臄?shù)據(jù)產(chǎn)生成本,如果數(shù)據(jù)是視頻,成本會特別高。
AI-on-5G 是許多組織需要考慮的一個關(guān)鍵話題,尤其是那些正在研究依賴有保證的性能和高速無線網(wǎng)絡(luò)的用例的組織。這些解決方案仍處于開發(fā)的早期階段,這使得成本難以確定。
邊緣計算的另一個網(wǎng)絡(luò)考慮因素是查看將向數(shù)據(jù)中心或云發(fā)送哪些數(shù)據(jù)以及發(fā)送多少數(shù)據(jù)。大多數(shù)組織使用來自邊緣的數(shù)據(jù)在一個集中的位置驗證和再培訓(xùn)他們的人工智能模型。圍繞數(shù)據(jù)構(gòu)建一個考慮到網(wǎng)絡(luò)和存儲的戰(zhàn)略對于確保管理維護邊緣應(yīng)用程序的總體成本至關(guān)重要。
申請費用
在未來幾年,人工智能應(yīng)用程序的生產(chǎn)數(shù)量預(yù)計將增長到 60% 以上。不是組織是否會部署人工智能應(yīng)用程序,而是何時部署。組織要么構(gòu)建或購買應(yīng)用程序,要么使用混合方法。
構(gòu)建人工智能應(yīng)用程序
從頭開始建設(shè)數(shù)據(jù)科學(xué)團隊可能是一項艱巨的任務(wù),尤其是由于大多數(shù)地區(qū)對合格候選人的需求很高,且供應(yīng)有限。數(shù)據(jù)科學(xué)家的平均工資從 10 萬美元到 15 萬美元不等,取決于技能水平。即使是內(nèi)部有人工智能開發(fā)人員的組織,也經(jīng)常采用構(gòu)建和購買相結(jié)合的策略,將其內(nèi)部專業(yè)知識用于幫助其與眾不同的關(guān)鍵應(yīng)用程序。
購買人工智能應(yīng)用程序
對于那些還沒有數(shù)據(jù)科學(xué)家和人工智能開發(fā)人員的組織來說,購買人工智能應(yīng)用程序是首選方法。
Prebuilt applications 可以定制,價格從數(shù)千美元到數(shù)萬美元不等,具體取決于它們的許可方式。
Custom applications 從頭開始構(gòu)建,包括開發(fā)和推出,成本高達(dá)數(shù)十萬美元。
根據(jù)客戶需求,可以購買額外的服務(wù)合同,用于對這些應(yīng)用程序進(jìn)行持續(xù)管理和升級。
管理成本
邊緣計算為管理帶來了獨特的挑戰(zhàn)。這些環(huán)境高度分散,部署在遠(yuǎn)程位置,沒有經(jīng)過培訓(xùn)的 IT 人員,而且通常缺乏數(shù)據(jù)中心預(yù)期的物理安全性。
管理軟件
專用邊緣人工智能管理解決方案通常根據(jù)使用情況定價,管理中的系統(tǒng)或 GPU 是決定因素。這些解決方案具有為邊緣部署量身定制的關(guān)鍵功能,以及隨著成本增長而擴展的能力。這些解決方案的一些示例包括 NVIDIA Fleet Command 、 Azure IoT 和 AWS IoT 。
另一個管理選項是將傳統(tǒng)的數(shù)據(jù)中心管理解決方案擴展到邊緣。 VMware Tanzu 和 RedHat OpenShift 通常都存在于許多數(shù)據(jù)中心部署中,這意味著 IT 團隊對它們有經(jīng)驗。將這些解決方案擴展到邊緣可能需要增加許可成本,具體取決于公司簽訂的合同。
應(yīng)考慮的其他成本包括使這些解決方案與邊緣部署兼容所需的時間,以及對這些環(huán)境的持續(xù)管理。
托管服務(wù)
一些組織希望將其邊緣計算環(huán)境的管理外包給系統(tǒng)集成商或其他管理合作伙伴。這些活動可能會有很大不同,包括人工智能模型的開發(fā)、基礎(chǔ)設(shè)施的供應(yīng)和管理,以及人工智能應(yīng)用程序的推出和更新。
當(dāng)構(gòu)建和管理 edge AI 解決方案的內(nèi)部專業(yè)知識有限時,通常會考慮此選項。根據(jù)范圍、規(guī)模和持續(xù)時間的不同,這些項目的成本從數(shù)十萬美元到數(shù)百萬美元不等。
邊緣計算比云計算便宜嗎?
許多組織都在云計算領(lǐng)域進(jìn)行了大量投資。現(xiàn)在,隨著邊緣計算的興起,他們正在尋求節(jié)約成本。當(dāng) 將邊緣與云進(jìn)行比較 出現(xiàn)時, edge AI 通常是一項新的投資,因此需要提前開始。如果將這一成本與移動流媒體數(shù)據(jù)并將其存儲在云中的成本相比較,成本可能會有所降低。
大多數(shù)情況下,向邊緣計算的轉(zhuǎn)移是由于一個需要實時響應(yīng)或部署在帶寬有限的遠(yuǎn)程位置的用例。例如,由于延遲要求,云環(huán)境不可能提供預(yù)測性維護、安全警報或自動機器等工作負(fù)載。
在這種情況下,降低邊緣計算的成本并不重要;相反,人工智能算法為組織帶來了巨大的商業(yè)價值。
邊緣計算的價值是什么?
對于大多數(shù)組織來說,邊緣計算是一種范式轉(zhuǎn)變。與其他轉(zhuǎn)型轉(zhuǎn)變一樣,如果不仔細(xì)思考,這個過程可能會很復(fù)雜,成本也很高。然而,當(dāng)與人工智能結(jié)合時,您的組織可以看到巨大的好處。從提高效率到降低運營成本,再到改善客戶智能和體驗, edge AI 帶來的經(jīng)濟效益可以用數(shù)百萬美元來衡量。
人工智能提供了一種無摩擦的購物體驗,顧客可以走進(jìn)商店,選擇他們想要購買的商品,然后離開,商品會自動記入他們的賬戶。
零售商通過人工智能解決勞動力短缺和供應(yīng)鏈問題 :在過去的一年里,零售商經(jīng)歷了令人難以置信的挑戰(zhàn),勞動力減少了 6.2% ,停工對全球供應(yīng)鏈造成了嚴(yán)重破壞。使用人工智能解決方案,商店和餐館已經(jīng)能夠改進(jìn)自動化、預(yù)測和物流,為客戶提供更好的體驗。
人工智能檢驗降低了總制造成本 :在任何生產(chǎn)線上,手動檢查都需要大量時間,并且需要高技能工人來保持高質(zhì)量。當(dāng)需要準(zhǔn)確、快速的缺陷檢測時,人工智能可以是提高整體設(shè)備效率( OEE )和提高生產(chǎn)線產(chǎn)量的完美解決方案。一家制造商能夠通過在工廠使用人工智能光學(xué)檢測,將檢測成本從總制造成本的 30% 降低到 30% 。
智能醫(yī)院優(yōu)化工作流程,改善臨床醫(yī)生體驗 :醫(yī)療服務(wù)的提供變得越來越具有挑戰(zhàn)性,提供者、員工和 IT 都必須用更少的資源做更多的事情。人工智能有助于增強這些供應(yīng)商的工作,為他們提供有價值的及時見解,不僅減輕他們的負(fù)擔(dān),還拯救生命。使用視覺人工智能監(jiān)控患者和自動化工作流程,一個擁有 100 張床位的設(shè)施每年可以節(jié)省 1100 萬美元。
開始
鑒于 Edge AI 的價值,如何推出成功的 edge 戰(zhàn)略無疑是組織和 IT 部門關(guān)注的一個關(guān)鍵話題。作為人工智能領(lǐng)域的領(lǐng)導(dǎo)者,NVIDIA 與客戶和合作伙伴合作,創(chuàng)建了能夠提供強大分布式計算的邊緣計算解決方案;安全遠(yuǎn)程管理;以及與業(yè)界領(lǐng)先技術(shù)的兼容性。
關(guān)于作者
Amanda Saunders 在 NVIDIA 負(fù)責(zé) Edge 和企業(yè)計算解決方案集團的 Edge AI 產(chǎn)品營銷。她為醫(yī)院、商店、倉庫、工廠等帶來了智能的邊緣計算解決方案。除了從事 edge 解決方案之外, Amanda 還在 NVIDIA 擔(dān)任銷售和營銷角色,與 AI 、數(shù)據(jù)科學(xué)、虛擬 GPU 和許多不同行業(yè)合作。
審核編輯:郭婷
-
物聯(lián)網(wǎng)
+關(guān)注
關(guān)注
2899文章
43826瀏覽量
369384 -
人工智能
+關(guān)注
關(guān)注
1789文章
46438瀏覽量
236666 -
邊緣計算
+關(guān)注
關(guān)注
22文章
3025瀏覽量
48321
發(fā)布評論請先 登錄
相關(guān)推薦
評論