兩種深度學習技術部署:在設備上在云端和邊緣

如今，有兩種可能的深度學習技術部署：直接在設備上在云端和邊緣。

由于對處理能力和內存消耗的廣泛需求以及AI模型的規(guī)模，這些部署中的大多數(shù)依賴于云。盡管云部署使AI可以從高性能計算系統(tǒng)的功能中受益，但挑戰(zhàn)依然存在。需要將數(shù)據(jù)從設備來回發(fā)送到云以進行處理會引起隱私問題，并且由于延遲，帶寬和連接性而存在限制。

這促使業(yè)界專注于邊緣AI的開發(fā)，這是我在上一篇文章中談到的主題。這些工作主要圍繞引入用于訓練AI模型的新方法進行，這些方法可以減少占用空間，因此可以將這些模型直接部署在邊緣設備上。

邊緣AI將通過使智能設備實時做出真正自主的決策來解決深度云的不足，從而促進深度學習。具體而言，這將消除了將所有數(shù)據(jù)連續(xù)發(fā)送到云或從云連續(xù)發(fā)送的需要，從而改善了隱私，帶寬和延遲限制。此外，新興的邊緣AI部署方法極大地提高了速度，功耗和內存消耗，從而可以降低成本并限制對環(huán)境的影響。

一個人的利益不能被另一個人完全取代；因此，最具影響力的現(xiàn)實世界AI部署將是采用混合方法的部署：在云中和邊緣。但是混合方法是什么樣的呢？

混合部署的免費工作流可獲得更好的結果

第一步是通過確定必須實時在邊緣進行決策的用例，并通過可在云中進行處理以進行長期分析和改進的方案，來淘汰可最大化效率和可擴展性的工作流程。

如果您在智能邊緣設備上部署深度學習，那么在需要實時決策的情況下，例如自動駕駛汽車，農業(yè)無人機和系統(tǒng)，攝像機，移動設備等。同時，系統(tǒng)可以將數(shù)據(jù)上傳到云中以進行存儲以及進一步處理和分析，而這些處理和分析可以由功能更強大的引擎執(zhí)行。這將確保該系統(tǒng)可以實現(xiàn)大功率計算的優(yōu)勢，并允許將云中的數(shù)據(jù)與其他系統(tǒng)中的數(shù)據(jù)進行組合。

利用這些組合數(shù)據(jù)，可以對模型進行重新訓練以進行持續(xù)改進。一旦在云中進行了再培訓，就可以在邊緣重新部署新模型。

與采用單一方法相比，將云AI和邊緣部署的優(yōu)勢整合在一起更強大。具體來說，云AI的處理能力和高性能可以補充邊緣AI的效率，速度和自主性。

混合方法在行動

人工智能在自動駕駛汽車中的應用是一個說明補充方法好處的特定用例。

在此用例中，至關重要的是，AI模型必須在邊緣，直接在設備和車輛上運行，以確保汽車可以安全行駛。如果汽車在將數(shù)據(jù)發(fā)送到云端并進行處理之前無法采取行動，那么它將無法做出反應并迅速做出決策以確保安全。另外，無法保證車輛將保持連續(xù)的互聯(lián)網(wǎng)連接。

但是，汽車制造商還可以從捕獲數(shù)據(jù)中受益，而不僅僅是實時決策所必需的。將收集的數(shù)據(jù)發(fā)送到云進行處理是持續(xù)改進和重新訓練模型的關鍵。這不僅可以徹底處理設備的數(shù)據(jù)，而且還可以將深度學習的見解與從其他邊緣設備收集的數(shù)據(jù)相結合，以進行更大的輸入和理解?；诖艘娊?，可以不斷改進算法以發(fā)展自動駕駛汽車系統(tǒng)。

下一步是什么？邊緣AI和云AI的演變

隨著越來越多的組織在云端或邊緣利用AI的力量，我們將看到更多能夠提供現(xiàn)實價值的深度學習應用程序。

5G的興起將繼續(xù)推動深度學習的發(fā)展。隨著5G變得越來越普遍，它將增強超級計算的可訪問性。具體來說，5G將使從邊緣到云的數(shù)據(jù)共享變得更加無縫和高效，從而促進更高效的數(shù)據(jù)處理。

但是，即使使用5G，仍然需要在邊緣進行實時決策。云仍將無法即時滿足邊緣應用程序對數(shù)據(jù)處理的需求。因此，在計劃部署模型時，邊緣AI必須繼續(xù)成為AI公司關注的焦點。對于云和邊緣部署采用互補方法的企業(yè)，無論是在其模型的短期處理能力還是在有效存儲，處理和改進模型的長期能力上，都將獲得最大的成功。
責任編輯：YYX