0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

部署在邊緣設(shè)備上的輕量級(jí)模型

Carol Li ? 來源:電子發(fā)燒友 ? 作者:李彎彎 ? 2024-05-11 00:17 ? 次閱讀

電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)邊緣AI算法是一種將人工智能(AI)算法和計(jì)算能力放置在接近數(shù)據(jù)源的終端設(shè)備中的策略。這種算法通常被部署在邊緣設(shè)備上,如傳感器智能手機(jī)、攝像頭等,以便在靠近數(shù)據(jù)源的地方進(jìn)行智能決策和數(shù)據(jù)處理。

邊緣AI算法通常是經(jīng)過優(yōu)化和壓縮的輕量級(jí)模型

邊緣AI算法的工作原理涉及三個(gè)關(guān)鍵要素:終端設(shè)備、邊緣計(jì)算和人工智能算法。終端設(shè)備收集到的數(shù)據(jù)被認(rèn)為是邊緣數(shù)據(jù),需要進(jìn)行實(shí)時(shí)處理和分析。邊緣計(jì)算是指在距離數(shù)據(jù)源較近的地方進(jìn)行計(jì)算和處理,而邊緣設(shè)備通常配備有一定的計(jì)算資源,能夠執(zhí)行一部分輕量級(jí)的AI算法和數(shù)據(jù)處理。在邊緣設(shè)備上運(yùn)行的AI算法通常是經(jīng)過優(yōu)化和壓縮的輕量級(jí)模型,這些模型能夠在設(shè)備端進(jìn)行實(shí)時(shí)的數(shù)據(jù)處理和分析,從而實(shí)現(xiàn)即時(shí)響應(yīng)。

邊緣AI算法涵蓋了多種類型,如決策樹算法,這是一種常用的分類算法,能夠根據(jù)特征屬性將數(shù)據(jù)進(jìn)行劃分,從而實(shí)現(xiàn)對數(shù)據(jù)的分類和預(yù)測。支持向量機(jī)(SVM)算法,這是一種針對分類和回歸分析問題的算法,它通過尋找最大間隔超平面來實(shí)現(xiàn)數(shù)據(jù)的分類和預(yù)測。

神經(jīng)網(wǎng)絡(luò)算法,它模擬了人腦神經(jīng)元的工作原理,能夠處理復(fù)雜的非線性關(guān)系,因此在圖像識(shí)別、語音識(shí)別等領(lǐng)域有著廣泛的應(yīng)用。貝葉斯算法,這是一種基于貝葉斯定理的分類算法,它能夠根據(jù)先驗(yàn)概率和樣本數(shù)據(jù)來計(jì)算后驗(yàn)概率,從而實(shí)現(xiàn)對數(shù)據(jù)的分類和預(yù)測。

聚類算法,用于將數(shù)據(jù)集中的對象分成不同的組,常見的算法包括K均值算法、層次聚類算法等?;貧w分析算法,用于建立變量之間的關(guān)系模型,從而進(jìn)行預(yù)測和分析。

此外,還有監(jiān)督學(xué)習(xí)算法、無監(jiān)督學(xué)習(xí)算法、強(qiáng)化學(xué)習(xí)算法和深度學(xué)習(xí)算法等。監(jiān)督學(xué)習(xí)算法使用有標(biāo)記數(shù)據(jù)集進(jìn)行訓(xùn)練,并通過這些數(shù)據(jù)中的輸入和輸出之間的關(guān)聯(lián)來構(gòu)建模型;無監(jiān)督學(xué)習(xí)算法則是使用無標(biāo)記數(shù)據(jù)集進(jìn)行訓(xùn)練,通過發(fā)現(xiàn)數(shù)據(jù)之間的模式或結(jié)構(gòu)來構(gòu)建模型;強(qiáng)化學(xué)習(xí)算法則是通過在環(huán)境中執(zhí)行一系列操作來學(xué)習(xí)最優(yōu)策略的算法;深度學(xué)習(xí)算法則是一種基于神經(jīng)網(wǎng)絡(luò)模型的機(jī)器學(xué)習(xí)算法,通過多層次的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)來模擬人腦的工作方式。
這些算法在邊緣AI中可以根據(jù)具體的應(yīng)用場景進(jìn)行選擇和組合,以實(shí)現(xiàn)對數(shù)據(jù)的分析、預(yù)測和決策支持。

邊緣AI算法適合應(yīng)用于對實(shí)時(shí)性要求高、網(wǎng)絡(luò)連接有限的場景

邊緣AI算法的使用場景包括,實(shí)時(shí)性要求高的場景,例如自動(dòng)駕駛汽車和無人駕駛系統(tǒng),這些系統(tǒng)需要實(shí)時(shí)處理大量的傳感器數(shù)據(jù)以進(jìn)行道路分析和響應(yīng)。邊緣AI算法能夠在設(shè)備端進(jìn)行實(shí)時(shí)的數(shù)據(jù)處理和分析,實(shí)現(xiàn)即時(shí)響應(yīng),滿足自動(dòng)駕駛系統(tǒng)對實(shí)時(shí)性的高要求。

網(wǎng)絡(luò)連接有限的場景,在一些偏遠(yuǎn)地區(qū)或網(wǎng)絡(luò)覆蓋不足的地方,將數(shù)據(jù)全部傳輸?shù)皆贫诉M(jìn)行處理可能不太現(xiàn)實(shí)。在這些場景中,邊緣AI算法可以在本地設(shè)備上進(jìn)行數(shù)據(jù)處理和分析,減少了對網(wǎng)絡(luò)連接的依賴,保證了系統(tǒng)的穩(wěn)定性和可靠性。

隱私保護(hù)要求強(qiáng)的場景,對于一些涉及個(gè)人隱私的數(shù)據(jù),如醫(yī)療數(shù)據(jù)、金融數(shù)據(jù)等,將數(shù)據(jù)全部傳輸?shù)皆贫丝赡艽嬖谛孤讹L(fēng)險(xiǎn)。在這些場景中,將AI算法部署在邊緣設(shè)備上可以在本地對數(shù)據(jù)進(jìn)行處理和分析,保護(hù)數(shù)據(jù)的隱私性。

在實(shí)際的應(yīng)用落地方面,如智慧安防領(lǐng)域,云天勵(lì)飛通過部署在攝像頭等邊緣設(shè)備上的AI算法,實(shí)現(xiàn)了實(shí)時(shí)的人臉識(shí)別、行為分析等功能,為公安部門提供了有效的技術(shù)支持。在智能園區(qū)、智能樓宇等領(lǐng)域,云天勵(lì)飛也通過邊緣AI算法的應(yīng)用,實(shí)現(xiàn)了能源管理、環(huán)境監(jiān)測等智能化功能。

曠視科技針對邊緣設(shè)備推出多種AI解決方案,包括邊緣計(jì)算智能分析盒、AIoT操作系統(tǒng)等。來支持在邊緣設(shè)備上實(shí)時(shí)運(yùn)行復(fù)雜的AI算法,實(shí)現(xiàn)數(shù)據(jù)的快速處理和分析。同時(shí),曠視科技還提供了全方位的服務(wù),幫助用戶將算法應(yīng)用于實(shí)際場景,并推廣到市場。

還有商湯科技,通過云智能邊緣盒龍騰邊緣計(jì)算的產(chǎn)品,為智能相機(jī)提供接入和解析能力,支持車、物、非機(jī)動(dòng)車、行為等多種算法融合解析,算法自由調(diào)度,具備數(shù)據(jù)邊緣匯聚、邊緣解析、邊緣自治、云邊協(xié)同的能力。此外,商湯科技還通過標(biāo)準(zhǔn)化的大模型生產(chǎn)流程,支持了超過七成的行業(yè)業(yè)務(wù),為市場提供了豐富的邊緣AI解決方案。

寫在最后

總的來說,邊緣AI算法部署在邊緣設(shè)備上,通常是經(jīng)過經(jīng)過優(yōu)化和壓縮的輕量級(jí)模型,這些模型能夠在設(shè)備端進(jìn)行實(shí)時(shí)的數(shù)據(jù)處理和分析。邊緣AI算法適用于需要實(shí)時(shí)處理數(shù)據(jù)、網(wǎng)絡(luò)連接有限、隱私保護(hù)要求高的場景中,在工業(yè)制造、智能家居、城市管理、能源管理等方面都已經(jīng)得到應(yīng)用。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    29349

    瀏覽量

    267631
  • 邊緣AI
    +關(guān)注

    關(guān)注

    0

    文章

    80

    瀏覽量

    4904
收藏 人收藏

    評論

    相關(guān)推薦

    邊緣計(jì)算 聚智創(chuàng)芯|edge BMC輕量級(jí)帶外管理解決方案重磅發(fā)布

    8月28日,英特爾、芯??萍?、極達(dá)科技攜手深圳英特爾大灣區(qū)科技創(chuàng)新中心,共同舉辦了“輕量級(jí)帶外管理edgeBMC解決方案新品發(fā)布會(huì)”。本次活動(dòng)以“邊緣計(jì)算聚智創(chuàng)芯”為主題,吸引了工業(yè)、教育、醫(yī)療
    的頭像 發(fā)表于 08-30 12:28 ?232次閱讀
    <b class='flag-5'>邊緣</b>計(jì)算 聚智創(chuàng)芯|edge BMC<b class='flag-5'>輕量級(jí)</b>帶外管理解決方案重磅發(fā)布

    邊緣計(jì)算 聚智創(chuàng)芯|edge BMC輕量級(jí)帶外管理解決方案重磅發(fā)布

    8月28日,英特爾、芯??萍?、極達(dá)科技攜手深圳英特爾大灣區(qū)科技創(chuàng)新中心,共同舉辦了“輕量級(jí)帶外管理edge BMC解決方案新品發(fā)布會(huì)”。本次活動(dòng)以“邊緣計(jì)算 聚智創(chuàng)芯”為主題,吸引了工業(yè)、教育
    發(fā)表于 08-29 14:55 ?809次閱讀
    <b class='flag-5'>邊緣</b>計(jì)算 聚智創(chuàng)芯|edge BMC<b class='flag-5'>輕量級(jí)</b>帶外管理解決方案重磅發(fā)布

    國產(chǎn)芯運(yùn)行TinyMaxi輕量級(jí)的神經(jīng)網(wǎng)絡(luò)推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    是面向單片機(jī)的超輕量級(jí)的神經(jīng)網(wǎng)絡(luò)推理庫,即 TinyML 推理庫,可以讓你在任意單片機(jī)上運(yùn)行輕量級(jí)深度學(xué)習(xí)模型~ 開源地址:https://github.com/sipeed/TinyMaix搭建
    發(fā)表于 08-09 18:26

    國產(chǎn)芯運(yùn)行TinyMaxi輕量級(jí)的神經(jīng)網(wǎng)絡(luò)推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    D9360國產(chǎn)開發(fā)板)的TinyMaxi輕量級(jí)的神經(jīng)網(wǎng)絡(luò)推理庫方案測試。 算力測試 TinyMaix 是面向單片機(jī)的超輕量級(jí)的神經(jīng)網(wǎng)絡(luò)推理庫,即 TinyML 推理庫,可以讓你在任意單片機(jī)上運(yùn)行輕量級(jí)深度
    發(fā)表于 08-07 18:06

    國產(chǎn)芯運(yùn)行TinyMaxi輕量級(jí)的神經(jīng)網(wǎng)絡(luò)推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    TinyMaix是面向單片機(jī)的超輕量級(jí)的神經(jīng)網(wǎng)絡(luò)推理庫,即TinyML推理庫,可以讓你在任意單片機(jī)上運(yùn)行輕量級(jí)深度學(xué)習(xí)模型~開源地址:https://github.com/s
    的頭像 發(fā)表于 07-05 08:02 ?1769次閱讀
    國產(chǎn)芯<b class='flag-5'>上</b>運(yùn)行TinyMaxi<b class='flag-5'>輕量級(jí)</b>的神經(jīng)網(wǎng)絡(luò)推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    未來輕量級(jí)深度學(xué)習(xí)技術(shù)探索

    除了輕量級(jí)架構(gòu)設(shè)計(jì)外,作者提到了可以應(yīng)用于壓縮給定架構(gòu)的各種高效算法。例如,量化方法 旨在減少數(shù)據(jù)所需的存儲(chǔ)空間,通常是通過用8位或16位數(shù)字代替32位浮點(diǎn)數(shù),甚至使用二進(jìn)制值表示數(shù)據(jù)。
    發(fā)表于 04-23 15:54 ?336次閱讀
    未來<b class='flag-5'>輕量級(jí)</b>深度學(xué)習(xí)技術(shù)探索

    NVIDIA與恩智浦聯(lián)手,邊緣設(shè)備部署AI模型

    恩智浦工業(yè)及IoT邊緣高級(jí)副總裁Charles Dachs表示,人工智能的創(chuàng)新將塑造智能互聯(lián)世界的未來,融入Nvidia先進(jìn)的AI培訓(xùn)技術(shù)以及恩智浦工業(yè)及物聯(lián)網(wǎng)邊緣科研實(shí)力,將產(chǎn)生協(xié)同效益,讓用戶能更迅速地將自家AI
    的頭像 發(fā)表于 03-25 16:05 ?787次閱讀

    百度智能云推出全新輕量級(jí)模型

    近日舉辦的百度智能云千帆產(chǎn)品發(fā)布會(huì)上,三款全新的輕量級(jí)模型——ERNIE Speed、ERNIE Lite以及ERNIE Tiny,引起了業(yè)界的廣泛關(guān)注。相較于傳統(tǒng)的千億級(jí)別參數(shù)大模型
    的頭像 發(fā)表于 03-22 10:28 ?563次閱讀

    百度智能云發(fā)布三款輕量級(jí)模型和兩款特定場景大模型

    百度智能云千帆產(chǎn)品發(fā)布會(huì)上震撼推出了一系列創(chuàng)新產(chǎn)品,其中包括三款輕量級(jí)模型:ERNIE Speed、ERNIE Lite和ERNIE Tiny,以及兩款專為特定場景打造的ERNIE
    的頭像 發(fā)表于 03-22 10:28 ?556次閱讀

    ELF 1 開發(fā)板實(shí)現(xiàn)讀取攝像頭視頻進(jìn)行目標(biāo)檢測

    當(dāng)前,將AI或深度學(xué)習(xí)算法(如分類、目標(biāo)檢測和軌跡追蹤)部署到嵌入式設(shè)備,進(jìn)而實(shí)現(xiàn)邊緣計(jì)算,正成為輕量級(jí)深度學(xué)習(xí)算法發(fā)展的一個(gè)重要趨勢。今天將與各位小伙伴分享一個(gè)實(shí)際案例:
    的頭像 發(fā)表于 01-24 10:38 ?595次閱讀
    <b class='flag-5'>在</b>ELF 1 開發(fā)板<b class='flag-5'>上</b>實(shí)現(xiàn)讀取攝像頭視頻進(jìn)行目標(biāo)檢測

    AI邊緣計(jì)算機(jī)應(yīng)用場景廣泛!大語言模型與數(shù)字人結(jié)合方案邊緣側(cè)落地

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)AI邊緣計(jì)算機(jī)是一種人工智能和邊緣計(jì)算技術(shù)相結(jié)合的計(jì)算機(jī)設(shè)備。它可以本地設(shè)備
    的頭像 發(fā)表于 01-16 01:11 ?4325次閱讀
    AI<b class='flag-5'>邊緣</b>計(jì)算機(jī)應(yīng)用場景廣泛!大語言<b class='flag-5'>模型</b>與數(shù)字人結(jié)合方案<b class='flag-5'>在</b><b class='flag-5'>邊緣</b>側(cè)落地

    邊緣側(cè)部署模型優(yōu)勢多!模型量化解決邊緣設(shè)備資源限制問題

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)大模型邊緣部署是將大模型部署
    的頭像 發(fā)表于 01-05 00:06 ?3162次閱讀

    【愛芯派 Pro 開發(fā)板試用體驗(yàn)】人體姿態(tài)估計(jì)模型部署前期準(zhǔn)備

    速度也只是勉強(qiáng)實(shí)時(shí)。為了部署端側(cè),使用較低算力的設(shè)備,我們需要進(jìn)一步將其輕量化,也就是lightweight openpose項(xiàng)目。這個(gè)主要針對Openpose模型做一些改進(jìn),參數(shù)量
    發(fā)表于 01-01 01:04

    輕量級(jí)數(shù)據(jù)庫有哪些類型

    輕量級(jí)數(shù)據(jù)庫是指具有小巧、靈活、高效的特點(diǎn),適用于小規(guī)模項(xiàng)目和嵌入式設(shè)備的數(shù)據(jù)庫管理系統(tǒng)。下面是對輕量級(jí)數(shù)據(jù)庫類型的詳細(xì)介紹,包括關(guān)系型數(shù)據(jù)庫、非關(guān)系型數(shù)據(jù)庫、面向?qū)ο髷?shù)據(jù)庫等等。 關(guān)系型數(shù)據(jù)庫
    的頭像 發(fā)表于 12-20 11:29 ?1101次閱讀

    Linux輕量級(jí)工具集合Busybox的特點(diǎn)和使用

    Busybox是一個(gè)開源的、輕量級(jí)的軟件工具集合,旨在提供一個(gè)精簡的Unix工具集,適用于嵌入式系統(tǒng)和資源受限的環(huán)境。它將許多常用的Unix工具(如ls、cp、cat、mv、grep、find、telnet等)合并為一個(gè)可執(zhí)行文件,從而減少了系統(tǒng)的存儲(chǔ)空間和資源占用。
    的頭像 發(fā)表于 11-10 09:50 ?1300次閱讀