什么叫端測(cè)AI

什么叫端測(cè)AI?

這個(gè)問(wèn)題搞清楚之前，大家必須要去了解我們整個(gè)計(jì)算機(jī)行業(yè)的一個(gè)系統(tǒng)架構(gòu)，它的發(fā)展方向是云·邊·端協(xié)同，也就是未來(lái)各行各業(yè)，不管做啥的，與計(jì)算機(jī)行業(yè)相關(guān)的這種硬件和軟件架構(gòu)，它都會(huì)往這個(gè)方向去發(fā)展，所謂的云邊端協(xié)同。

那么是怎么個(gè)云邊端協(xié)同法呢?首先我們要知道這幾個(gè)關(guān)鍵字的意思，云就是云計(jì)算，邊就是邊緣計(jì)算，端就是設(shè)備端。

設(shè)備端一般就是拿在用戶(hù)手里的、放在用戶(hù)桌子上的、裝在用戶(hù)家里面的、其實(shí)就是跟用戶(hù)直接相關(guān)的這一端，我們叫端;邊是邊緣計(jì)算，那什么叫邊緣計(jì)算，這個(gè)其實(shí)很好理解，譬如說(shuō)裝在你們小區(qū)里面的、裝在你們公司那棟樓里面的，對(duì)于你來(lái)說(shuō)，這就叫邊緣計(jì)算;所以其實(shí)就是：云端指的是離你很遠(yuǎn)的設(shè)備，邊緣端就是離你很近的云端，端呢就是你自己的設(shè)備，所以云邊端加起來(lái)就構(gòu)成了我們整個(gè)的計(jì)算機(jī)架構(gòu)。

所以呢，在未來(lái)你開(kāi)發(fā)硬件的時(shí)候，你開(kāi)發(fā)的要么就是云端的硬件，要么就是邊緣端的硬件，要么就是設(shè)備端，就所謂的端測(cè)的硬件。那么你開(kāi)發(fā)軟件也是一樣，要么就是云端的軟件，要么就是邊緣端的軟件，要么就是設(shè)備端的軟件。那么AI也是一樣，我們把AI這種技術(shù)應(yīng)用在云端和邊緣計(jì)算端和設(shè)備端，那么就構(gòu)成了所謂的云端AI，邊緣計(jì)算的AI以及設(shè)備端的AI，所以端測(cè)AI，其實(shí)指的就是設(shè)備端的AI。

那我們作為嵌入式工程師為什么需要關(guān)注端側(cè)AI而不是云端的AI和邊緣的端的AI呢?這個(gè)是有原因的，首先第一個(gè)云端的AI呢，就是類(lèi)似于那種像這個(gè)“小度小度”這類(lèi)東西?比如說(shuō)像這個(gè)“小度”音箱，它的實(shí)現(xiàn)原理，其實(shí)就是你在這邊說(shuō)的話(huà)，它這個(gè)音箱其實(shí)是一個(gè)錄音設(shè)備，把你說(shuō)的話(huà)呢錄下來(lái)，然后把你這段語(yǔ)音直接傳到百度的服務(wù)器上去，所以音箱本身是不會(huì)做語(yǔ)音識(shí)別的，那百度的云服務(wù)器端有一個(gè)模型，就在那里做這個(gè)語(yǔ)言的一個(gè)處理和語(yǔ)言的識(shí)別，識(shí)別出來(lái)之后把結(jié)果再回傳到音響，所以呢，像這種“小度”音箱的這種產(chǎn)品，它其實(shí)就是典型的云端智能，就是云端AI，那這種產(chǎn)品跟我們嵌入式有關(guān)系嗎?其實(shí)關(guān)系并不大，因?yàn)橐粋€(gè)普通的音箱跟一個(gè)“小度”音箱這種智能音箱幾乎沒(méi)有區(qū)別，你可以認(rèn)為，因?yàn)樗腁I并不在設(shè)備端，嵌入式端根本就不需要AI設(shè)備，所以說(shuō)呢，云端AI跟嵌入式開(kāi)發(fā)幾乎沒(méi)有關(guān)系，所以云端AI不該我們管。

那么邊緣計(jì)算的AI跟我們有關(guān)系嗎?有，因?yàn)檫吘売?jì)算，還是有那么一點(diǎn)嵌入式開(kāi)發(fā)在的，但是目前來(lái)說(shuō)，邊緣計(jì)算這個(gè)東西還是概念比較多，實(shí)際落地的非常少，而且邊緣計(jì)算本身還在發(fā)展當(dāng)中。根據(jù)目前邊緣計(jì)算的最新技術(shù)發(fā)展方向，實(shí)際上將來(lái)是更像云端，而不太像設(shè)備端，也就是說(shuō)邊緣端其實(shí)就是一個(gè)簡(jiǎn)化的云端，你可以理解為就是一個(gè)簡(jiǎn)化的本地處理過(guò)的云端。所以呢，邊緣計(jì)算一方面是當(dāng)前用的很少，幾乎沒(méi)什么落地，另一方面來(lái)說(shuō)呢，它跟云端更像，所以我們作為嵌入式工程師就沒(méi)必要碰它。

那對(duì)于我們嵌入式開(kāi)發(fā)者來(lái)說(shuō)，AI跟我們關(guān)系最大的是什么?那就是所謂的設(shè)備端的AI，也就是我們所謂的端測(cè)AI，那端側(cè)AI的概念就是整個(gè)的AI的過(guò)程全部是發(fā)生在設(shè)備端的。舉個(gè)例子，比如說(shuō)我現(xiàn)在做一個(gè)人臉識(shí)別，我的設(shè)備端攝像頭負(fù)責(zé)拍照，拍完照之后把圖像傳給我設(shè)備端的CPU，然后設(shè)備端這邊的硬件和軟件負(fù)責(zé)調(diào)用AI做數(shù)據(jù)處理，進(jìn)而來(lái)做人臉識(shí)別，最后把結(jié)果在我的設(shè)備端展示出來(lái)，進(jìn)行開(kāi)鎖、報(bào)警等動(dòng)作執(zhí)行。

整個(gè)AI的過(guò)程都在設(shè)備端，根本就不會(huì)去連接云，也不會(huì)去連接邊緣，這樣來(lái)做有兩個(gè)最大的好處，第一個(gè)好處就是速度快，不用聯(lián)網(wǎng)就不受網(wǎng)絡(luò)的限制，所以速度快。第二個(gè)好處就是因?yàn)椴挥寐?lián)網(wǎng)所以低功耗。第三個(gè)最重要的一點(diǎn)就是隱私問(wèn)題，不會(huì)把照片等私密數(shù)據(jù)上傳云端，現(xiàn)場(chǎng)拍現(xiàn)場(chǎng)用，用完之后銷(xiāo)毀，這樣是比較安全的。所以說(shuō)基于這三個(gè)原因，當(dāng)然還有別的一些原因，端測(cè)AI實(shí)際上在未來(lái)的應(yīng)用是很廣泛的，而且端測(cè)AI本身跟嵌入式開(kāi)發(fā)的關(guān)系非常大，那咱們做嵌入式開(kāi)發(fā)的，就需要去關(guān)心端測(cè)AI，去搞端側(cè)AI，去掌握這方面的技術(shù)，成為一個(gè)可以結(jié)合AI人工智能技術(shù)的更有發(fā)展的一名嵌入式軟件工程師。

再額外介紹一點(diǎn)，目前國(guó)內(nèi)外，在端側(cè)AI方向上有所建樹(shù)的企業(yè)和芯片廠商有：ST(NanoEdgeAIStudio、CubeAI)、NXP(MCU：imxRT10xx、MPU+linux：imx8、imx9352)、聆思(科大訊飛的芯片公司)，英偉達(dá)，谷歌以及我們熟悉的ARM，我們需要做的就是從最簡(jiǎn)單的端側(cè)AI項(xiàng)目開(kāi)始，嘗試讓自己去熟悉和去體會(huì)端側(cè)AI相關(guān)的嵌入式項(xiàng)目開(kāi)發(fā)，逐步尋找新技術(shù)形態(tài)和新技術(shù)方向上的更多機(jī)會(huì)，并尋求進(jìn)一步發(fā)展。
責(zé)任編輯：彭菁