AI算力與功耗如何平衡？清華大學(xué)尹首一教授解讀IoT場(chǎng)景中AI應(yīng)用落地痛點(diǎn)

本站原創(chuàng)，作者：章鷹，電子發(fā)燒友執(zhí)行副主編。

12月20日，在深圳會(huì)展中心2號(hào)館2A會(huì)議室，由雷鋒網(wǎng)主辦的AI IoT+智慧城市高峰論壇上，清華大學(xué)微納電子系副主任、微電子學(xué)研究所副所長(zhǎng)尹首一就物聯(lián)網(wǎng)場(chǎng)景中如何實(shí)現(xiàn)AI應(yīng)用，帶來(lái)了精彩的觀點(diǎn)分享。

圖：清華大學(xué)微納電子系副主任、微電子學(xué)研究所副所長(zhǎng)，尹首一教授

趨勢(shì)一：綜合安全和通訊延遲問(wèn)題，智能設(shè)備端設(shè)實(shí)現(xiàn)AI計(jì)算已成為趨勢(shì)。

清華大學(xué)微納電子系副主任、微電子學(xué)研究所副所長(zhǎng)，尹首一教授表示，不僅學(xué)術(shù)界還是企業(yè)界都在思考：如何在IoT中，實(shí)現(xiàn)無(wú)處不在的AI應(yīng)用？

最近10年，深度神經(jīng)網(wǎng)絡(luò)的崛起使深度學(xué)習(xí)成為AI的基礎(chǔ)背景和技術(shù)，讓AI在深度學(xué)習(xí)的驅(qū)動(dòng)下獲得了空前的發(fā)展，每天享受的便利，比如語(yǔ)音助手、百度DureOS，互聯(lián)網(wǎng)上的電子購(gòu)物等背后的計(jì)算都在云上。

智能終端的AI計(jì)算成為趨勢(shì)?？紤]通訊延時(shí)、基于硬件設(shè)備、個(gè)人隱私考慮，我們需要在終端設(shè)備、傳感器，各種設(shè)備端上實(shí)現(xiàn)AI計(jì)算。這已經(jīng)成為電子行業(yè)的巨頭共識(shí)，百分之九十以上的物聯(lián)網(wǎng)設(shè)備上使用CPU是arm公司提供的內(nèi)核，Google首席科學(xué)家在全球半導(dǎo)體大會(huì)上報(bào)告上說(shuō)，Google認(rèn)為，IoT景下，未來(lái)AI計(jì)算一定是分布式、分層次、分等級(jí)的綜合系統(tǒng)。

趨勢(shì)二：未來(lái)的AI計(jì)算一定是分布式、分層次、分等級(jí)的綜合系統(tǒng)，一部分分布在云端的IOT，也有在IOT末端的各種AI計(jì)算，催生出在智能終端上的深度學(xué)習(xí)的芯片市場(chǎng)，據(jù)美國(guó)咨詢(xún)公司的測(cè)算，2015年到2025年，將會(huì)產(chǎn)生700億美金的深度學(xué)習(xí)AI芯片市場(chǎng)。
?

趨勢(shì)三、要滿(mǎn)足各種場(chǎng)景下AI計(jì)算的需求，需要考慮算力和功耗問(wèn)題的平衡。例如智能手機(jī)對(duì)語(yǔ)音技術(shù)的應(yīng)用，智能家電中有嚴(yán)苛的功耗約束，因而要在功耗受限場(chǎng)景下實(shí)現(xiàn)AI算法和運(yùn)算就成為關(guān)鍵。
?

比如讓手機(jī)隨時(shí)隨地與人做語(yǔ)音識(shí)別，需要語(yǔ)音識(shí)別能力，AI算力最大忍受的功耗是1-2毫瓦，否則手機(jī)耗電過(guò)大，影響整體體驗(yàn)；又比如智能家電、智能眼鏡有非常嚴(yán)苛的功耗約束，大概在幾百毫瓦左右，如何在這些功耗下實(shí)現(xiàn)這些AI的功能和運(yùn)算，這個(gè)是需要解決的關(guān)鍵問(wèn)題。

趨勢(shì)四：未來(lái)AI芯片組必須要滿(mǎn)足三個(gè)條件：可編程、計(jì)算／內(nèi)存訪(fǎng)問(wèn)友好型、超高效能／超低功耗。
?

目前從國(guó)際學(xué)術(shù)界來(lái)看，從兩個(gè)方向進(jìn)行努力：第一、算法模型的緊湊、壓縮。2016年，神經(jīng)網(wǎng)絡(luò)已經(jīng)壓縮到１比特，其效能與全精度的神經(jīng)網(wǎng)絡(luò)存在很少差異，只存在一個(gè)百分點(diǎn)，在絕大多數(shù)場(chǎng)景可以忽略不計(jì)。第二、硬件架構(gòu)上的變革，硬件架構(gòu)一直在演進(jìn)，但是在功耗上無(wú)法滿(mǎn)足毫瓦級(jí)的需求，甚至更高標(biāo)準(zhǔn)的需求，這對(duì)未來(lái)新架構(gòu)的研發(fā)提出了挑戰(zhàn)。

趨勢(shì)五、未來(lái)計(jì)算架構(gòu)創(chuàng)新，將是實(shí)現(xiàn)無(wú)處不在AI應(yīng)用的關(guān)鍵

如何從硬件角度實(shí)現(xiàn)更低功耗的AI計(jì)算？2013年，中科院寒武紀(jì)推出指令集的架構(gòu)方式，到2018年韓國(guó)科學(xué)院提出的新方案，優(yōu)化神經(jīng)網(wǎng)絡(luò)路線(xiàn)。2017年，美國(guó)的國(guó)防部高級(jí)計(jì)劃研究局（DARPA），為了保證美國(guó)在未來(lái)十年到2030年仍然保持國(guó)際半導(dǎo)體和電子電芯的領(lǐng)先地位，發(fā)起了三個(gè)方向的研究計(jì)劃，其中最主要研究方向之一是來(lái)自于計(jì)算架構(gòu)，這里有一個(gè)被稱(chēng)為軟件定義硬件的研究計(jì)劃，它是探討運(yùn)行時(shí)快速重構(gòu)的硬件架構(gòu)，也就是前面提到的CGRA架構(gòu)。

目前的CPU+SW、CPU+GPU、CPU+FPGA、CPU+ASIC的作法都不是理想的架構(gòu)?？芍貥?gòu)架構(gòu)在實(shí)現(xiàn)更高能效的同時(shí)，能夠在相比于CPU、GPU、FPGA更高的能量效率的同時(shí)還有可編程性。

基于這種架構(gòu)，清華微電子所相關(guān)課題組研發(fā)出了全新的Thinker系列芯片，使用了可重構(gòu)計(jì)算芯片架構(gòu)。在這個(gè)架構(gòu)中，Thinker可以根據(jù)控制單元的要求配置計(jì)算單元陣列并執(zhí)行，也可以根據(jù)軟件的要求將劃分后的任務(wù)送到數(shù)據(jù)通道執(zhí)行。而且，不同于馮諾依曼等效架構(gòu)，可重構(gòu)計(jì)算模式為函數(shù)化的硬件架構(gòu)。

目前，Thinker系列芯片已經(jīng)推出了面向通用神經(jīng)網(wǎng)絡(luò)計(jì)算的Thinker 1代，面向極低功耗神經(jīng)網(wǎng)路計(jì)算的Thinker 2，以及面向極低功耗語(yǔ)音應(yīng)用的Thinker S。

尹首一介紹說(shuō)：“從2006年開(kāi)始我們連續(xù)設(shè)計(jì)了幾個(gè)芯片，第一款芯片可以實(shí)現(xiàn)5萬(wàn)億次的計(jì)算每瓦，第二顆芯片功耗效率比進(jìn)一步提升，第三顆芯片是可以用于智能音箱的語(yǔ)音交互，芯片功耗只需要240微瓦，這樣就可以把AI計(jì)算的芯片嵌入到任何一個(gè)可穿戴便攜設(shè)備里，比如說(shuō)智能手機(jī)、手表這樣的電池非常有限，仍然可以把語(yǔ)音交互的入口嵌進(jìn)去，實(shí)現(xiàn)機(jī)器與用戶(hù)之間自然的語(yǔ)音交互。

2017年，獲得圖靈獎(jiǎng)榮譽(yù)的是兩位計(jì)算機(jī)體系結(jié)構(gòu)的大師，他們?cè)趫D靈獎(jiǎng)的獲獎(jiǎng)感言里提到，今天是計(jì)算機(jī)體系結(jié)構(gòu)的新的黃金時(shí)代， 讓我們大家一起擁抱今天這個(gè)計(jì)算機(jī)架構(gòu)和AI的雙重黃金時(shí)代。

在全天峰會(huì)上，騰訊云張羿、華為OceanConnect物聯(lián)網(wǎng)平臺(tái)首席架構(gòu)師苗彩霞、百度AI安全技術(shù)總監(jiān)聶科峰、ZNV力維首席技術(shù)官曹友盛、阿里云IoT高級(jí)算法專(zhuān)家、智能城市架構(gòu)師田輝、京東城市計(jì)算事業(yè)部高級(jí)專(zhuān)家陳旭旭、北京毫米科技COO兼聯(lián)合創(chuàng)始人徐旭、Semtech市場(chǎng)戰(zhàn)略總監(jiān)甘泉、和而泰地產(chǎn)事業(yè)部總經(jīng)理潘子健等業(yè)界大咖都發(fā)表了精彩的演講。

活動(dòng)尾聲，Semtech市場(chǎng)戰(zhàn)略總監(jiān)甘泉、康行科技聯(lián)合創(chuàng)始人潘江宇、和而泰地產(chǎn)事業(yè)部總經(jīng)理潘子健、清華大學(xué)深圳研究生博士后&綠米算法工程師曲曉峰在現(xiàn)場(chǎng)進(jìn)行了圓桌對(duì)話(huà)，議題是《AIoT技術(shù)和智慧趁勢(shì)應(yīng)用的融合》。

Semtech市場(chǎng)戰(zhàn)略總監(jiān)甘泉表示，AIoT要想做好，前提是大量的數(shù)據(jù)能夠“喂養(yǎng)”，而目前，前端傳感器的數(shù)量并不夠多，收集的資料、數(shù)據(jù)信息也不夠多。現(xiàn)在，loRa技術(shù)提供很好的渠道，阿里騰訊京東都在涌入，全球也有每年50%的市場(chǎng)增長(zhǎng)，loRa技術(shù)勢(shì)必會(huì)作為物聯(lián)網(wǎng)連接的主流技術(shù)成長(zhǎng)。

康行科技聯(lián)合創(chuàng)始人潘江宇則認(rèn)為，AIoT和IoT的差距就在于是否客戶(hù)能迅速上手，有新的體驗(yàn)，帶有刷臉、語(yǔ)音識(shí)別、智能互動(dòng)的場(chǎng)景就是AIoT呈現(xiàn)的狀態(tài)。此外，兩者之家處理數(shù)據(jù)的方式也不一樣，通過(guò)AI的方式處理能夠反饋給設(shè)備，形成工具性的產(chǎn)品，用更加便捷的應(yīng)用幫助人們的生活。他強(qiáng)調(diào)，技術(shù)要上天，但是產(chǎn)品要落地。

和而泰地產(chǎn)事業(yè)部總經(jīng)理潘子健指出，4年之前他們就預(yù)測(cè)到IoT到AIoT的爆發(fā)，也在同年推出了C-life平臺(tái)。從智能到智慧的升級(jí)，要有數(shù)據(jù)和計(jì)算以及服務(wù)，所以IoT到AIoT的升級(jí)或者爆發(fā)是一個(gè)必然。而和而泰從一開(kāi)始做IoT就是瞄準(zhǔn)計(jì)算、瞄準(zhǔn)AI、瞄準(zhǔn)服務(wù)。目前地產(chǎn)業(yè)都在“去地產(chǎn)化”，更加重視智能與服務(wù)，這又是一波新的契機(jī)。