0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

算力、功耗還是架構(gòu)?四位大咖縱論終端AI的四大挑戰(zhàn)

章鷹觀察 ? 來源:電子發(fā)燒友原創(chuàng) ? 作者:章鷹 ? 2019-05-14 10:37 ? 次閱讀

本站原創(chuàng),作者:章鷹,電子發(fā)燒友執(zhí)行副主編。

2019年,AI市場風(fēng)起云涌,一方面不少獨(dú)角獸公司融資不斷擴(kuò)大,比如2月27日地平線 (Horizon Robotics) 宣布完成由SK中國、SKHynix以及數(shù)家中國一線汽車集團(tuán) (與旗下基金) 聯(lián)合領(lǐng)投的B輪融資,獲得6億美金左右的投資,又比如5月8日,曠視科技完成D輪融資,融資額達(dá)到7.5億美元,在熱門的邊緣計(jì)算、視覺領(lǐng)域的前沿研究獲得充足的資金支持。

另外一方面,市場對人工智能的期望恢復(fù)理性,國內(nèi)廠商開始進(jìn)入落地應(yīng)用階段。核心AI能力不斷擴(kuò)展,寒武紀(jì)在蘇州舉辦的全球智博會上,展示了14個(gè)應(yīng)用案例,寒武紀(jì)AI芯片,比如MLU100芯片已經(jīng)在阿里云城市大腦提供算力支持,寒武紀(jì)的AI芯片在智能手機(jī)領(lǐng)域的應(yīng)用呈現(xiàn)擴(kuò)大之勢,此外,在教育行業(yè)、智能制造和工業(yè)、服務(wù)器領(lǐng)域,這家公司都帶來了實(shí)質(zhì)性的落地項(xiàng)目。

IDC高級新興技術(shù)研究部高級研究經(jīng)理盧言霞向記者表示,近五年來,中國AI市場成就斐然,2018年中國軟件市場占據(jù)全球軟件市場規(guī)模的3.1%,中國人工智能軟件市場占據(jù)全球的15.4%,未來還有更大的增長空間。終端AI儼然是落地應(yīng)用中的重要支持點(diǎn)。

對于終端AI市場,市場有哪些痛點(diǎn)呢?筆者整理了四位大咖的觀點(diǎn),與工程師和電子領(lǐng)域的高管分享。

終端AI應(yīng)用量最大,算力和功耗是兩大難題

圖:清華大學(xué)微納電子學(xué)系主任魏少軍

4月9日,清華大學(xué)微納電子學(xué)系主任魏少軍在人工智能創(chuàng)新峰會上表示,從應(yīng)用需求端來看,我們發(fā)現(xiàn)應(yīng)用量最大的并不在云端,而是在終端,ARM公司的專家把人工智能分成“大機(jī)器學(xué)習(xí)”、“中機(jī)器學(xué)習(xí)”和“小機(jī)器學(xué)習(xí)”,三者之間在數(shù)量上依次有二次方的增加,從108、1010再到1012。但當(dāng)AI服務(wù)從云端走向終端時(shí),要克服的困難遠(yuǎn)遠(yuǎn)比在云端大得多。

在邊緣上,資源和功耗都是受限的,而要解決AI問題,算力仍然需要那么大。換句話說,算力需求沒變,但資源不足,難度自然變大。這里面涉及兩個(gè)關(guān)鍵問題,一個(gè)是算力本身,一個(gè)是功耗。

在智能系統(tǒng)中,最重要的功能是實(shí)現(xiàn)智能化,軟件承載了智能化的理念和方法,而硬件只是承載智能化所需要的計(jì)算。如果能把兩者有機(jī)融合在一起,讓硬件在任何時(shí)候都能提供軟件運(yùn)行所需的最佳計(jì)算效率,就能夠得到我們所需的理想計(jì)算模式。

持續(xù)創(chuàng)新!推出性能功耗比好的終端AI產(chǎn)品,搶占市場先機(jī)

圖:寒武紀(jì)創(chuàng)始人陳天石

寒武紀(jì)是國際上最早從事AI芯片研發(fā)的團(tuán)隊(duì)之一,研發(fā)的終端智能處理器已經(jīng)運(yùn)行在數(shù)千萬的終端設(shè)備中,研發(fā)的云端智能芯片為云端大規(guī)模智能處理提供了高性能和高性價(jià)比的芯片方案,推動(dòng)人工智能計(jì)算力突破和提升。

陳天石描述寒武紀(jì)公司的戰(zhàn)略目標(biāo):“3年內(nèi)占領(lǐng)10億智能AI終端,占領(lǐng)中國云端高性能芯片1/3市場份額”。在市場策略層面,如何與英偉達(dá)競爭,陳天石告訴媒體:“提供性能功耗比更好的芯片。這個(gè)市場很大,其實(shí)未見得是零和博弈?!?/strong>

早在2016年,寒武紀(jì)就研發(fā)了全球第一款商用終端AI處理器,早于國外同行兩年,寒武紀(jì)的1A處理器是世界上首款智能終端處理器IP產(chǎn)品。第一代1A已經(jīng)在四款華為手機(jī)中使用。

第二款寒武紀(jì)的IP 1H是第二代高性能、低功耗的智能終端IP產(chǎn)品,在2017年11月公開發(fā)布,這款處理器帶來了深度學(xué)習(xí)處理速度的提升和功耗的降低,在寒武紀(jì)1H帶來了AI算力的大幅提升,使能和增強(qiáng)人臉識別、物體識別、物體檢測、圖像分割、智能翻譯等AI場景,實(shí)現(xiàn)了從圖像識別到物體檢測的跨越。在蘇黎世聯(lián)邦理工學(xué)院的AI Benchmark測試中,搭載麒麟980(集成寒武紀(jì)1H)的華為Mate 20 Pro、Mate 20 X和Mate 20,超過了搭載麒麟970的華為P20 Pro,排在了榜首。

2018年5月,寒武紀(jì)正式發(fā)布了多個(gè)最新一代終端 IP 產(chǎn)品——采用 7nm工藝的終端芯片Cambricon 1M、首款云端智能芯片MLU100及搭載了MLU100的云端智能處理計(jì)算卡。

寒武紀(jì)創(chuàng)始人陳天石博士對公司的定位是,獨(dú)立芯片公司,服務(wù)廣大云計(jì)算、大數(shù)據(jù)、服務(wù)器廠商、互聯(lián)網(wǎng)公司和行業(yè)巨頭,為下游廠商提供不同尺寸、面向不同應(yīng)用場景的終端AI處理器Ip以及覆蓋interference和training的不同處理能力的云端智能芯片。隨著華為智能手機(jī)在全球市場份額的不斷提升,寒武紀(jì)在終端AI芯片市場的認(rèn)可度也不斷提升。

物聯(lián)網(wǎng)應(yīng)用中,如何實(shí)現(xiàn)無處不在的AI應(yīng)用?

圖:清華大學(xué)微納電子系副主任尹首一教授

智能終端的AI計(jì)算成為趨勢??紤]通訊延時(shí)、基于硬件設(shè)備、個(gè)人隱私考慮,我們需要在終端設(shè)備、傳感器,各種設(shè)備端上實(shí)現(xiàn)AI計(jì)算。這已經(jīng)成為電子行業(yè)的巨頭共識,百分之九十以上的物聯(lián)網(wǎng)設(shè)備上使用CPU是arm公司提供的內(nèi)核,Google首席科學(xué)家在全球半導(dǎo)體大會上報(bào)告上說,Google認(rèn)為,IoT景下,未來AI計(jì)算一定是分布式、分層次、分等級的綜合系統(tǒng)。

要滿足各種場景下AI計(jì)算的需求,需要考慮算力和功耗問題的平衡。例如智能手機(jī)對語音技術(shù)的應(yīng)用,智能家電中有嚴(yán)苛的功耗約束,因而要在功耗受限場景下實(shí)現(xiàn)AI算法和運(yùn)算就成為關(guān)鍵。

算力與場景結(jié)合,聯(lián)發(fā)科在終端AI運(yùn)用領(lǐng)域不斷突破

聯(lián)發(fā)科技副總經(jīng)理暨家庭娛樂事業(yè)群總經(jīng)理游人杰表示,人工智能的崛起與以往不同,人工智能進(jìn)入第三次革命,需要三種關(guān)鍵因素的配合:第一、物聯(lián)網(wǎng)產(chǎn)生的大數(shù)據(jù),第二、各種應(yīng)用層應(yīng)用多元化,尤其在2012年,Deep Learning新的演算法開發(fā)出來后,運(yùn)算能力、精確率和收斂速度有了很大突破。不僅在云端,或者在終端,能力夠強(qiáng)。第三、算力(computation)的不斷提升。

目前,聯(lián)發(fā)科的芯片方案已經(jīng)占據(jù)了智能音箱垂直市場份額的60%-70%,大幅度領(lǐng)先競爭對手。聯(lián)發(fā)科的優(yōu)勢是將智能音箱方案擁有更高的硬件整合度。把第一代IC周邊電子元器件、電路等全部集成在第二代IC中,同時(shí)在軟件層面開發(fā)更智能的工具Power AQ,可通過Power AQ有效調(diào)整智能音箱的音質(zhì),加速硬件廠商把產(chǎn)品推向市場。

2019年4月18日,聯(lián)發(fā)科技發(fā)布AIoT平臺, 包含擁有高集成度和高端APU性能的i300和i500系列處理器芯片,為業(yè)界提供面向智能家居、智慧城市和智能工廠三大領(lǐng)域的解決方案,助力人工智能技術(shù)和物聯(lián)網(wǎng)技術(shù)的落地融合。

最早,聯(lián)發(fā)科看到了人工智能在移動(dòng)手機(jī)的應(yīng)用商機(jī),自2018年初起,就推出了NeuroPilot的技術(shù),并將之首次運(yùn)用在其手機(jī)處理平臺曦力P60上。NeuroPilot是基于他們的核心監(jiān)控與調(diào)節(jié)技術(shù)CorePilot的進(jìn)階版。CorePilot在2014年就已經(jīng)被開發(fā)出來,其主要作用就是動(dòng)態(tài)監(jiān)控手機(jī)多核處理器的每個(gè)核心的工作負(fù)載量,并加調(diào)節(jié)和分配,以提高手機(jī)運(yùn)行的性能并降低電耗。

i500高性能解決方案則是基于強(qiáng)大的計(jì)算能力, 結(jié)合聯(lián)發(fā)科技的人工智能平臺NeuroPilot,搭配低時(shí)延的邊緣AI處理技術(shù),提供精準(zhǔn)的人臉、行為和環(huán)境識別分析,大幅度提升準(zhǔn)確度、生產(chǎn)效率和智能化水平。

游人杰指出,對于不同的芯片公司,最大的區(qū)別就是運(yùn)算能力的差別。運(yùn)算的處理能力在晶片里面是三個(gè)單元結(jié)合起來,我們稱之為聯(lián)合運(yùn)算能力。CPU+GPU +Deep Learning加速器 ,聯(lián)發(fā)科內(nèi)部做到CPU八核,CPU的運(yùn)算好處是可以透過軟件的規(guī)劃,讓演算方法在開發(fā)的過程中擁有最大的彈性。GPU的運(yùn)算能力,在人工智能的開發(fā)過程中,同時(shí)具備高的處理速度,還能提供中等的彈性度。第三、當(dāng)你的演算方法做到比較成熟后,晶片運(yùn)算功率做到更低,還需要做AI的Processing,做Deep Learning加速器或者是做視覺影像的處理器,能夠讓演算法找到最低的功耗處理。

小結(jié)

終端AI的進(jìn)程在不斷加速,隨著寒武紀(jì)、MTK、耐能等國內(nèi)國際廠商不斷推出新品,未來在未聯(lián)網(wǎng)應(yīng)用的細(xì)分市場,會逐步誕生應(yīng)用的前三甲企業(yè),在無人機(jī)、智能家居、智能硬件、智能手機(jī)都是AI未來應(yīng)用增長點(diǎn),企業(yè)必須研究好消費(fèi)者需求的轉(zhuǎn)變,在技術(shù)能力和市場需求結(jié)合的契合度上下大功夫,在算力提升、功耗降低和運(yùn)算架構(gòu)支持多元應(yīng)用不斷拓展,才能領(lǐng)先海外廠商,搶占市場的先機(jī)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • MTK
    MTK
    +關(guān)注

    關(guān)注

    2

    文章

    174

    瀏覽量

    48130
  • 寒武紀(jì)
    +關(guān)注

    關(guān)注

    11

    文章

    185

    瀏覽量

    73836
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    1846

    瀏覽量

    34798
收藏 人收藏

    評論

    相關(guān)推薦

    億鑄科技熊大鵬探討AI芯片的挑戰(zhàn)與解決策略

    在SEMiBAY2024《HBM與存儲器技術(shù)與應(yīng)用論壇》上,億鑄科技的創(chuàng)始人、董事長兼CEO熊大鵬博士發(fā)表了題為《超越極限:大芯片的技術(shù)挑戰(zhàn)與解決之道》的演講,深入剖析了AI大模型
    的頭像 發(fā)表于 10-25 11:52 ?163次閱讀

    一體架構(gòu)創(chuàng)新助力國產(chǎn)大AI芯片騰飛

    在灣芯展SEMiBAY2024《AI芯片與高性能計(jì)算(HPC)應(yīng)用論壇》上,億鑄科技高級副總裁徐芳發(fā)表了題為《存一體架構(gòu)創(chuàng)新助力國產(chǎn)大
    的頭像 發(fā)表于 10-23 14:48 ?93次閱讀

    芯片 高性能 CPU/GPU/NPU 微架構(gòu)分析》第1-4章閱讀心得——之巔:從基準(zhǔn)測試到CPU微架構(gòu)的深度探索

    ,還優(yōu)化了能效比,使天河二號在Green500榜單上也表現(xiàn)出色。另一方面,MLPerf的出現(xiàn)標(biāo)志著AI時(shí)代對需求的變化。它涵蓋了圖像分類、目標(biāo)檢測、自然語言理解、智能推薦算法、強(qiáng)化學(xué)習(xí)等多個(gè)
    發(fā)表于 10-19 01:21

    一文讀懂中心四大類型,深度解讀應(yīng)用與趨勢

    強(qiáng)大計(jì)算能力的核心設(shè)施,在推動(dòng)科技創(chuàng)新、產(chǎn)業(yè)升級和社會發(fā)展中扮演著不可或缺的角色。本文將詳細(xì)解析中心的四大類型,并探討它們的最新發(fā)展與應(yīng)用。一、通用
    的頭像 發(fā)表于 10-17 08:05 ?201次閱讀
    一文讀懂<b class='flag-5'>算</b><b class='flag-5'>力</b>中心<b class='flag-5'>四大</b>類型,深度解讀應(yīng)用與趨勢

    【「芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】--全書概覽

    、GPU、NPU,給我們剖析了芯片的微架構(gòu)。書中有對芯片方案商處理器的講解,理論聯(lián)系實(shí)際,使讀者能更好理解芯片。 全書共11章,
    發(fā)表于 10-15 22:08

    青云科技強(qiáng)化AI架構(gòu),升級產(chǎn)品與服務(wù)體系

    10月9日,青云科技正式揭曉了其升級版的產(chǎn)品與服務(wù)陣容、行業(yè)及場景定制化解決方案,以及全新的生態(tài)戰(zhàn)略。該公司旨在通過AI平臺、AI
    的頭像 發(fā)表于 10-10 16:42 ?348次閱讀

    名單公布!【書籍評測活動(dòng)NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析

    社會資源和資本力量關(guān)注芯片的發(fā)展,希望我們的國家能夠更獨(dú)立自主地設(shè)計(jì)制造高性能芯片。 內(nèi)容簡介: 本書介紹了超級計(jì)算機(jī)
    發(fā)表于 09-02 10:09

    AI網(wǎng)絡(luò)發(fā)展的四大核心技術(shù)支柱

    AI大模型時(shí)代,隨著模型參數(shù)量與訓(xùn)練集規(guī)模的爆炸性增長,單純依賴GPU單體的提升已難以滿足需求,業(yè)界焦點(diǎn)逐漸轉(zhuǎn)向系統(tǒng)架構(gòu)層面的革新,其中,作為底層核心技術(shù)的網(wǎng)絡(luò)成為了突破的關(guān)鍵。
    的頭像 發(fā)表于 08-14 17:11 ?798次閱讀

    探秘四大主流芯片架構(gòu):誰將主宰未來科技?

    在科技日新月異的今天,芯片作為現(xiàn)代電子設(shè)備的心臟,其架構(gòu)的選擇與設(shè)計(jì)顯得尤為重要。目前市場上主流的芯片架構(gòu)種:X86、ARM、RISC-V和MIPS。它們各具特色,廣泛應(yīng)用于各種電子設(shè)備中。本文將詳細(xì)剖析這
    的頭像 發(fā)表于 07-31 11:15 ?1818次閱讀
    探秘<b class='flag-5'>四大</b>主流芯片<b class='flag-5'>架構(gòu)</b>:誰將主宰未來科技?

    半和四位半萬用表的區(qū)別

    半和四位半萬用表是電子測量領(lǐng)域中常用的兩種數(shù)字萬用表,它們在測量精度、顯示方式、應(yīng)用范圍等方面存在一定的差異。本文將從多個(gè)方面詳細(xì)分析這兩種萬用表的區(qū)別。 一、基本概念 三半萬用表 三
    的頭像 發(fā)表于 07-14 14:23 ?3656次閱讀

    MES實(shí)施的四大疑惑

    電子發(fā)燒友網(wǎng)站提供《MES實(shí)施的四大疑惑.docx》資料免費(fèi)下載
    發(fā)表于 03-01 15:35 ?0次下載

    中科曙光服務(wù)年度盤點(diǎn) 四大關(guān)鍵詞

    總結(jié)為以下個(gè)關(guān)鍵詞。 聚焦 —? 曙光服務(wù)緊跟市場趨勢,積極參與信通院新一代網(wǎng)技術(shù)創(chuàng)新聯(lián)盟、首批可信
    的頭像 發(fā)表于 01-04 10:34 ?533次閱讀

    淺談為AI而生的存-體芯片

    大模型爆火之后,存一體獲得了更多的關(guān)注與機(jī)會,其原因之一是因?yàn)榇?b class='flag-5'>算一體芯片的裸相比傳統(tǒng)架構(gòu)AI
    發(fā)表于 12-06 15:00 ?339次閱讀
    淺談為<b class='flag-5'>AI</b>大<b class='flag-5'>算</b><b class='flag-5'>力</b>而生的存<b class='flag-5'>算</b>-體芯片

    LED顯示學(xué)號后四位7402(ChatGPT)

    電子發(fā)燒友網(wǎng)站提供《LED顯示學(xué)號后四位7402(ChatGPT).pdf》資料免費(fèi)下載
    發(fā)表于 11-06 17:40 ?11次下載

    防爆電器采取四大措施積極應(yīng)對挑戰(zhàn)

    電子發(fā)燒友網(wǎng)站提供《防爆電器采取四大措施積極應(yīng)對挑戰(zhàn).pdf》資料免費(fèi)下載
    發(fā)表于 11-03 09:13 ?1次下載
    防爆電器采取<b class='flag-5'>四大</b>措施積極應(yīng)對<b class='flag-5'>挑戰(zhàn)</b>