0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

云端、邊緣和終端AI芯片的挑戰(zhàn)

工程師 ? 來源:是德科技快訊 ? 作者:是德科技快訊 ? 2020-10-16 09:27 ? 次閱讀

5年前,在大基金的東風(fēng)下,芯片產(chǎn)業(yè)風(fēng)起云涌。芯片設(shè)計公司的數(shù)量從2015年的736家,一越到了2016年的1362家,幾乎翻了一倍。其中,AI芯片是當(dāng)時一顆耀眼的新星。

經(jīng)過幾年的探索和沉淀,AI的發(fā)展也許已經(jīng)悄然進(jìn)入2.0階段。大家更加注重與特定應(yīng)用場景的結(jié)合,比如智能汽車,智能安防等;有部分則從單純的基于ASIC的方式轉(zhuǎn)向嘗試通用計算道路的探索,兼顧通用性并針對一些重點應(yīng)用做相應(yīng)的優(yōu)化。少了吵吵嚷嚷的熱鬧,多了踏踏實實的落地。

隨著應(yīng)用的深入和落地,云端、邊緣和終端側(cè)多點開花。每個節(jié)點的芯片側(cè)重點可能略有不同,云端更加強(qiáng)調(diào)性能的極致,通常采用異構(gòu)的芯片架構(gòu),用GPU或者專用的ASIC芯片與CPU配合,處理復(fù)雜的數(shù)據(jù)訓(xùn)練或者inference的工作,那GPU/ASIC之間以及GPU/ASIC與CPU之間以及GPU/ASIC與存儲模塊之間都需要極高性能的接口來支撐,如PCIe、CCIX、GenZ、DDR等;

邊緣或者終端側(cè)雖然不像云端對性能要求那么高,但是他們需要面對更多復(fù)雜的應(yīng)用場景,如前面提到的智能駕駛、智能醫(yī)療、工業(yè)智能等,那么他們會在兼顧性能的同時更加看重能耗比的指數(shù),因此也會有一些新的接口或者總線類型來適應(yīng)他們的應(yīng)用,如MIPI、UFS、LPDDR等。

從云端的總線來看,前面提到有很多種,我們以PCIe來舉例。雖然它的效率和性能并不是最高的,但它目前是最成熟的,用的也比較多。目前商用落地的是PCIe 4.0技術(shù),那到今年年底,有一些領(lǐng)先的服務(wù)器廠商就會推出PCIe 5.0的樣品。那PCIe 5.0的速率已經(jīng)達(dá)到了32Gbps,而且在這個速率下還要考慮到與前代的兼容,它的channel loss會非常大,在奈奎斯特頻率下會達(dá)到36dB。在如此高的速率下要保證這么高的設(shè)計余量,對設(shè)計工程師來說,這是一個非常大的挑戰(zhàn)。

舉例來說,即使經(jīng)過非常復(fù)雜的預(yù)加重、均衡、信道訓(xùn)練等,那最終達(dá)到芯片接收端,芯片內(nèi)部的眼高不會超過15mW,眼寬不會超過10ps。這是非常非常小的余量。如果設(shè)計的余量不夠,那總線的丟包率就會比較高,就會導(dǎo)致重傳,那芯片的效率就大大降低了。那如何實現(xiàn)更大的設(shè)計余量?如何去測試設(shè)計的余量,如何將設(shè)計和測試做閉環(huán)驗證都是工程師面臨的巨大挑戰(zhàn)。

那對于邊緣或者終端側(cè)來說,要考慮成本、要考慮功耗。所以它的總線技術(shù)不會像云端走的那么快,但它會采用一些特殊的總線來適應(yīng)終端場景的需求。比如在云端更多的采用類似PCIe這種來做計算,但在終端/邊緣側(cè)則更多的采用類似MIPI這種總線進(jìn)行計算或者數(shù)據(jù)的傳輸;在云端的數(shù)據(jù)存儲總線可能會用到DDR4或者DDR5,但在終端/邊緣,可能更多的會用到LPDDR;對于云端,可能更多的使用PCIe等去做擴(kuò)展,而終端會更多傾向于用USB去做擴(kuò)展。所以兩者差異還是很大的。

除了速率上的不同,終端側(cè)其實還需要考慮連接的簡潔性以及功耗的性能,所以終端側(cè)的總線的內(nèi)部協(xié)議或者信號的調(diào)整方式上反而更加復(fù)雜一些。比如Type-C接口,它外面的連接非常簡潔,但是其實它內(nèi)部協(xié)議非常復(fù)雜。它要考慮正反插,要考慮供電,要兼容顯示和數(shù)據(jù)傳輸?shù)鹊?。所以終端側(cè)的這些總線的設(shè)計要求與云端又不一樣。

? 當(dāng)然,無論是什么樣的AI芯片,無論是什么樣的技術(shù)浪潮,是德科技都能陪伴在您的產(chǎn)品設(shè)計和研發(fā)過程中,為您的芯片質(zhì)量提供堅實的保障。

? 無論是計算總線還是內(nèi)存接口總線,無論是仿真還是產(chǎn)品測試,是德科技都有全面的解決方案,為您的產(chǎn)品保駕護(hù)航。

順便廣告一下,是德科技的產(chǎn)品中也加入了AI的算法,對于特定的測試波形,是德科技的AI測試能給您一些必要的線索,讓您快速定位到問題所在,幫助產(chǎn)品快速推向市場。

責(zé)任編輯:haq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關(guān)注

    關(guān)注

    452

    文章

    49985

    瀏覽量

    419665
  • 終端
    +關(guān)注

    關(guān)注

    1

    文章

    1101

    瀏覽量

    29776
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    29383

    瀏覽量

    267672
  • 云端
    +關(guān)注

    關(guān)注

    0

    文章

    115

    瀏覽量

    16823
收藏 人收藏

    評論

    相關(guān)推薦

    NVIDIA IGX平臺加速實時邊緣AI應(yīng)用

    實時邊緣 AI 對于醫(yī)療、工業(yè)和科學(xué)計算至關(guān)重要,因為這些任務(wù)關(guān)鍵型應(yīng)用需要即時數(shù)據(jù)處理、低延遲和高可靠性,以確保作出及時準(zhǔn)確的決策。這些挑戰(zhàn)不僅涉及硬件平臺上的高帶寬傳感器處理和 AI
    的頭像 發(fā)表于 09-09 10:14 ?430次閱讀
    NVIDIA IGX平臺加速實時<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>應(yīng)用

    什么是邊緣AI?邊緣AI的供電挑戰(zhàn)

    RECOM 的 RACM1200-V 采用數(shù)字通信,可輕松集成到邊緣 AI設(shè)計中。
    的頭像 發(fā)表于 09-02 11:52 ?317次閱讀
    什么是<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>?<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>的供電<b class='flag-5'>挑戰(zhàn)</b>

    華邦電子為邊緣設(shè)備打造生成式AI性能

    在以大模型為基礎(chǔ)的云端 AI 廣泛賦能各行各業(yè)后,邊緣設(shè)備對于 AI 也釋放出巨大需求,AI 也在從云端
    的頭像 發(fā)表于 08-19 16:14 ?528次閱讀

    邊緣AI芯片市場升溫!英特爾、AMD出大招,本土芯片廠商爭發(fā)新品

    邊緣 AI 是指在邊緣設(shè)備(例如智能手機(jī)、物聯(lián)網(wǎng)設(shè)備和嵌入式系統(tǒng))上實現(xiàn) AI 算法,而不是依賴于基于云的基礎(chǔ)設(shè)施。AI手機(jī)和
    的頭像 發(fā)表于 08-01 00:17 ?4116次閱讀
    <b class='flag-5'>邊緣</b><b class='flag-5'>AI</b><b class='flag-5'>芯片</b>市場升溫!英特爾、AMD出大招,本土<b class='flag-5'>芯片</b>廠商爭發(fā)新品

    后摩智能引領(lǐng)AI芯片革命,推出邊端大模型AI芯片M30

    在人工智能(AI)技術(shù)飛速發(fā)展的今天,AI大模型的部署需求正迅速從云端向端側(cè)和邊緣側(cè)設(shè)備遷移。這一轉(zhuǎn)變對AI
    的頭像 發(fā)表于 06-28 15:13 ?572次閱讀

    邊緣AI需求爆發(fā),邊緣計算網(wǎng)關(guān)亟待革新

    電子發(fā)燒友網(wǎng)報道(文/吳子鵬)根據(jù)《全球與中國邊緣AI芯片市場競爭建議及發(fā)展?fàn)顩r調(diào)研報告2024-2030》,2023年全球邊緣AI
    的頭像 發(fā)表于 06-20 01:04 ?2634次閱讀

    耐能推出最新的邊緣AI服務(wù)器及內(nèi)置耐能AI芯片的PC設(shè)備

    - 耐能的邊緣 AI 服務(wù)器 KNEO 330 為中小企業(yè)帶來 30-40% 的成本節(jié)省,同兼顧隱私和安全性。- 耐能的邊緣 GPT AI 芯片
    的頭像 發(fā)表于 06-05 10:21 ?505次閱讀

    邊緣側(cè)AI芯片提供商超星未來完成數(shù)億元 Pre-B輪融資

    AI產(chǎn)業(yè)生態(tài)中,計算芯片被視為行業(yè)的“賣水人”。依據(jù)云端/邊緣端、訓(xùn)練/推理兩大分類標(biāo)準(zhǔn),AI芯片
    的頭像 發(fā)表于 05-09 09:38 ?470次閱讀

    risc-v多核芯片AI方面的應(yīng)用

    得RISC-V多核芯片能夠更好地適應(yīng)AI算法的不同需求,包括深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等,從而提高芯片的性能和效率,降低成本,使AI邊緣計算晶片更具
    發(fā)表于 04-28 09:20

    英偉達(dá)、英特爾、AMD等大廠的邊緣AI芯片匯總

    需將數(shù)據(jù)傳輸?shù)?b class='flag-5'>云端進(jìn)行處理。 ??????????????????????????????????????????????? 邊緣AI芯片的出現(xiàn),極大地提升了
    的頭像 發(fā)表于 04-24 02:15 ?9424次閱讀
    英偉達(dá)、英特爾、AMD等大廠的<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b><b class='flag-5'>芯片</b>匯總

    谷歌發(fā)布Axion新款數(shù)據(jù)中心AI芯片,性能超越x86及云端

    谷歌預(yù)計將通過Google Cloud提供Axion AI芯片給客戶。谷歌強(qiáng)調(diào)這款基于ARM的CPU產(chǎn)品具有優(yōu)越的性能表現(xiàn),甚至超越了傳統(tǒng)的x86芯片云端通用ARM
    的頭像 發(fā)表于 04-10 16:32 ?792次閱讀

    NanoEdge AI的技術(shù)原理、應(yīng)用場景及優(yōu)勢

    NanoEdge AI 是一種基于邊緣計算的人工智能技術(shù),旨在將人工智能算法應(yīng)用于物聯(lián)網(wǎng)(IoT)設(shè)備和傳感器。這種技術(shù)的核心思想是將數(shù)據(jù)處理和分析從云端轉(zhuǎn)移到設(shè)備本身,從而減少數(shù)據(jù)傳輸延遲、降低
    發(fā)表于 03-12 08:09

    邊緣AI它到底是什么?能做什么?

    邊緣,減少了數(shù)據(jù)的傳輸延遲和依賴云端的通信需求。邊緣AI能夠在接近數(shù)據(jù)源的設(shè)備上進(jìn)行實時決策和推理,這為許多應(yīng)用領(lǐng)域帶來了革命性的改變。 邊緣
    的頭像 發(fā)表于 01-11 14:44 ?1168次閱讀

    算力強(qiáng)勁的AI邊緣計算盒子# 邊緣計算

    AI邊緣計算
    成都華江信息
    發(fā)布于 :2023年11月24日 16:31:06

    云邊AI的必然趨勢和硬件承載

    云邊AI是指把AI大模型和算法在云端訓(xùn)練和優(yōu)化后,部署到邊緣設(shè)備上運行,從而將AI能力融入終端設(shè)
    的頭像 發(fā)表于 11-07 17:46 ?577次閱讀
    云邊<b class='flag-5'>AI</b>的必然趨勢和硬件承載