開拓大模型新邊界，蘋芯展示存算一體“芯”方向

2024 AI大模型創(chuàng)新發(fā)展研討會暨清華上海自動化年會于2024年3月16日在上海楊浦區(qū)成功召開?；顒觾?nèi)容包括專家主旨演講、圓桌討論、校友企業(yè)路演等交流活動。蘋芯科技CEO楊越出席會議并進(jìn)行項目分享。

本次會議得到了上海市楊浦區(qū)的大力支持，楊浦區(qū)委副書記、區(qū)長周海鷹，清華校友總會自動化系分會會長、清華大學(xué)自動化系主任張濤，清華校友總會自動化系分會秘書長、清華大學(xué)自動化系黨委書記古槿，清華大學(xué)上海校友會會長、華虹計通董事長秦偉芳，清華大學(xué)上海校友會監(jiān)事長、昕諾飛亞太區(qū)高級總監(jiān)宿為民，清華大學(xué)上海校友會副會長兼秘書長、啟迪控股副總裁韓威，清華大學(xué)上海校友會自動化專委會主任、軟銀中國創(chuàng)業(yè)投資有限公司合伙人宋安瀾，清華大學(xué)上海校友會自動化專委會副主任、上海交通大學(xué)計算機(jī)系教授、思必馳創(chuàng)始人俞凱，上海歐美同學(xué)會副會長張海曉，啟迪控股執(zhí)行總裁、啟迪之星董事長張金生，清華大學(xué)上海校友會自動化專委會秘書長、元鈦基金合伙人陳剛以及來自學(xué)術(shù)界、產(chǎn)業(yè)界的大模型領(lǐng)域?qū)＜覍W(xué)者、企業(yè)代表、清華校友悉數(shù)出席會議，共同探討AI大模型領(lǐng)域的發(fā)展趨勢、技術(shù)挑戰(zhàn)以及未來應(yīng)用前景等業(yè)內(nèi)焦點問題。

蘋芯科技CEO楊越受邀出席本次會議并進(jìn)行題為《從通用到專用 -- AI大模型推理專用加速芯片》的分享。

現(xiàn)階段，隨著大模型在人工智能領(lǐng)域快速發(fā)展，大模型的訓(xùn)練和推理對計算資源提出了前所未有的挑戰(zhàn)。Groq TSP作為專門針對超低延遲應(yīng)用而設(shè)計的確定性ML推理芯片，一經(jīng)推出便引起廣泛關(guān)注。但是，通過專業(yè)人士分析，其實際部署與應(yīng)用仍然存在很大的成本問題，產(chǎn)品的應(yīng)用前景依然在等待市場的反饋。

面對當(dāng)前情況中的具體問題，蘋芯團(tuán)隊提出了新思路，打造存算一體AI大模型端側(cè)推理專用加速芯片，通過三條路徑針對性解決難題：首先，利用存內(nèi)計算技術(shù)，降低數(shù)據(jù)搬運(yùn)，大幅提升計算能效；其次，打造大模型專屬架構(gòu)設(shè)計，完成高內(nèi)聚低耦合數(shù)據(jù)處理單元設(shè)計，切實降低總體設(shè)計制造成本；最后，融入大模型完整產(chǎn)業(yè)生態(tài)，滿足國產(chǎn)大模型對芯片設(shè)計需求，實現(xiàn)軟硬件一體設(shè)計，打通上下游合作鏈，實現(xiàn)算力算法架構(gòu)融合。

作為專注于存算一體AI芯片的創(chuàng)新型企業(yè)，蘋芯科技將繼續(xù)加快深入探索端側(cè)大模型加速芯片的步伐，推出面向大模型應(yīng)用場景的芯片產(chǎn)品與解決方案，為AI大模型時代提供強(qiáng)勁的“芯動力”。

審核編輯：劉清