端側(cè)AI芯片如何讓手機更智能？

8月31日，華為發(fā)布了新一代頂級人工智能手機芯片——麒麟980，成為全球首款采用7nm制程工藝的手機芯片。麒麟980能做到人臉識別、物體識別、物體檢測、圖像分割、智能翻譯等，實現(xiàn)AI識別質(zhì)的飛躍。

今天，我們請來麒麟芯片與解決方案AI首席科學(xué)家芮祥麟博士，解讀端側(cè)AI芯片如何讓手機更智能。

AI芯片加持，從拍照說起

有了AI的加持，現(xiàn)在的手機拍照有多智能呢？

它可以對物體和場景進行識別，自動選擇成像從“隱性”變得更加“顯性”。AI芯片自動選擇相應(yīng)的拍攝模式，帶來更清晰的攝影效果，5秒鐘就能識別100張圖片。

芮祥麟表示，AI芯片也被稱為AI加速器或計算卡，專門用于處理人工智能應(yīng)用中的大量計算任務(wù)的模塊（其他非計算任務(wù)仍由CPU負責(zé)）。

AI芯片的計算場景可分為云端AI和終端AI。深度學(xué)習(xí)的計算場景可分為三類，分別是數(shù)據(jù)中心的訓(xùn)練、數(shù)據(jù)中心的推斷和嵌入式設(shè)備的推斷。前兩者可以總結(jié)為云端的應(yīng)用，后者可以概括為終端的應(yīng)用。

手機AI芯片對于各種AI算子能夠以30倍到50倍左右的速度處理，以拍照場景為例，能夠做更好的一個圖像檢測，圖像分割和圖像語義理解。另外，對聲音可以聽清、聽懂，并根據(jù)所了解的客戶意圖提供客戶真正想要的服務(wù)。

2017年，華為在業(yè)內(nèi)率先發(fā)布麒麟970處理器，這是華為首個人工智能端側(cè)芯片，從硬件層面解決了在端側(cè)運行AI模型的性能與功耗問題，這讓智能終端具備了強大的運算能力。

以圖像識別速度為例，麒麟970可達到約2005張每分鐘，而在沒有NPU的情況下每分鐘只能處理97張圖像，與上一代相比，圖形處理性能提升20%，能效提升50%，可以更長時間支持3D大型游戲的流暢運行，支持AR/VR 等全新一代移動互聯(lián)網(wǎng)體驗。

而麒麟980在雙NPU的移動端強大算力加持下，實現(xiàn)每分鐘圖像識別4500張，識別速度相比上一代提升120%，遠高于業(yè)界同期水平。

構(gòu)筑平臺，打智能組合拳

芮祥麟表示，未來是云、管道、AI芯片和終端能力等四個方面整合。云側(cè)和端側(cè)能夠做更好的協(xié)同，能夠更快速地交換能力，做能力上的協(xié)調(diào)。我們必須要有這么一個開放的平臺，能夠把我們生態(tài)系統(tǒng)內(nèi)所有的能力都對接進來。

為了發(fā)揮華為NPU在處理AI任務(wù)時的最大性能，并且把端側(cè)最好的AI能力開放給全球Android開發(fā)者，來構(gòu)建豐富的AI應(yīng)用，華為在2017年打造了HiAI開放平臺。構(gòu)建了三層AI開放生態(tài)：服務(wù)能力開放、應(yīng)用能力開放和芯片能力開放。使第三方開發(fā)者可以便捷、實時、高效、靈活地在端側(cè)實現(xiàn)AI特性，以此極大限度地降低 AI功能的端側(cè)構(gòu)建成本。

HiAI開放平臺在自然語言理解（NLU），自動語音識別（ASR）和計算機視覺（CV）三大類，20+開放API和完備的工具平臺，實現(xiàn)開箱即用，助力三方開發(fā)者快速豐富其產(chǎn)品的能力與應(yīng)用場景，讓AI觸手可及。

目前，有一些合作伙伴已“享受”到了通過HiAI平臺的賦能與NPU計算力的加 持所帶來產(chǎn)品能力與體驗的顯著提升。

如微軟翻譯，通過HiAI平臺的加速，離線圖片以及文本翻譯的速度端到端整體提升了3倍。

在計算機視覺方面，性能的提升尤為突出，如在Prisma上，一張照片的風(fēng)格轉(zhuǎn)換的時間大抵10秒左右，通過HiAI平臺加速4倍，僅需3秒左右處理完成。

同時，還能應(yīng)用HiAI開放的場景識別能力，智能推薦當(dāng)前照片適合的風(fēng)格濾鏡，用戶無需在動輒幾十上百個的濾鏡中去選擇，進一步提升用戶的轉(zhuǎn)換效率。

能效比上也表現(xiàn)不俗，快手用戶在終端設(shè)備上直播，超過5分鐘，有一些終端就會發(fā)熱，殼溫超過36度，NPU的能效比比CPU高50倍，通過HiAI平臺優(yōu)化，長時間直播毫無壓力。