在今年的巴塞羅那世界移動(dòng)通信大會(huì)(MWC)上,高通技術(shù)公司再次引領(lǐng)AI技術(shù)的創(chuàng)新潮流,發(fā)布了其全新的高通AI Hub。這一創(chuàng)新平臺(tái)為開發(fā)者提供了一個(gè)全面的AI模型庫,使得他們能夠輕松快速地將預(yù)優(yōu)化AI模型集成進(jìn)應(yīng)用程序中,從而為用戶帶來更快、更可靠且更具隱私性的體驗(yàn)。
高通AI Hub的核心是其預(yù)優(yōu)化AI模型庫,這一庫支持在搭載驍龍和高通平臺(tái)的終端上進(jìn)行無縫部署。模型庫中包含超過75個(gè)主流的AI和生成式AI模型,如Whisper、ControlNet、Stable Diffusion和Baichuan-7B等。這些模型可在不同的執(zhí)行環(huán)境中打包,實(shí)現(xiàn)卓越的終端側(cè)AI性能、降低內(nèi)存占用并提升能效。
值得一提的是,所有模型都經(jīng)過優(yōu)化,旨在充分利用高通AI引擎內(nèi)的所有核心(NPU、CPU和GPU)的硬件加速能力。這意味著推理速度可以得到4倍的提升,從而為用戶提供更加流暢、高效的AI體驗(yàn)。
除了硬件加速外,AI模型庫還能夠自動(dòng)處理從源框架到主流執(zhí)行環(huán)境的模型轉(zhuǎn)換,并與高通AI引擎Direct SDK協(xié)同工作,實(shí)現(xiàn)硬件感知優(yōu)化。這意味著開發(fā)者可以更加便捷地將這些模型集成進(jìn)他們的應(yīng)用程序中,縮短產(chǎn)品上市時(shí)間,并發(fā)揮終端側(cè)AI部署的諸多優(yōu)勢,如即時(shí)性、可靠性、隱私保護(hù)、個(gè)性化和成本優(yōu)勢。
為了方便開發(fā)者使用這些模型,高通AI Hub現(xiàn)已在高通AI Hub、GitHub和Hugging Face等平臺(tái)上提供。此外,高通AI Hub還將持續(xù)增加新模型,并支持更多平臺(tái)和操作系統(tǒng)。開發(fā)者只需注冊(cè)登錄,即可在搭載高通技術(shù)公司平臺(tái)的云托管終端上自行運(yùn)行模型,并通過高通AI Hub提前獲取新特性和AI模型。
隨著AI技術(shù)的不斷發(fā)展和普及,高通AI Hub的推出無疑將為開發(fā)者提供更加便捷、高效的工具,推動(dòng)終端側(cè)AI技術(shù)的廣泛應(yīng)用和發(fā)展。我們期待這一平臺(tái)能夠在未來的AI領(lǐng)域中發(fā)揮更大的作用,為用戶帶來更加出色的AI體驗(yàn)。
-
高通
+關(guān)注
關(guān)注
76文章
7355瀏覽量
190062 -
移動(dòng)通信
+關(guān)注
關(guān)注
10文章
2593瀏覽量
69713 -
AI
+關(guān)注
關(guān)注
87文章
29359瀏覽量
267634
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論