0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

優(yōu)化AI可傳輸計算架構(gòu)

星星科技指導員 ? 來源:嵌入式計算設計 ? 作者:Braden Cooper ? 2022-11-07 11:20 ? 次閱讀

軍事電子行業(yè)的人工智能AI)正在以超現(xiàn)實的速度增長。各個領域的最新創(chuàng)新恰逢將計算、傳感器技術和軟件方面最強大的進步帶到關鍵任務場景中。正如GPU在原始計算能力方面繼續(xù)超過摩爾定律一樣,新的傳感器和網(wǎng)絡接口帶來了越來越大的數(shù)據(jù)集需要計算。這些新技術為將商業(yè)和科學人工智能進步的力量帶入軍事可運輸設施提供了關鍵機會。民用數(shù)據(jù)中心型人工智能應用和軍用可運輸部署之間的主要區(qū)別(和障礙)是任務的環(huán)境、電力和安全要求。

需要在邊緣部署人工智能系統(tǒng)的一個明顯例子是軍用陸地、空中或海上車輛的威脅檢測。與民用自動駕駛汽車物體識別一樣,軍事威脅檢測系統(tǒng)正在捕獲傳入的傳感器數(shù)據(jù),將數(shù)據(jù)提供給預先訓練的AI模型,并在傳感器數(shù)據(jù)中推斷威脅的跡象。此工作流雖然只有幾個步驟,但需要幾個不同的復雜硬件層。傳感器向計算節(jié)點提供數(shù)據(jù)流,計算節(jié)點又將可操作的智能分發(fā)到適當?shù)淖酉到y(tǒng),所有這些子系統(tǒng)都在高速存儲和互連的框架上運行。

構(gòu)建硬件架構(gòu)圖成為根據(jù)車輛的尺寸、重量和功率 (SWaP) 限制優(yōu)化連續(xù)數(shù)據(jù)吞吐量的一項練習。雖然可以通過添加另一個計算機系統(tǒng)機架來優(yōu)化民用數(shù)據(jù)中心的工作流程,但大多數(shù)軍用車輛的獨特功率、外形和環(huán)境條件使得對優(yōu)化的人工智能可移動系統(tǒng)的挑戰(zhàn)和需求顯而易見。

應對此工作流程挑戰(zhàn)的可能解決方案是將傳感器數(shù)據(jù)流廣播到遠程或移動數(shù)據(jù)中心,這可以支持邊緣優(yōu)化程度較低的計算機系統(tǒng);從而消除了對 AI 計算節(jié)點進行加固的需要。然而,隨著數(shù)據(jù)量的增長,傳感器數(shù)據(jù)存儲與“云”或遠程數(shù)據(jù)中心之間的通信路徑很快成為吞吐量瓶頸。為了在軍事可移動人工智能應用中充分利用最新的人工智能技術,應使用邊緣優(yōu)化的融合系統(tǒng)來集成整個工作流程。

這些堅固耐用的軍用系統(tǒng)可最大限度地提高傳感器數(shù)據(jù)攝取速率,并將其與整個計算、存儲和網(wǎng)絡速度相匹配。在這種無瓶頸體系結(jié)構(gòu)中,平衡的數(shù)據(jù)流可以以可縮放的方式滿足數(shù)據(jù)的計算需求,該方式可以隨著數(shù)據(jù)的增長而增長。無需遠程計算意味著可以捕獲、處理傳感器數(shù)據(jù)并將其用于實時推理和決策。

打破對遠程數(shù)據(jù)中心和云計算的依賴可以優(yōu)化AI工作流程的吞吐量,但確實帶來了新的挑戰(zhàn)。與軍用車輛中的所有電子系統(tǒng)一樣,融合AI系統(tǒng)的設計必須滿足嚴格的MIL-STD環(huán)境條件以及各自車輛的獨特動力傳輸系統(tǒng)。為數(shù)據(jù)中心構(gòu)建的商用現(xiàn)貨 (COTS) 服務器可在配備 220VAC 單相電源的空調(diào)房中運行。為了真正優(yōu)化通常在不太理想條件下運行的軍用車輛的AI工作流程,托管AI構(gòu)建塊的系統(tǒng)必須經(jīng)過設計,測試和認證,以滿足它們將繼續(xù)支持的任務的嚴格要求。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 傳感器
    +關注

    關注

    2542

    文章

    50269

    瀏覽量

    750171
  • 人工智能
    +關注

    關注

    1789

    文章

    46356

    瀏覽量

    236525
收藏 人收藏

    評論

    相關推薦

    未來AI大模型的發(fā)展趨勢

    未來AI大模型的發(fā)展趨勢將呈現(xiàn)多元化和深入化的特點,以下是對其發(fā)展趨勢的分析: 一、技術驅(qū)動與創(chuàng)新 算法與架構(gòu)優(yōu)化 : 隨著Transformer架構(gòu)的廣泛應用,
    的頭像 發(fā)表于 10-23 15:06 ?200次閱讀

    AI大模型的性能優(yōu)化方法

    AI大模型的性能優(yōu)化是一個復雜而關鍵的任務,涉及多個方面和策略。以下是一些主要的性能優(yōu)化方法: 一、模型壓縮與優(yōu)化 模型蒸餾(Model Distillation) 原理:通過訓練一個
    的頭像 發(fā)表于 10-23 15:01 ?170次閱讀

    AI云平臺與傳統(tǒng)云計算的區(qū)別

    AI云平臺與傳統(tǒng)云計算在定義、技術架構(gòu)、應用場景和服務模式等方面存在顯著差異。
    的頭像 發(fā)表于 10-14 10:08 ?134次閱讀

    3D DRAM內(nèi)嵌AI芯片,AI計算性能暴增

    當前高帶寬內(nèi)存(HBM)中的DRAM芯片,通過在3D DRAM中實現(xiàn)AI處理來解決數(shù)據(jù)總線問題。 ? 通常來說,當前的 AI芯片架構(gòu)將數(shù)據(jù)存儲在高帶寬內(nèi)存中,并通過數(shù)據(jù)總線將數(shù)據(jù)傳輸
    的頭像 發(fā)表于 08-16 00:08 ?3028次閱讀
    3D DRAM內(nèi)嵌<b class='flag-5'>AI</b>芯片,<b class='flag-5'>AI</b><b class='flag-5'>計算</b>性能暴增

    AI云服務器:開啟智能計算新時代

    一、AI云服務器的定義與特點 AI云服務器的定義 AI云服務器是一種基于云計算技術,專為處理人工智能相關工作負載而構(gòu)建的服務器。它集成了強大的計算
    的頭像 發(fā)表于 08-09 16:08 ?554次閱讀

    ai服務器是什么架構(gòu)類型

    AI服務器,即人工智能服務器,是專門為人工智能應用設計的高性能計算服務器。AI服務器的架構(gòu)類型有很多種,以下是一些常見的架構(gòu)類型: CPU
    的頭像 發(fā)表于 07-02 09:51 ?773次閱讀

    進一步解讀英偉達 Blackwell 架構(gòu)、NVlink及GB200 超級芯片

    2024年3月19日,[英偉達]CEO[黃仁勛]在GTC大會上公布了新一代AI芯片架構(gòu)BLACKWELL,并推出基于該架構(gòu)的超級芯片GB200,將助推數(shù)據(jù)處理、工程模擬、電子設計自動化、計算
    發(fā)表于 05-13 17:16

    risc-v多核芯片在AI方面的應用

    在極低的能耗下實現(xiàn)高效的AI元器件的運行。這對于需要長時間運行和依賴電池供電的AI設備來說尤為重要。 其次,RISC-V的模塊化架構(gòu)允許其不同部分以模塊化的方式串在一起,從而滿足各種不同的應用需求。這使
    發(fā)表于 04-28 09:20

    NVIDIA 發(fā)布全新交換機,全面優(yōu)化萬億參數(shù)級 GPU 計算AI 基礎設施

    NVIDIA Quantum-X800 InfiniBand 網(wǎng)絡,打造性能最強大的 AI 專用基礎設施 NVIDIA Spectrum-X800 以太網(wǎng)絡,數(shù)據(jù)中心必備的優(yōu)化 AI 網(wǎng)絡
    發(fā)表于 03-19 10:05 ?293次閱讀
    NVIDIA 發(fā)布全新交換機,全面<b class='flag-5'>優(yōu)化</b>萬億參數(shù)級 GPU <b class='flag-5'>計算</b>和 <b class='flag-5'>AI</b> 基礎設施

    NanoEdge AI的技術原理、應用場景及優(yōu)勢

    ,可以減少數(shù)據(jù)在傳輸過程中被竊取或篡改的風險,提高數(shù)據(jù)安全性。 - 低能耗:通過優(yōu)化神經(jīng)網(wǎng)絡模型和硬件設計,NanoEdge AI 可以在有限的資源下實現(xiàn)高效的計算,降低設備的能耗。
    發(fā)表于 03-12 08:09

    國科微:將持續(xù)優(yōu)化邊緣AI戰(zhàn)略布局

    國科微近日在接受調(diào)研時透露,公司正積極推進搭載自研NPU架構(gòu)的芯片研發(fā),主要聚焦在邊緣側(cè)應用。公司表示,將持續(xù)優(yōu)化邊緣AI戰(zhàn)略布局,加快AI技術在全系芯片中的普及化應用進程。
    的頭像 發(fā)表于 02-23 11:23 ?753次閱讀

    架構(gòu)開發(fā)與優(yōu)化咨詢和實施服務

    得益于硬件平臺算力的提升,汽車電子電氣架構(gòu)的集成度逐漸提高,多域融合成為了目前行業(yè)中軟件工程的重要工作內(nèi)容。經(jīng)緯恒潤可以為汽車電子和軟件工程師在開發(fā)軟件架構(gòu)過程中提供:既有軟件設計梳理與建模、架構(gòu)
    的頭像 發(fā)表于 02-05 14:26 ?316次閱讀
    <b class='flag-5'>架構(gòu)</b>開發(fā)與<b class='flag-5'>優(yōu)化</b>咨詢和實施服務

    荷蘭AI芯片設計公司Axelera計劃推出新型汽車芯粒AI架構(gòu)

    荷蘭邊緣人工智能(AI)芯片設計領域的領軍企業(yè)Axelera AI Solutions正在積極開發(fā)一款新型的汽車芯粒(chiplet)內(nèi)存計算AI
    的頭像 發(fā)表于 01-18 18:24 ?1665次閱讀

    加速計算卡與AI顯卡有什么區(qū)別?

    與原理 1. 加速計算卡:加速計算卡是一種用于高性能計算的硬件設備,主要用于加速復雜計算任務,如科學計算、數(shù)據(jù)分析和大規(guī)模模擬等。它采用專用
    的頭像 發(fā)表于 01-09 14:10 ?1105次閱讀

    6G網(wǎng)絡架構(gòu)的核心方案報告

    6G網(wǎng)絡將同時支持連接、感知、AI、計算、數(shù)據(jù)等多種服務,網(wǎng)絡架構(gòu)設計應進行網(wǎng)絡邏輯功能的重構(gòu)、接口及協(xié)議的優(yōu)化﹐避免簡單地功能和服務疊加造成架構(gòu)
    發(fā)表于 01-04 11:18 ?407次閱讀
    6G網(wǎng)絡<b class='flag-5'>架構(gòu)</b>的核心方案報告