0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

人工智能如何高效地存儲(chǔ)和管理數(shù)據(jù)

姚小熊27 ? 來(lái)源:物聯(lián)網(wǎng) ? 作者:物聯(lián)網(wǎng) ? 2020-10-26 16:17 ? 次閱讀

隨著大數(shù)據(jù)的大量來(lái)源以及企業(yè)可用數(shù)據(jù)量的增加,存儲(chǔ)容量規(guī)劃已成為存儲(chǔ)管理員的問(wèn)題。據(jù)估計(jì),每天產(chǎn)生2.5萬(wàn)億字節(jié)的數(shù)據(jù)?,F(xiàn)在,如果以神經(jīng)元計(jì)算的話,那就是相當(dāng)于2.5億個(gè)人類大腦的海量數(shù)據(jù)。而且,相同的估計(jì)表明,全球總數(shù)據(jù)的90%是從2016年到2018年生成的。

可以簡(jiǎn)單地說(shuō),每天生成越來(lái)越多的數(shù)據(jù),這正增加了存儲(chǔ)工作負(fù)載的規(guī)模和復(fù)雜性。但是,人工智能可以拯救存儲(chǔ)管理員,幫助他們高效地存儲(chǔ)和管理數(shù)據(jù)。通過(guò)使用AI數(shù)據(jù)存儲(chǔ),供應(yīng)商和企業(yè)可以將存儲(chǔ)管理提升到一個(gè)新的水平。而且,存儲(chǔ)管理員可以找到他們目前正在努力管理的指標(biāo)的解決方案。

存儲(chǔ)管理員需要努力的主要指標(biāo)

存儲(chǔ)管理員在管理存儲(chǔ)問(wèn)題時(shí)面臨一些挑戰(zhàn)。而且,如果他們克服了這些挑戰(zhàn),將幫助他們?cè)跀?shù)據(jù)存儲(chǔ)的各個(gè)方面之間找到適當(dāng)?shù)钠胶猓缭谀睦锓峙涔ぷ髫?fù)載,如何分配工作負(fù)載以及如何優(yōu)化堆棧等等。

一般而言,吞吐量是指處理某事物的速率。在網(wǎng)絡(luò)級(jí)別,吞吐量的度量單位是Mbps(兆位/秒),而在存儲(chǔ)級(jí)別,吞吐量的度量單位是MB /秒(兆字節(jié)/秒)。由于一個(gè)字節(jié)等于八兆位,因此生產(chǎn)率在存儲(chǔ)級(jí)別上提高了。并且,變得難以管理提高的生產(chǎn)率。

延時(shí)

延遲是服務(wù)器完成請(qǐng)求所花費(fèi)的時(shí)間。關(guān)于存儲(chǔ),這是指滿足單個(gè)存儲(chǔ)塊的請(qǐng)求所花費(fèi)的時(shí)間。存儲(chǔ)塊或塊存儲(chǔ)是將數(shù)據(jù)存儲(chǔ)在卷中的塊。純延遲不受吞吐量影響,但是如果單個(gè)塊請(qǐng)求很大,則應(yīng)用延遲可能會(huì)隨著吞吐量的增加而偏離。

IOPS(每秒輸入/輸出操作)

IOPS是指存儲(chǔ)堆棧每秒可以處理的離散讀寫(xiě)任務(wù)的數(shù)量。存儲(chǔ)堆棧是一種允許過(guò)程調(diào)用的數(shù)據(jù)結(jié)構(gòu)。這意味著將多個(gè)過(guò)程彼此存儲(chǔ)在堆棧中,然后在調(diào)用和返回的基礎(chǔ)上一個(gè)接一個(gè)地執(zhí)行所有過(guò)程。例如,如果一個(gè)過(guò)程被調(diào)用,它將被執(zhí)行,然后返回,以便在堆棧中調(diào)用下一個(gè)過(guò)程。而且,在談?wù)揑OPS時(shí),基礎(chǔ)輸入/輸出任務(wù)可以達(dá)到存儲(chǔ)系統(tǒng)的堆棧限制。例如,讀取一個(gè)大文件和多個(gè)小文件可能會(huì)對(duì)IOPS產(chǎn)生影響。由于讀取單個(gè)大文件僅需要執(zhí)行一個(gè)讀取任務(wù),因此可以以較高的速度執(zhí)行它,而另一方面,讀取多個(gè)文件的速度非常慢,因?yàn)樾枰獔?zhí)行許多讀取任務(wù)。

AI數(shù)據(jù)存儲(chǔ)如何解決存儲(chǔ)問(wèn)題

企業(yè)管理員和存儲(chǔ)供應(yīng)商處理各種各樣的存儲(chǔ)類型。而且,它們還滿足不同輸入/輸出服務(wù)的指標(biāo)。大型文件共享應(yīng)用可能需要適當(dāng)?shù)耐掏铝?,但也必須允許延遲損失,因?yàn)榇笮投鴱?fù)雜的應(yīng)用可能會(huì)對(duì)延遲產(chǎn)生不利影響。另一方面,電子郵件服務(wù)器可能需要大量存儲(chǔ),低延遲和良好的吞吐量,但它可能不需要非??量痰腎OPS配置文件。并且,存儲(chǔ)管理員應(yīng)該決定應(yīng)該為哪些存儲(chǔ)分配什么資源。因此,在組織中運(yùn)行著成千上萬(wàn)的服務(wù)時(shí),對(duì)基礎(chǔ)存儲(chǔ)的管理超過(guò)了人們進(jìn)行明智更改的能力。而且,這就是AI算法派上用場(chǎng)的地方。

人工智能支持的存儲(chǔ)管理和計(jì)劃

AI可以監(jiān)控存儲(chǔ)以檢測(cè)多種工作負(fù)載的模式和性能。這里的工作負(fù)載是由各種輸入/輸出特征或應(yīng)用任務(wù)生成的數(shù)據(jù)流。通過(guò)檢測(cè)這些工作負(fù)載模式,AI可以幫助存儲(chǔ)管理員洞悉哪些工作負(fù)載可能使他們面臨最大化存儲(chǔ)陣列的風(fēng)險(xiǎn)。此外,存儲(chǔ)監(jiān)視還可以幫助了解是否有任何額外的工作負(fù)載可以放入陣列中。而且,如果添加到陣列中,那么工作負(fù)載將造成多少中斷。

例如,假設(shè)一家企業(yè)正在向流程中添加電子郵件服務(wù)器。在這種情況下,人工智能系統(tǒng)可以幫助預(yù)測(cè)存儲(chǔ)陣列將能夠滿足該服務(wù)器的存儲(chǔ)需求還是將其最大化。借助此類技術(shù),存儲(chǔ)管理員可以主動(dòng)獲取有關(guān)如何將不同的工作負(fù)載分配給不同的存儲(chǔ)堆棧并最大程度地減少延遲的信息。因此,將AI集成到存儲(chǔ)陣列,存儲(chǔ)供應(yīng)商和組織中可以優(yōu)化存儲(chǔ)堆棧。

除了監(jiān)視存儲(chǔ)活動(dòng)外,存儲(chǔ)管理員還需要檢查和分析存儲(chǔ)系統(tǒng)要使用的應(yīng)用的編碼和錯(cuò)誤。這有助于他們更好地了解如何圍繞應(yīng)用的需求設(shè)計(jì)存儲(chǔ)體系結(jié)構(gòu)。他們通過(guò)了解應(yīng)用的輸入/輸出模式來(lái)做到這一點(diǎn)。用于執(zhí)行此操作的最常見(jiàn)技術(shù)是捕獲應(yīng)用的跟蹤。

Strace是Linux的用戶空間實(shí)用程序,可用于診斷、調(diào)試和獲取有關(guān)輸入和輸出功能的指令。但是,由于復(fù)雜的應(yīng)用可以具有多個(gè)輸入/輸出功能,因此這對(duì)人類來(lái)說(shuō)可能是一個(gè)挑戰(zhàn)。另一方面,ML算法可以輕松地提取和分析大量數(shù)據(jù),并解決許多存儲(chǔ)問(wèn)題,最好是通過(guò)查看存儲(chǔ)系統(tǒng)本身來(lái)解決。此外,通過(guò)使用大量數(shù)據(jù)訓(xùn)練算法,以了解特定堆?;蛘麄€(gè)應(yīng)用如何收集和存儲(chǔ)數(shù)據(jù),它們可以幫助實(shí)現(xiàn)對(duì)該特定應(yīng)用存儲(chǔ)活動(dòng)的實(shí)時(shí)觀察,以防止堆棧最大化并改善存儲(chǔ)容量。

AI數(shù)據(jù)存儲(chǔ)可滿足客戶需求

遙測(cè)數(shù)據(jù)是自動(dòng)記錄和無(wú)線傳輸來(lái)自遠(yuǎn)程或不可訪問(wèn)來(lái)源的數(shù)據(jù)。遙測(cè)以下列方式起作用:傳感器在源處測(cè)量數(shù)據(jù),它們將其轉(zhuǎn)換為電壓,然后將其與定時(shí)數(shù)據(jù)合并為單個(gè)數(shù)據(jù)流,該數(shù)據(jù)流將傳輸?shù)竭h(yuǎn)程接收器。接收后,可以根據(jù)用戶要求對(duì)數(shù)據(jù)進(jìn)行處理。

AI的計(jì)算機(jī)視覺(jué)技術(shù)可以掃描遙測(cè)數(shù)據(jù),以保護(hù)存儲(chǔ)陣列免受漏洞侵害。當(dāng)使用有關(guān)漏洞的歷史數(shù)據(jù)進(jìn)行訓(xùn)練時(shí),機(jī)器學(xué)習(xí)算法可以將來(lái)自各種應(yīng)用程序的傳入數(shù)據(jù)與歷史數(shù)據(jù)進(jìn)行匹配,以發(fā)現(xiàn)漏洞的可能性。因此,借助AI的預(yù)測(cè)分析,存儲(chǔ)供應(yīng)商可以著眼于在遇到客戶之前防止存儲(chǔ)問(wèn)題。

AI數(shù)據(jù)存儲(chǔ)仍處于起步階段,但已經(jīng)顯示出了驚人的結(jié)果。而且,因此云供應(yīng)商和其他存儲(chǔ)管理員正在對(duì)AI進(jìn)行越來(lái)越多的投資,以使用超融合存儲(chǔ)系統(tǒng)進(jìn)行存儲(chǔ)維護(hù)。采用主流AI數(shù)據(jù)存儲(chǔ)肯定會(huì)幫助企業(yè)控制上述所有指標(biāo),并為其客戶提供更好的服務(wù)。
責(zé)任編輯:YYX

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1789

    文章

    46348

    瀏覽量

    236516
  • 大數(shù)據(jù)
    +關(guān)注

    關(guān)注

    64

    文章

    8832

    瀏覽量

    137138
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第6章人AI與能源科學(xué)讀后感

    、優(yōu)化等方面的應(yīng)用有了更清晰的認(rèn)識(shí)。特別是書(shū)中提到的基于大數(shù)據(jù)和機(jī)器學(xué)習(xí)的能源管理系統(tǒng),通過(guò)實(shí)時(shí)監(jiān)測(cè)和分析能源數(shù)據(jù),實(shí)現(xiàn)了能源的高效利用和智能
    發(fā)表于 10-14 09:27

    AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第4章-AI與生命科學(xué)讀后感

    閱讀這一章后,我深感人工智能與生命科學(xué)的結(jié)合正引領(lǐng)著一場(chǎng)前所未有的科學(xué)革命,以下是我個(gè)人的讀后感: 1. 技術(shù)革新與生命科學(xué)進(jìn)步 這一章詳細(xì)闡述了人工智能如何通過(guò)其強(qiáng)大的數(shù)據(jù)處理和分析能力,加速生命科學(xué)
    發(fā)表于 10-14 09:21

    《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第一章人工智能驅(qū)動(dòng)的科學(xué)創(chuàng)新學(xué)習(xí)心得

    人工智能:科學(xué)研究的加速器 第一章清晰地闡述了人工智能作為科學(xué)研究工具的強(qiáng)大功能。通過(guò)機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等先進(jìn)技術(shù),AI能夠處理和分析海量數(shù)據(jù),發(fā)現(xiàn)傳統(tǒng)方法難以捕捉的模式和規(guī)律。這不僅極大地提高了
    發(fā)表于 10-14 09:12

    risc-v在人工智能圖像處理應(yīng)用前景分析

    RISC-V在人工智能圖像處理領(lǐng)域的應(yīng)用前景十分廣闊,這主要得益于其開(kāi)源性、靈活性和低功耗等特點(diǎn)。以下是對(duì)RISC-V在人工智能圖像處理應(yīng)用前景的詳細(xì)分析: 一、RISC-V的基本特點(diǎn) RISC-V
    發(fā)表于 09-28 11:00

    人工智能ai4s試讀申請(qǐng)

    目前人工智能在繪畫(huà)對(duì)話等大模型領(lǐng)域應(yīng)用廣闊,ai4s也是方興未艾。但是如何有效利用ai4s工具助力科研是個(gè)需要研究的課題,本書(shū)對(duì)ai4s基本原理和原則,方法進(jìn)行描訴,有利于總結(jié)經(jīng)驗(yàn),擬按照要求準(zhǔn)備相關(guān)體會(huì)材料??茨芊裼兄谌腴T(mén)和提高ss
    發(fā)表于 09-09 15:36

    名單公布!【書(shū)籍評(píng)測(cè)活動(dòng)NO.44】AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新

    大力發(fā)展AI for Science的原因。 第2章從科學(xué)研究底層的理論模式與主要困境,以及人工智能三要素(數(shù)據(jù)、算法、算力)出發(fā),對(duì)AI for Science的技術(shù)支撐進(jìn)行解讀。 第3章介紹了在
    發(fā)表于 09-09 13:54

    報(bào)名開(kāi)啟!深圳(國(guó)際)通用人工智能大會(huì)將啟幕,國(guó)內(nèi)外大咖齊聚話AI

    呈現(xiàn)、產(chǎn)業(yè)展覽、技術(shù)交流、學(xué)術(shù)論壇于一體的世界級(jí)人工智能合作交流平臺(tái)。本次大會(huì)暨博覽會(huì)由工業(yè)和信息化部政府采購(gòu)中心、廣東省工商聯(lián)、前海合作區(qū)管理局、深圳市工信局等單位指導(dǎo),深圳市人工智能產(chǎn)業(yè)協(xié)會(huì)主辦
    發(fā)表于 08-22 15:00

    FPGA在人工智能中的應(yīng)用有哪些?

    FPGA(現(xiàn)場(chǎng)可編程門(mén)陣列)在人工智能領(lǐng)域的應(yīng)用非常廣泛,主要體現(xiàn)在以下幾個(gè)方面: 一、深度學(xué)習(xí)加速 訓(xùn)練和推理過(guò)程加速:FPGA可以用來(lái)加速深度學(xué)習(xí)的訓(xùn)練和推理過(guò)程。由于其高并行性和低延遲特性
    發(fā)表于 07-29 17:05

    西部數(shù)據(jù)發(fā)布AI數(shù)據(jù)周期框架,推動(dòng)人工智能革新

    人工智能領(lǐng)域持續(xù)革新的今天,西部數(shù)據(jù)公司憑借其深厚的技術(shù)積累,正式發(fā)布了全新的人工智能數(shù)據(jù)周期(AI Data Cycle)框架。這一框架不僅為下一代
    的頭像 發(fā)表于 06-14 17:55 ?933次閱讀

    人工智能數(shù)據(jù)中心的新型連接解決方案

    (AI)和機(jī)器學(xué)習(xí)(ML)應(yīng)用對(duì)復(fù)雜計(jì)算能力、海量存儲(chǔ)容量和無(wú)縫連接提出了前所未有的要求。電子元件之間高速、高效的通信使人工智能數(shù)據(jù)中心能夠計(jì)算龐大的
    的頭像 發(fā)表于 06-13 08:26 ?469次閱讀
    <b class='flag-5'>人工智能</b><b class='flag-5'>數(shù)據(jù)</b>中心的新型連接解決方案

    西部數(shù)據(jù)發(fā)布全新人工智能數(shù)據(jù)周期存儲(chǔ)框架,助力用戶發(fā)掘人工智能價(jià)值

    公司持續(xù)拓展旗下企業(yè)級(jí)SSD和HDD產(chǎn)品組合,應(yīng)對(duì)全新人工智能數(shù)據(jù)周期中的關(guān)鍵工作負(fù)載 2024年6月7日,上海- 西部數(shù)據(jù)公司(NASDAQ:WDC)于今日正式發(fā)布了人工智能
    的頭像 發(fā)表于 06-11 10:57 ?337次閱讀

    5G智能物聯(lián)網(wǎng)課程之Aidlux下人工智能開(kāi)發(fā)(SC171開(kāi)發(fā)套件V2)

    5G智能物聯(lián)網(wǎng)課程之Aidlux下人工智能開(kāi)發(fā)(SC171開(kāi)發(fā)套件V2) 課程類別 課程名稱 視頻課程時(shí)長(zhǎng) 視頻課程鏈接 課件鏈接 人工智能 參賽基礎(chǔ)知識(shí)指引 14分50秒 https
    發(fā)表于 05-10 16:46

    5G智能物聯(lián)網(wǎng)課程之Aidlux下人工智能開(kāi)發(fā)(SC171開(kāi)發(fā)套件V1)

    課程類別 課程名稱 視頻課程時(shí)長(zhǎng) 視頻課程鏈接 課件鏈接 人工智能 參賽基礎(chǔ)知識(shí)指引 14分50秒 https://t.elecfans.com/v/25508.html *附件:參賽基礎(chǔ)知識(shí)指引
    發(fā)表于 04-01 10:40

    嵌入式人工智能的就業(yè)方向有哪些?

    嵌入式人工智能的就業(yè)方向有哪些? 在新一輪科技革命與產(chǎn)業(yè)變革的時(shí)代背景下,嵌入式人工智能成為國(guó)家新型基礎(chǔ)建設(shè)與傳統(tǒng)產(chǎn)業(yè)升級(jí)的核心驅(qū)動(dòng)力。同時(shí)在此背景驅(qū)動(dòng)下,眾多名企也紛紛在嵌入式人工智能領(lǐng)域布局
    發(fā)表于 02-26 10:17

    人工智能助力PMC管理:打造高效生產(chǎn)力的未來(lái)之路!

    作為企業(yè)生產(chǎn)運(yùn)營(yíng)的核心環(huán)節(jié),生產(chǎn)計(jì)劃與物料控制(PMC)在人工智能技術(shù)的加持下,正迎來(lái)一場(chǎng)管理效率的革新。本文將探討如何將人工智能技術(shù)與PMC管理相結(jié)合,為企業(yè)創(chuàng)造更大的價(jià)值。 一、
    的頭像 發(fā)表于 01-04 09:27 ?434次閱讀