0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

冰上的大數(shù)據(jù)

星星科技指導(dǎo)員 ? 來(lái)源:嵌入式計(jì)算設(shè)計(jì) ? 作者:Brandon Lewis ? 2022-08-17 09:40 ? 次閱讀

波音噴氣發(fā)動(dòng)機(jī)每運(yùn)行 30 分鐘,就會(huì)產(chǎn)生 10 TB 的數(shù)據(jù)。那是 1 萬(wàn)億字節(jié),或相當(dāng)于美國(guó)國(guó)會(huì)圖書(shū)館整個(gè)印刷館藏的數(shù)字化等價(jià)物。將其乘以每天在美國(guó)上空推動(dòng)超過(guò) 87,000 次航班的噴氣發(fā)動(dòng)機(jī)數(shù)量,您就會(huì)獲得大量數(shù)據(jù)。

盡管一些人猜測(cè)大數(shù)據(jù)不會(huì)轉(zhuǎn)化為分析療法,但它仍然與物聯(lián)網(wǎng)IoT) 密不可分。如果思科等公司的預(yù)測(cè)是正確的,那么到 2020 年,我們將有大約 500 億個(gè)支持互聯(lián)網(wǎng)的“事物”不斷地啁啾,雖然它們可能不會(huì)都在噴氣發(fā)動(dòng)機(jī)剪輯上生成數(shù)據(jù),但這絕對(duì)構(gòu)成了數(shù)據(jù)海嘯。

那么,我們將如何處理所有這些數(shù)據(jù)?收獲的信息必須在某種程度上具有價(jià)值,否則它一開(kāi)始就不會(huì)被收獲。另一方面,并??非所有數(shù)據(jù)都是平等的。收集到的絕大多數(shù)數(shù)據(jù)可能會(huì)被存檔和遺忘,直到偶爾報(bào)告需要它,訪問(wèn)一次或兩次,然后再次被遺忘。根據(jù) Enterprise Strategy Group 的研究,這種“不經(jīng)常訪問(wèn)”的信息(也稱(chēng)為第 3 層或“冷”數(shù)據(jù))占記錄數(shù)據(jù)的 80%。而且,盡管這些年來(lái)內(nèi)存的平均成本急劇下降,但在大數(shù)據(jù)規(guī)模上,每 GB 幾美分的成本可以很快加起來(lái)。

這種信息過(guò)載的明顯答案是冷數(shù)據(jù)存儲(chǔ)替代方案,它們比用于定期訪問(wèn)的數(shù)據(jù)更便宜且容量更大。因此,公司通常選擇以下兩種解決方案之一:歷史悠久的磁帶庫(kù),或者最近的云。

磁帶庫(kù)已經(jīng)使用了幾十年,非常適合以極低的成本存儲(chǔ)大量數(shù)據(jù)。它們也可以被認(rèn)為是“綠色的”,因?yàn)榇艓?qū)動(dòng)器僅在使用時(shí)旋轉(zhuǎn)(這可以節(jié)省電力),并且位于內(nèi)部可以相對(duì)快速地訪問(wèn)冷數(shù)據(jù)。然而,磁帶庫(kù)也有一些缺點(diǎn),包括大中型存儲(chǔ)系統(tǒng)的前期費(fèi)用高昂、遠(yuǎn)程訪問(wèn)困難、磁帶退化的可能性以及在單個(gè)現(xiàn)場(chǎng)位置維護(hù)檔案的漏洞。而不是“數(shù)據(jù)海嘯”想想“數(shù)據(jù)”和“海嘯”)。

公司探索云存儲(chǔ)的可能性,通過(guò)提供無(wú)限的存儲(chǔ)空間、低成本以及防止盜竊、自然災(zāi)害等的遠(yuǎn)程容量,彌補(bǔ)了磁帶庫(kù)的一些疑慮。然而,云解決方案的主要特點(diǎn)是檢索數(shù)據(jù)通常非常耗時(shí),并且可能會(huì)變得昂貴,具體取決于檢索的數(shù)據(jù)量。例如,Amazon Glacier 之類(lèi)的服務(wù)至少需要 3-5 小時(shí)來(lái)檢索數(shù)據(jù)集(可在 24 小時(shí)內(nèi)下載),如果在給定的數(shù)據(jù)中檢索到超過(guò) 5% 的數(shù)據(jù),則按千兆字節(jié)收費(fèi)月。

兩者的交叉點(diǎn)似乎會(huì)有所改進(jìn),并包含優(yōu)化訪問(wèn)的硬件和軟件元素,同時(shí)確保每 GB 存儲(chǔ)的成本盡可能低。

冷藏:冰上的大數(shù)據(jù)

軟件定義存儲(chǔ) (SDS) 是一個(gè)新術(shù)語(yǔ),但從技術(shù)角度來(lái)看,它類(lèi)似于軟件定義網(wǎng)絡(luò) (SDN),因?yàn)橛布壿嫳怀橄鬄楣芾泶鎯?chǔ)基礎(chǔ)設(shè)施的軟件層。從本質(zhì)上講,這意味著可以虛擬化存儲(chǔ)功能或服務(wù)(如重復(fù)數(shù)據(jù)刪除、復(fù)制、快照和精簡(jiǎn)配置),從而實(shí)現(xiàn)在商用硬件上運(yùn)行的融合存儲(chǔ)架構(gòu)。因此,可以實(shí)施具有成本效益的存儲(chǔ)策略,將磁帶庫(kù)的可訪問(wèn)性和效率與云的可擴(kuò)展性和遠(yuǎn)程功能相結(jié)合。

例如,由 Storiant 提供支持的 RGS Cold Storage 是針對(duì)第 3 層數(shù)據(jù)的本地存儲(chǔ)解決方案,它基于 Avnet, Inc. 的業(yè)務(wù)部門(mén) RGS 的現(xiàn)成硬件。機(jī)柜級(jí)設(shè)備與 60 個(gè)提供 PB 級(jí)容量的 HDD 托架完全集成,并利用基于 OpenZFS 的 Storiant 軟件(以前稱(chēng)為 SageCloud)與私有云接口。Storiant 數(shù)據(jù)管理軟件還提高了訪問(wèn)性能,將處于停滯狀態(tài)的數(shù)據(jù)的檢索時(shí)間縮短至 30 秒,同時(shí)允許 HDD 在不使用時(shí)減速以顯著降低功耗??蓴U(kuò)展的 RGS 冷存儲(chǔ)架構(gòu)每月每 GB 存儲(chǔ) 0.01 美元,針對(duì)大多數(shù)大數(shù)據(jù)部署進(jìn)行了成本優(yōu)化。

雖然 SDS 等存儲(chǔ)管理技術(shù)有助于為有價(jià)值的業(yè)務(wù)分析奠定基礎(chǔ),但它們還確保財(cái)務(wù)和計(jì)算資源可用于定期執(zhí)行的“第 1 層”數(shù)據(jù)。在一個(gè)過(guò)多的信息實(shí)際上會(huì)變成一件壞事的環(huán)境中,將其中的一些信息保持在深度凍結(jié)狀態(tài)是很重要的。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 發(fā)動(dòng)機(jī)

    關(guān)注

    33

    文章

    2421

    瀏覽量

    69017
  • 物聯(lián)網(wǎng)
    +關(guān)注

    關(guān)注

    2899

    文章

    43837

    瀏覽量

    369418
  • SDS
    SDS
    +關(guān)注

    關(guān)注

    0

    文章

    48

    瀏覽量

    15660
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    智慧城市與大數(shù)據(jù)的關(guān)系

    智慧城市與大數(shù)據(jù)之間存在著密切的關(guān)系,這種關(guān)系體現(xiàn)在大數(shù)據(jù)對(duì)智慧城市建設(shè)的支撐和推動(dòng)作用,以及智慧城市產(chǎn)生的大量數(shù)據(jù)對(duì)大數(shù)據(jù)技術(shù)的應(yīng)用需求。 大數(shù)據(jù)
    的頭像 發(fā)表于 10-24 15:27 ?323次閱讀

    云計(jì)算在大數(shù)據(jù)分析中的應(yīng)用

    云計(jì)算在大數(shù)據(jù)分析中的應(yīng)用廣泛且深入,它為用戶(hù)提供了存儲(chǔ)、計(jì)算、分析和預(yù)測(cè)的強(qiáng)大能力。以下是對(duì)云計(jì)算在大數(shù)據(jù)分析中應(yīng)用的介紹: 一、存儲(chǔ)和處理海量數(shù)據(jù) 云計(jì)算提供了強(qiáng)大的存儲(chǔ)和計(jì)算能力,可以存儲(chǔ)
    的頭像 發(fā)表于 10-24 09:18 ?189次閱讀

    IP 地址大數(shù)據(jù)分析如何進(jìn)行網(wǎng)絡(luò)優(yōu)化?

    一、大數(shù)據(jù)分析在網(wǎng)絡(luò)優(yōu)化中的作用 1.流量分析 大數(shù)據(jù)分析可以對(duì)網(wǎng)絡(luò)中的流量進(jìn)行實(shí)時(shí)監(jiān)測(cè)和分析,了解網(wǎng)絡(luò)的使用情況和流量趨勢(shì)。通過(guò)對(duì)流量數(shù)據(jù)的分析,可以發(fā)現(xiàn)網(wǎng)絡(luò)中的瓶頸和問(wèn)題,為網(wǎng)絡(luò)優(yōu)化提供依據(jù)
    的頭像 發(fā)表于 10-09 15:32 ?110次閱讀
    IP 地址<b class='flag-5'>大數(shù)據(jù)</b>分析如何進(jìn)行網(wǎng)絡(luò)優(yōu)化?

    使用CYW20829的BLE進(jìn)行最大數(shù)據(jù)發(fā)送應(yīng)用,BLE丟失數(shù)據(jù)如何解決?

    我目前正在使用 CYW20829 的 BLE 進(jìn)行最大數(shù)據(jù)發(fā)送應(yīng)用,我使用的是 FREERTOS(例程 Bluetooth_LE_GATT_Throughput_Server 是我的參考),藍(lán)牙被
    發(fā)表于 07-23 07:56

    大數(shù)據(jù)在軍事方面的應(yīng)用

    智慧華盛恒輝大數(shù)據(jù)在軍事方面的應(yīng)用廣泛且深入,涵蓋了戰(zhàn)爭(zhēng)決策、情報(bào)分析、裝備研發(fā)、后勤保障、科研方法、管理水平、作戰(zhàn)能力和信息化建設(shè)等多個(gè)方面。以下是對(duì)這些應(yīng)用的詳細(xì)歸納: 智慧華盛恒輝一、戰(zhàn)爭(zhēng)決策
    的頭像 發(fā)表于 07-16 09:44 ?677次閱讀

    大數(shù)據(jù)采集系統(tǒng)分為幾類(lèi)

    大數(shù)據(jù)采集系統(tǒng)是大數(shù)據(jù)生態(tài)系統(tǒng)中的重要組成部分,它負(fù)責(zé)從各種數(shù)據(jù)源收集、整合和存儲(chǔ)數(shù)據(jù)。根據(jù)不同的數(shù)據(jù)源、采集方法和應(yīng)用場(chǎng)景,
    的頭像 發(fā)表于 07-01 15:44 ?1213次閱讀

    大數(shù)據(jù)在軍事方面的應(yīng)用有哪些

    智慧華盛恒輝大數(shù)據(jù)在軍事方面的應(yīng)用涵蓋了多個(gè)方面,這些應(yīng)用不僅提高了軍事管理的效率和水平,也極大地提升了軍隊(duì)的作戰(zhàn)能力和情報(bào)獲取能力。以下是大數(shù)據(jù)在軍事方面的主要應(yīng)用: 智慧華盛恒輝戰(zhàn)爭(zhēng)決策輔助
    的頭像 發(fā)表于 06-23 10:34 ?738次閱讀

    CYBT-343026傳輸大數(shù)據(jù)時(shí)會(huì)丟數(shù)據(jù)的原因?

    我正在使用 CYBT-343026 (CYW-20706 Silicon) 模塊。 我根據(jù) SPP 樣本制作了一個(gè)操作 SPP 的應(yīng)用程序。 但是,傳輸大數(shù)據(jù)時(shí)有時(shí)會(huì)丟失數(shù)據(jù)。 它從
    發(fā)表于 03-01 15:04

    大數(shù)據(jù)技術(shù)是干嘛的 大數(shù)據(jù)核心技術(shù)有哪些

    大數(shù)據(jù)技術(shù)是指用來(lái)處理和存儲(chǔ)海量、多類(lèi)型、高速的數(shù)據(jù)的一系列技術(shù)和工具。現(xiàn)如今,大數(shù)據(jù)已經(jīng)滲透到各個(gè)行業(yè)和領(lǐng)域,對(duì)企業(yè)決策和業(yè)務(wù)發(fā)展起到了重要作用。本文將詳細(xì)介紹大數(shù)據(jù)技術(shù)的概念、發(fā)展
    的頭像 發(fā)表于 01-31 11:07 ?2835次閱讀

    大數(shù)據(jù)技術(shù)如何為精益管理賦能?

    隨著科技的飛速發(fā)展,大數(shù)據(jù)技術(shù)已經(jīng)逐漸滲透到各個(gè)領(lǐng)域,為企業(yè)帶來(lái)了前所未有的變革。在精益管理領(lǐng)域,大數(shù)據(jù)技術(shù)的運(yùn)用更是為企業(yè)管理帶來(lái)了諸多優(yōu)勢(shì),為企業(yè)高效運(yùn)營(yíng)注入了新的活力。 一、大數(shù)據(jù)技術(shù)為精益
    的頭像 發(fā)表于 12-19 09:58 ?539次閱讀

    校園大數(shù)據(jù)治理的難點(diǎn)是什么?#數(shù)據(jù)治理 #光點(diǎn)科技

    大數(shù)據(jù)
    光點(diǎn)科技
    發(fā)布于 :2023年12月18日 10:07:44

    校園大數(shù)據(jù)治理的意義是什么?#數(shù)據(jù)治理 #光點(diǎn)科技

    大數(shù)據(jù)
    光點(diǎn)科技
    發(fā)布于 :2023年12月15日 09:17:56

    Get職場(chǎng)新知識(shí):做分析,用大數(shù)據(jù)分析工具

    綜合分析。但現(xiàn)在有了大數(shù)據(jù)分析工具,一切問(wèn)題都可迎刃而解。 大數(shù)據(jù)分析工具,顧名思義就是專(zhuān)門(mén)為分析海量數(shù)據(jù)而開(kāi)發(fā)的一類(lèi)工具。這類(lèi)工具具有極強(qiáng)的大數(shù)據(jù)分析、指標(biāo)計(jì)算、
    發(fā)表于 12-05 09:36

    電梯物聯(lián)網(wǎng)大數(shù)據(jù)平臺(tái)是什么意思?

    電梯物聯(lián)網(wǎng)大數(shù)據(jù)化平臺(tái)是將電梯的使用時(shí)間和管理中的各項(xiàng)數(shù)據(jù)進(jìn)行采集,整合及利用大數(shù)據(jù)分析能力和計(jì)算機(jī)視覺(jué)技術(shù)、結(jié)合關(guān)聯(lián)分析、空間分析和多維分析等多種分析手段,挖掘?qū)?yīng)數(shù)據(jù)業(yè)務(wù)算法模型。
    的頭像 發(fā)表于 11-23 11:01 ?734次閱讀

    移動(dòng)網(wǎng)絡(luò)中的大數(shù)據(jù)

    電子發(fā)燒友網(wǎng)站提供《移動(dòng)網(wǎng)絡(luò)中的大數(shù)據(jù).pdf》資料免費(fèi)下載
    發(fā)表于 11-10 10:43 ?0次下載
    移動(dòng)網(wǎng)絡(luò)中的<b class='flag-5'>大數(shù)據(jù)</b>