0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

對象存儲為什么那么火?

454398 ? 2023-02-01 11:24 ? 次閱讀

上期文章,小棗君給大家詳細(xì)介紹了數(shù)據(jù)存儲技術(shù)的基本知識,其中重點對 DAS、SAN 和 NAS 技術(shù)進(jìn)行了對比分析。

我們知道,在很長的一段時間里,這三種架構(gòu)幾乎統(tǒng)治了數(shù)據(jù)存儲市場。所有行業(yè)用戶的數(shù)據(jù)存儲需求,都是在這三者中進(jìn)行選擇。

然而,隨著時代的發(fā)展,一種新的數(shù)據(jù)存儲形態(tài)誕生,開始挑戰(zhàn)前面三者的壟斷地位。

沒錯,它就是云計算時代存儲技術(shù)的新網(wǎng)紅——對象存儲。

哈哈,也許搞著搞著,對象就有了呢!

對象存儲,也稱為“面向?qū)ο蟮拇鎯Α?,英文?Object-based Storage。現(xiàn)在很多云廠商,也直接稱之為“云存儲”。

不同的云廠商對它有不同的英文縮寫命名。例如阿里云把自家的對象存儲服務(wù)叫做 OSS,華為云叫 OBS,騰訊云叫 COS,七牛叫 Kodo,百度叫 BOS,網(wǎng)易叫 NOS……五花八門,反正都是一個技術(shù)。

之前小棗君介紹過,DAS 和 SAN 是基于物理塊的存儲方式,而 NAS 是基于文件的存儲方式。

在 DAS 和 SAN 中,存儲資源就像一塊一塊的硬盤,直接掛載在主機(jī)上,我們稱之為塊存儲。

而在 NAS 中,呈現(xiàn)出來的是一個基于文件系統(tǒng)的目錄架構(gòu),有目錄、子目錄、孫目錄、文件,我們稱之為文件存儲。

文件存儲的最大特點,就是所有存儲資源都是多級路徑方式進(jìn)行訪問的。例如:

C:/Program Files (x86)/Tencent/WeChat/WeChat.exe

//NJUST-Server/ 學(xué)習(xí)資料 / 通信原理 / 第一章作業(yè) .doc

20 世紀(jì)末,隨著互聯(lián)網(wǎng)的爆發(fā),數(shù)據(jù)存儲需求發(fā)生了兩個重大的變化。

第一,就是數(shù)據(jù)量爆炸式增長。

原因我就不用說了吧?大家可以瞅瞅自己的硬盤,都藏了些什么。

Web 應(yīng)用的崛起、社交需求的刺激,極大地推動了多媒體內(nèi)容的創(chuàng)作和分享。人們開始上傳大量的照片、音樂、視頻,加劇了數(shù)據(jù)量的爆發(fā)。

此外,信息技術(shù)的發(fā)展、企業(yè)數(shù)字化的落地,也產(chǎn)生了大量的數(shù)據(jù),不斷吞食著存儲資源。

第二,是非結(jié)構(gòu)化數(shù)據(jù)的占比顯著增加。

什么是非結(jié)構(gòu)化數(shù)據(jù)?

舉個例子大家就明白了。我們經(jīng)常做的 excel 表格,姓名、身高、體重、年齡、性別,這種用二維表結(jié)構(gòu)可以進(jìn)行邏輯表達(dá)的數(shù)據(jù),就是結(jié)構(gòu)化數(shù)據(jù)。

結(jié)構(gòu)化數(shù)據(jù)

而圖像、音頻、視頻、word 文章、演示膠片這樣的數(shù)據(jù),就是非結(jié)構(gòu)化數(shù)據(jù)。

根據(jù)此前的預(yù)測,到 2020 年(也就是今年),全球數(shù)據(jù)總量的 80%,將是非結(jié)構(gòu)化數(shù)據(jù)。

面對這兩大趨勢,因為本身技術(shù)和架構(gòu)的限制,DAS、SAN 和 NAS 無法進(jìn)行有效應(yīng)對。

于是,專家們就搞出了對象存儲。

雖然我們說對象存儲是新網(wǎng)紅,但實際上它誕生的時間并不算短。早在 1996 年,美國卡內(nèi)基梅隆大學(xué)就將對象存儲作為一個研究項目提出來。隨后,加州大學(xué)伯克利分校也有推出類似的項目。

2002 年,F(xiàn)ilepool 公司推出了基于內(nèi)容可尋址技術(shù)的 Centera 系統(tǒng),算是比較早期的對象存儲系統(tǒng)。

2006 年,美國 Amazon 公司發(fā)布AWS S3(Simple Storage Service)服務(wù),正式將對象存儲作為一項云存儲服務(wù),引入云計算領(lǐng)域,從此開啟了對象存儲的黃金時代。

S3 幾乎成為對象存儲的事實標(biāo)準(zhǔn)

各廠家基本上都會兼容 S3

▉ 對象存儲和塊存儲、文件存儲的區(qū)別

說了半天,對象存儲到底是一個什么樣的技術(shù)?它和塊存儲、文件存儲有什么區(qū)別?

首先,第一點,千萬不要去看百度百科上面“對象存儲”的定義,否則,你可能會懷疑人生。

想要了解對象存儲,最簡單直接的辦法,就是從實際使用體驗上進(jìn)行對比。

對象存儲的底層硬件介質(zhì),依然是硬盤,和塊存儲、文件存儲沒有區(qū)別。

而對象存儲架構(gòu)在底層硬件之上的系統(tǒng),和兩者完全不同。(下文會詳細(xì)介紹系統(tǒng)架構(gòu))

不同的軟件,帶來了完全不同的使用體驗:

塊存儲,操作對象是磁盤。存儲協(xié)議是 SCSI、iSCSI、FC。

以 SCSI 為例,主要接口命令有 Read/Write/Read Capacity/Inquiry 等等。

文件存儲,操作對象是文件和文件夾。存儲協(xié)議是 NFS、SAMBA(SMB)、POSIX 等。

以 NFS(大家應(yīng)該都用過“網(wǎng)上鄰居”共享文件吧?就是那個)為例,文件相關(guān)的接口命令包括:READ/WRITE/CREATE/REMOVE/RENAME/LOOKUP/ACCESS 等等,文件夾相關(guān)的接口命令包括:MKDIR/RMDIR/READDIR 等等。

對象存儲,主要操作對象是對象(Object)。存儲協(xié)議是 S3、Swift 等。

以 S3 為例,主要接口命令有 PUT/GET/DELETE 等。

看出來了吧?接口命令非常簡潔,沒有那種目錄樹的概念。

在對象存儲系統(tǒng)里,你不能直接打開 / 修改文件,只能先下載、修改,再上傳文件。(如果大家用過百度網(wǎng)盤或 ftp 服務(wù),一定可以秒懂。)

▉ 對象存儲中的數(shù)據(jù)組成

對象存儲呈現(xiàn)出來的是一個“桶”(bucket),你可以往“桶”里面放“對象(Object)”。這個對象包括三個部分:Key、Data、Metadata。

Key

可以理解文件名,是該對象的全局唯一標(biāo)識符(UID)。

Key 是用于檢索對象,服務(wù)器和用戶不需要知道數(shù)據(jù)的物理地址,也能通過它找到對象。這種方法極大地簡化了數(shù)據(jù)存儲。

下面這行,就是一個對象的地址范例:

看上去就是一個 URL 網(wǎng)址。如果該對象被設(shè)置為“公開”,所有互聯(lián)網(wǎng)用戶都可以通過這個地址訪問它。

Data

也就是用戶數(shù)據(jù)本體。這個不用解釋了。

Metadata

Metadata 叫做元數(shù)據(jù),它是對象存儲一個非常獨特的概念。

元數(shù)據(jù)有點類似數(shù)據(jù)的標(biāo)簽,標(biāo)簽的條目類型和數(shù)量是沒有限制的,可以是對象的各種描述信息。

舉個例子,如果對象是一張人物照片,那么元數(shù)據(jù)可以是姓名、性別、國籍、年齡、拍攝地點、拍攝時間等。

元數(shù)據(jù)可以有很多

在傳統(tǒng)的文件存儲里,這類信息屬于文件本身,和文件一起封裝存儲。而對象存儲中,元數(shù)據(jù)是獨立出來的,并不在數(shù)據(jù)內(nèi)部封裝。

元數(shù)據(jù)的好處非常明顯,可以大大加快對象的排序,還有分類和查找。

▉ 對象存儲的架構(gòu)

OSD 對象存儲設(shè)備

這是對象存儲的核心,具有自己的 CPU、內(nèi)存、網(wǎng)絡(luò)和磁盤系統(tǒng)。它的主要功能當(dāng)然是存儲數(shù)據(jù)。同時,它還會利用自己的算力,優(yōu)化數(shù)據(jù)分布,并且支持?jǐn)?shù)據(jù)預(yù)讀取,提升磁盤性能。

MDS 元數(shù)據(jù)服務(wù)器

它控制 Client 和 OSD 的交互,還會管理著限額控制、目錄和文件的創(chuàng)建與刪除,以及訪問控制權(quán)限。

Client 客戶端

提供文件系統(tǒng)接口,方便外部訪問。

根據(jù)上面的架構(gòu)可以看出,對象存儲系統(tǒng)可以是一個提供海量存儲服務(wù)的分布式架構(gòu)。

▉ 對象存儲的優(yōu)點

對象存儲的優(yōu)點很多,簡單歸納如下:

容量無限大

對象存儲的容量是 EB 級以上。EB 有多大?大家的硬盤普遍是 TB 級別。1EB 約等于 1TB 的一百萬倍,請自行腦補(bǔ) ...

對象存儲的所有業(yè)務(wù)、存儲節(jié)點采用分布式集群方式工作,各功能節(jié)點、集群都可以獨立擴(kuò)容。從理論上來說,某個對象存儲系統(tǒng)或單個桶(bucket),并沒有總數(shù)據(jù)容量和對象數(shù)量的限制。

換句話說,只要你有足夠的 money,服務(wù)商就可以不停地往架構(gòu)里增加資源,這個存儲空間就是無限的。

你可以根據(jù)自身需求購買相應(yīng)大小的對象存儲空間。如果需要調(diào)整大小,也是支持彈性伸縮的,你不要進(jìn)行數(shù)據(jù)遷移和人工干預(yù)。

數(shù)據(jù)安全可靠

對象存儲采用了分布式架構(gòu),對數(shù)據(jù)進(jìn)行多設(shè)備冗余存儲(至少三個以上節(jié)點),實現(xiàn)異地容災(zāi)和資源隔離。

根據(jù)云服務(wù)商的承諾,數(shù)據(jù)可靠性至少可以達(dá)到 99.999999999%(不用數(shù)了,一共 11 個 9)。這意味著,1000 億個文件里,每月最多只會有 1 個文件發(fā)生數(shù)據(jù)丟失。這比一個人被隕石擊中的概率還要小 143000 倍。

數(shù)據(jù)訪問方面,所有的桶和對象都有 ACL 等訪問控制策略,所有的連接都支持 SSL 加密,OBS 系統(tǒng)會對訪問用戶進(jìn)行身份鑒權(quán)。因為數(shù)據(jù)是分片存儲在不同硬盤上的,所以即使有壞人偷了硬盤,也無法還原出完整的對象數(shù)據(jù)。

使用方便

對于用戶來說,對象存儲是一個非常方便的存儲方式。

很多人把它比喻為“代客泊車”,你只需要把車扔給他,他給你一個憑證,你通過憑證取車就可以了。你不需要知道車庫的布局,也不需要自己去費力停放。

數(shù)據(jù)的存取方法也非常靈活多樣。除了前面說的可以使用網(wǎng)頁(基于 http)直接訪問之外,大部分云服務(wù)提供商都有自己的圖形化界面客戶端工具,用戶存取數(shù)據(jù)就像用網(wǎng)盤一樣。

騰訊云的對象存儲工具界面

事實上,大部分的對象存儲需求,并不是個人用戶買來當(dāng)網(wǎng)盤用,而且企業(yè)或政府用戶用于系統(tǒng)數(shù)據(jù)存儲。例如網(wǎng)站、App 的靜態(tài)圖片、音頻、視頻,還有企業(yè)系統(tǒng)的歸檔數(shù)據(jù)等。

像這種數(shù)據(jù),是通過程序內(nèi)部的接口調(diào)用的。對象存儲提供開放的 REST API 接口。程序員在開發(fā)應(yīng)用時,直接把存儲參數(shù)寫進(jìn)代碼,就可以通過 API 接口調(diào)用對象存儲里的數(shù)據(jù)。相比文件存儲那一串串的路徑,對象存儲要方便很多。

▉ 對象存儲的應(yīng)用場景

目前國內(nèi)有大量的云服務(wù)提供商,他們把對象存儲當(dāng)作云存儲在賣。

他們通常會把存儲業(yè)務(wù)分為 3 個等級,即標(biāo)準(zhǔn)型、低頻型、歸檔型。對應(yīng)的應(yīng)用場景如下:

標(biāo)準(zhǔn)類型:移動應(yīng)用 | 大型網(wǎng)站 | 圖片分享 | 熱點音視頻

低頻訪問類型:移動設(shè)備 | 應(yīng)用與企業(yè)數(shù)據(jù)備份 | 監(jiān)控數(shù)據(jù) | 網(wǎng)盤應(yīng)用

歸檔類型:各種長期保存的檔案數(shù)據(jù) | 醫(yī)療影像 | 影視素材

根據(jù)估算,目前全球互聯(lián)網(wǎng) 70%以上的熱點數(shù)據(jù)是保存在對象存儲系統(tǒng)中的。

對象存儲雖然看上去很好很強(qiáng)大,但也不是沒有缺點。它最大的缺點,和它的工作模式有關(guān)。

它是那種把整個數(shù)據(jù)取出來,修改,再放回去的模式,不支持直接在存儲上修改,哪怕只是加一行數(shù)據(jù),都不行。所以,它不適合存儲需要頻繁擦寫的數(shù)據(jù)(例如關(guān)系型數(shù)據(jù)庫的數(shù)據(jù))。

在數(shù)據(jù)的一致性保證上,對象存儲也存在先天的不足。不過,據(jù)說目前技術(shù)上已經(jīng)有了很大改進(jìn)。

好啦,以上就是關(guān)于對象存儲的全部內(nèi)容。感謝大家的耐心觀看,如果覺得有所收獲,請記得幫小棗君點贊、轉(zhuǎn)發(fā)!我們下期再見!

審核編輯黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 數(shù)據(jù)
    +關(guān)注

    關(guān)注

    8

    文章

    6760

    瀏覽量

    88618
  • 存儲
    +關(guān)注

    關(guān)注

    13

    文章

    4172

    瀏覽量

    85483
收藏 人收藏

    評論

    相關(guān)推薦

    oss對象存儲費用是多少一年?#費用 #對象存儲

    存儲
    jf_57681485
    發(fā)布于 :2024年10月15日 15:38:19

    防跳貼片電容是什么?

    防跳貼片電容是什么?
    的頭像 發(fā)表于 09-01 00:00 ?165次閱讀
    防跳<b class='flag-5'>火</b>貼片電容是什么?

    基于分布式對象存儲WDS的信托非結(jié)構(gòu)化數(shù)據(jù)整合平臺

    基于分布式對象存儲WDS的信托非結(jié)構(gòu)化數(shù)據(jù)整合平臺
    的頭像 發(fā)表于 08-28 09:56 ?199次閱讀
    基于分布式<b class='flag-5'>對象</b><b class='flag-5'>存儲</b>WDS的信托非結(jié)構(gòu)化數(shù)據(jù)整合平臺

    智能家居單改零這幾種方案單模塊零線發(fā)生器一定會幫到你!

    智能家居單改零這幾種方案單模塊零線發(fā)生器一定會幫到你!
    的頭像 發(fā)表于 08-02 08:18 ?660次閱讀
    智能家居單<b class='flag-5'>火</b>改零<b class='flag-5'>火</b>這幾種方案單<b class='flag-5'>火</b>模塊零線發(fā)生器一定會幫到你!

    供電零線發(fā)生器 單變零火線開關(guān)面板零開關(guān)老房改造必備

    供電零線發(fā)生器 單變零火線開關(guān)面板零開關(guān)老房改造必備
    的頭像 發(fā)表于 08-02 08:09 ?366次閱讀
    單<b class='flag-5'>火</b>供電零線發(fā)生器 單<b class='flag-5'>火</b>變零火線開關(guān)面板零<b class='flag-5'>火</b>開關(guān)老房改造必備

    基于DPU的Ceph存儲解決方案

    1. 方案背景和挑戰(zhàn) Ceph是一個高度可擴(kuò)展、高性能的開源分布式存儲系統(tǒng),設(shè)計用于提供優(yōu)秀的對象存儲、塊存儲和文件存儲服務(wù)。它的幾個核心特
    的頭像 發(fā)表于 07-15 13:44 ?1211次閱讀
    基于DPU的Ceph<b class='flag-5'>存儲</b>解決方案

    極空間上線“阿里云對象存儲OSS掛載”功能

    雖然與阿里云盤關(guān)聯(lián)密切,但值得注意的是,阿里云對象存儲 OSS 實質(zhì)上是以對象形式存儲于 OSS 存儲空間內(nèi)的內(nèi)容。用戶若想使用 OSS,首
    的頭像 發(fā)表于 04-03 11:20 ?565次閱讀

    大容量高速存儲加油站,冰島Kanaga 420 SSD評測體驗

    隨著科技的飛速發(fā)展,用戶數(shù)據(jù)也呈現(xiàn)出井噴式增長。特別是高清視頻、大型游戲,以及專業(yè)軟件等領(lǐng)域,不僅對存儲設(shè)備的容量提出了更高要求,同時還需具備出色的讀寫性能,才能讓用戶在工作和娛樂中享受到更加流暢
    的頭像 發(fā)表于 03-21 21:03 ?369次閱讀
    大容量高速<b class='flag-5'>存儲</b>加油站,冰<b class='flag-5'>火</b>島Kanaga 420 SSD評測體驗

    市場需要密切關(guān)注8個存儲趨勢

    Boland指出存在三種主要的存儲類型:對象、塊和文件。他說,“對象存儲是唯一能夠以EB規(guī)模提供低成本和高性能的存儲?!盉oland補(bǔ)充說,
    發(fā)表于 01-10 10:11 ?227次閱讀

    vb運行時錯誤429不能創(chuàng)建對象

    系統(tǒng)中已經(jīng)安裝了對象所依賴的組件或庫。如果缺少這些組件或庫,就會導(dǎo)致不能創(chuàng)建對象的錯誤。解決這個問題的方法是安裝所需的組件或庫。 對象的類或程序集不存在:如果要創(chuàng)建的對象的類或程序集不
    的頭像 發(fā)表于 01-09 11:07 ?1971次閱讀

    三相電機(jī)的接線方式:三一地和三一零有何區(qū)別?

    三相電機(jī)的接線方式:三一地和三一零有何區(qū)別? 三相電機(jī)的接線方式包括三一地接線和三一零接線方式。下面將詳細(xì)介紹這兩種接線方式的區(qū)別。 1. 三
    的頭像 發(fā)表于 12-27 16:27 ?6264次閱讀

    javascript的內(nèi)置對象有哪些

    JavaScript是一門廣泛應(yīng)用于Web開發(fā)的腳本語言,它有很多內(nèi)置對象,用于處理不同的數(shù)據(jù)類型、執(zhí)行不同的操作和提供各種功能。在這篇文章中,我將詳盡介紹JavaScript的內(nèi)置對象,以幫助
    的頭像 發(fā)表于 12-03 11:39 ?1231次閱讀

    對象存儲有什么用

    對象存儲(Cloud Object Storage,COS)是一種存儲海量文件的分布式存儲服務(wù),具有高擴(kuò)展性、低成本、可靠安全等優(yōu)點。 對象
    的頭像 發(fā)表于 11-01 16:02 ?479次閱讀
    <b class='flag-5'>對象</b><b class='flag-5'>存儲</b>有什么用

    如何用Python轉(zhuǎn)移文件至云對象存儲

    對象存儲(Cloud Object Storage,COS)是一種存儲海量文件的分布式存儲服務(wù),具有高擴(kuò)展性、低成本、可靠安全等優(yōu)點。 對象
    的頭像 發(fā)表于 10-31 10:22 ?463次閱讀
    如何用Python轉(zhuǎn)移文件至云<b class='flag-5'>對象</b><b class='flag-5'>存儲</b>

    POSIX適合對象存儲嗎?

    最近,留意到 MinIO 官方博客的一篇題為“在對象存儲上實現(xiàn) POSIX 訪問接口是壞主意[1]”的文章,作者以 S3FS-FUSE 為例分享了通過 POSIX 方式訪問 MinIO 中的數(shù)據(jù)時碰到了性能方面的困難,性能遠(yuǎn)不如直接訪問 MinIO。
    的頭像 發(fā)表于 10-29 10:19 ?582次閱讀
    POSIX適合<b class='flag-5'>對象</b><b class='flag-5'>存儲</b>嗎?