Spring框架在數(shù)據(jù)處理方面的進(jìn)步

　導(dǎo)言：本文講述了Spring數(shù)據(jù)框架在數(shù)據(jù)處理以及微服務(wù)方面的進(jìn)化史。
　　定量分析能否成功，在很大程度上要依賴于其收集、存儲(chǔ)與處理數(shù)據(jù)的能力。如果企業(yè)決策者能獲得及時(shí)、可靠的見(jiàn)解分析，那么大數(shù)據(jù)項(xiàng)目的成功幾率就會(huì)有所提高。
　　如今，想要為數(shù)據(jù)處理搭建合適的架構(gòu)，需要付出頗為可觀的努力。數(shù)據(jù)處理的類型主要集中在三個(gè)方面：
　　批處理：多用于處理大量具有可擴(kuò)展性與分布性的靜態(tài)數(shù)據(jù)。 實(shí)時(shí)處理：主要用于處理流式數(shù)據(jù)（連續(xù)不斷的無(wú)限數(shù)據(jù)流），這類數(shù)據(jù)具有分布性與高速率特質(zhì)。 混合計(jì)算模式：這種模式是批處理與實(shí)時(shí)處理的結(jié)合，可處理大容量的高速率數(shù)據(jù)。
　　大數(shù)據(jù)工程很花時(shí)間，同時(shí)要求工程師具備數(shù)據(jù)采集與數(shù)據(jù)處理的相關(guān)技巧，在大多解決方案中，時(shí)間與技能這兩點(diǎn)都必不可少。Pivotal公司發(fā)布的Spring XD和Spring Cloud Dataflow這兩款產(chǎn)品，都是用于減少大數(shù)據(jù)工程中開(kāi)銷的。本文會(huì)對(duì)Spring XD做以簡(jiǎn)單的介紹，并對(duì)其最新版，也就是Spring Cloud Data Flow進(jìn)行更為詳盡的介紹。
　　Spring XD
　　第一輪創(chuàng)新的結(jié)果造就了Spring XD（eXtreme Data，極限數(shù)據(jù)），這項(xiàng)技術(shù)為解決大數(shù)據(jù)處理的相關(guān)任務(wù)提供了易于使用的解決方案。Spring XD建立在成熟的Spring技術(shù)之上，為數(shù)據(jù)獲取、遷移、處理、深度分析、流處理以及批處理任務(wù)提供支持。
　　Spring XD提供的框架可用于實(shí)時(shí)處理及批處理任務(wù)，該框架具有復(fù)雜性、穩(wěn)定性及可擴(kuò)展性。有了Spring XD，無(wú)論是收集數(shù)據(jù)，還是將數(shù)據(jù)從不同的數(shù)據(jù)源遷移到目標(biāo)上，都變得更為簡(jiǎn)單。
　　Spring XD架構(gòu)已廣泛用于傳統(tǒng)的企業(yè)ETL中、實(shí)時(shí)分析中與數(shù)據(jù)科學(xué)項(xiàng)目的工作臺(tái)的創(chuàng)建中。
　　基于Spring XD的架構(gòu)：
　　這種架構(gòu)在下圖中有所表現(xiàn)，在下列模塊協(xié)助下，我們能夠創(chuàng)建、運(yùn)行、部署、撤銷數(shù)據(jù)流通道（data pipeline），在框架中執(zhí)行任意類型的數(shù)據(jù)處理任務(wù)。
　　
　　SpringXD的主要組件是Admin和Container。
　　Admin UI向服務(wù)器發(fā)送需要處理的請(qǐng)求，而服務(wù)器通過(guò)執(zhí)行任務(wù)的相關(guān)模塊來(lái)處理請(qǐng)求。在這里，一個(gè)模塊就是創(chuàng)建Spring應(yīng)用前后關(guān)系（application context）的一個(gè)組件。
　　所有模塊都需要XD容器才能運(yùn)行和執(zhí)行任務(wù)。
　　下面是Spring XD架構(gòu)的關(guān)鍵模塊。
　　Source：數(shù)據(jù)流的創(chuàng)建總是始于source模塊。Source可以使用輪詢機(jī)制或事件驅(qū)動(dòng)機(jī)制，并且只會(huì)輸出一個(gè)結(jié)果。 Processor：接受信息輸入，并對(duì)輸入的信息執(zhí)行某種類型的處理，然后再輸出信息。 Sink：顧名思義這個(gè)模塊是負(fù)責(zé)終止數(shù)據(jù)流的，然后將輸出結(jié)果發(fā)送到HDFS之類的外部資源中。 Job：這個(gè)模塊負(fù)責(zé)執(zhí)行批處理任務(wù)。
　　Spring Cloud Data Flow的需求
　　在Spring XD中，本質(zhì)上不斷變更的應(yīng)用與需求之間還存在著缺口，需要我們?cè)谛乱惠唲?chuàng)新中解決。下面是推動(dòng)新框架需求最為關(guān)鍵的要求：
　　在云技術(shù)的推動(dòng)下，平臺(tái)級(jí)別的操作與非功能需求都能很容易的實(shí)現(xiàn)。至于應(yīng)用級(jí)別的非功能需求，仍是很有挑戰(zhàn)性的。
　　我們對(duì)系統(tǒng)分階段交付、執(zhí)行動(dòng)態(tài)資源分配、具有擴(kuò)展能力以及在分布式環(huán)境中追蹤的能力，都有著越來(lái)越大的需求。
　　如今，人們對(duì)于平臺(tái)的需求從功能性轉(zhuǎn)向選擇云供應(yīng)商?；谖⒎?wù)的云架構(gòu)更適合這一目標(biāo)，但Spring XD并不能直接支持微服務(wù)架構(gòu)。
　　Spring XD支持大數(shù)據(jù)場(chǎng)景，但仍有很大一部分項(xiàng)目無(wú)需Hadoop提供數(shù)據(jù)存儲(chǔ)與處理服務(wù)。
　　Spring Cloud Data Flow
　　在第二輪的創(chuàng)新中，Pivotal公司推出了Spring Cloud Data Flow，作為Spring XD的替代產(chǎn)品。Spring Cloud Data Flow繼承了Spring XD的優(yōu)點(diǎn)，并提供了更有擴(kuò)展性的解決方案——利用云技術(shù)的原生方式。Spring Cloud Data Flow是一個(gè)混合計(jì)算模型，結(jié)合了流數(shù)據(jù)與批量數(shù)據(jù)的處理方式。開(kāi)發(fā)者可以通過(guò)Spring Cloud Data Flow，在諸如數(shù)據(jù)獲取、實(shí)時(shí)分析、批處理等常見(jiàn)用例中執(zhí)行數(shù)據(jù)流的創(chuàng)建與編排。Spring Cloud Data Flow的目標(biāo)就是為了方便數(shù)據(jù)工程師，讓他們能專注于分析工作和具體的問(wèn)題。Spring Cloud Data Flow僅提供了管理服務(wù)的模型。
　　Spring Cloud Data Flow的架構(gòu)
　　Spring Cloud Data Flow是Spring XD的修訂版，在功能的構(gòu)成方式上，還有如何協(xié)助原生云架構(gòu)擴(kuò)展應(yīng)用方面，都做出了根本性的改變。
　　Spring Cloud Data Flow不再使用傳統(tǒng)基于組件的架構(gòu)了，而是采用了信息驅(qū)動(dòng)的微服務(wù)架構(gòu)，這種架構(gòu)更適合原生云應(yīng)用平臺(tái)的原生應(yīng)用。Spring XD的模塊現(xiàn)在被部署到云上的微服務(wù)取代。
　　主要變化出現(xiàn)在下面這些領(lǐng)域中：
　　Spring Cloud Data Flow利用原生云平臺(tái)引進(jìn)了新的服務(wù)提供商接口（SPI），取代Spring XD原有的運(yùn)行層。
　　雖然類似Admin REST API、shell層和UI層之類的用戶接口與集成元素都與Spring XD中的一致，但底層架構(gòu)發(fā)生了變化。
　　服務(wù)提供商接口或者SPI取代了基于Zookeeper的運(yùn)行方式?，F(xiàn)在，SPI能夠協(xié)同Pivotal的Cloud Foundry或者Yarn之類監(jiān)控/發(fā)布微服務(wù)應(yīng)用的系統(tǒng)一同運(yùn)作。