泛在電力物聯(lián)網(wǎng)的數(shù)據(jù)量將大幅增加,如何構(gòu)建一個強大的數(shù)據(jù)平臺

建設(shè)泛在電力物聯(lián)網(wǎng)，是國家電網(wǎng)有限公司推進“三型兩網(wǎng)”建設(shè)的重要內(nèi)容和關(guān)鍵環(huán)節(jié)。而其中，如何構(gòu)建一個強大的數(shù)據(jù)平臺，是加快推進泛在電力物聯(lián)網(wǎng)建設(shè)的前提和基礎(chǔ)。

泛在電力物聯(lián)網(wǎng)的數(shù)據(jù)量將大幅增加

電力行業(yè)歷來重視數(shù)據(jù)和信息技術(shù)，從上世紀80年代起，就采用實時數(shù)據(jù)庫處理發(fā)電以及電網(wǎng)采集的各種數(shù)據(jù)。但隨著電網(wǎng)規(guī)模的擴大，數(shù)據(jù)采集量的大幅增加，傳統(tǒng)的實時數(shù)據(jù)庫和IT架構(gòu)已經(jīng)無法滿足海量數(shù)據(jù)的處理需求，因此最近幾年，電力行業(yè)開始采用互聯(lián)網(wǎng)行業(yè)的大數(shù)據(jù)平臺技術(shù)，最典型的就是將Kafka、Hadoop、HBase、Spark、Redis等技術(shù)集成在一起處理海量數(shù)據(jù)。比如智能電表的用采系統(tǒng)、電費的計算等，都采用這類方案。

推進泛在電力物聯(lián)網(wǎng)建設(shè)，需要全方位對電網(wǎng)運行狀態(tài)、用戶用電等進行實時監(jiān)測、預警、分析，數(shù)據(jù)采集點和采集頻次會大幅增加，數(shù)據(jù)量將在原來的基礎(chǔ)上增加上百倍。

以智能電表為例，現(xiàn)在用戶的智能電表是一天發(fā)送一條記錄。如果改為與商業(yè)用智能電表一樣，15分鐘發(fā)送一條記錄到云端，數(shù)據(jù)量將至少增加96倍，數(shù)據(jù)插入請求數(shù)也相應(yīng)的增加96倍以上。以全網(wǎng)智能電表5億臺來統(tǒng)計，一天產(chǎn)生的數(shù)據(jù)條數(shù)就會高達480億條，現(xiàn)有的大數(shù)據(jù)解決方案和架構(gòu)將面臨巨大的挑戰(zhàn)，即使通過水平擴展增加服務(wù)器數(shù)量來處理，其運營成本將數(shù)量級的增加。

從配網(wǎng)的情況來看，即使采集點和采集頻率不顯著增加，但以D5000、CC2000為代表的主流產(chǎn)品，受限于歷史數(shù)據(jù)處理能力，依然只能圍繞實時采集數(shù)據(jù)、歷史斷面數(shù)據(jù)構(gòu)建應(yīng)用，拓撲分析技術(shù)無法在時間維度縱向擴展。

電網(wǎng)數(shù)據(jù)采集及監(jiān)控系統(tǒng)（SCADA）作為物聯(lián)網(wǎng)的一部分，不但要看實時數(shù)據(jù)，還需要看歷史數(shù)據(jù)，不單需要實時監(jiān)控，更需要故障預警、趨勢分析、運營指標的分析、效率分析等。通過快速存取、分析高頻采集數(shù)據(jù)，將為電網(wǎng)的安全高效運行提供更精準的數(shù)據(jù)決策支撐。

另外一方面，泛在電力物聯(lián)網(wǎng)與通用的物聯(lián)網(wǎng)一樣，不僅會存在云端的數(shù)據(jù)中心，也會存在邊緣節(jié)點。這些邊緣節(jié)點具備一定的計算和存儲能力，能進行數(shù)據(jù)的預處理和緩存，大幅緩解數(shù)據(jù)中心平臺的壓力，而且能更好的保證邊緣節(jié)點覆蓋的區(qū)域有更好的數(shù)據(jù)實時響應(yīng)能力，更好的支撐本地業(yè)務(wù)的實時智能化決策與執(zhí)行。但是邊緣計算與云計算需要通過緊密協(xié)同才能更好地滿足各種需求場景的匹配，從而最大化邊緣計算和云計算的應(yīng)用價值。邊云協(xié)同對打造泛在電力物聯(lián)網(wǎng)大數(shù)據(jù)平臺提出了新的要求。

采集點的增加和采集頻次提高，能帶來什么樣的效益呢？以智能電表為例，如果將所有電表的數(shù)據(jù)采集頻次提高到1次/15分鐘，電網(wǎng)將實現(xiàn)對每個臺區(qū)線損的實時監(jiān)測，而不是現(xiàn)在的T-1模式，從而對異常線損實時處理。同時，對輸電線路故障實時監(jiān)測，再也無需用戶上報，大大提升運維效率和服務(wù)質(zhì)量。

以Hadoop體系為代表的互聯(lián)網(wǎng)大數(shù)據(jù)解決方案，主要處理的是互聯(lián)網(wǎng)領(lǐng)域的非結(jié)構(gòu)化數(shù)據(jù)，比如爬蟲數(shù)據(jù)、微博、微信數(shù)據(jù)等。但是，泛在電力物聯(lián)網(wǎng)的數(shù)據(jù)與互聯(lián)網(wǎng)數(shù)據(jù)有顯著不同的特點，表現(xiàn)在幾個方面：數(shù)據(jù)都是時序的，由傳感器和設(shè)備不斷產(chǎn)生，形成一個數(shù)據(jù)流；除視頻、圖像外，都是結(jié)構(gòu)化的數(shù)據(jù)；數(shù)據(jù)是機器日志類型的，不會有刪除或更新的動作；數(shù)據(jù)是有保留時長的，到期刪除；數(shù)據(jù)流量是平穩(wěn)可預測，知道測點數(shù)、采集頻率，能較為準確估算流量大??；數(shù)據(jù)需要進行實時計算、分析；數(shù)據(jù)的分析、計算一般都是基于某一個時間段和地域進行；數(shù)據(jù)量巨大，一天產(chǎn)生上幾百億條記錄。

除數(shù)據(jù)特征不一樣之外，在數(shù)據(jù)處理上，泛在電力物聯(lián)網(wǎng)與典型的互聯(lián)網(wǎng)相比，還有不一樣的需求。比如插值計算、數(shù)學函數(shù)計算以及某個具體時間點的斷面數(shù)據(jù)等。而且這些數(shù)據(jù)的處理往往與采集設(shè)備的管理直接掛鉤，需要依據(jù)采集設(shè)備的歸屬、地域以及其他屬性進行各種分類統(tǒng)計。

構(gòu)建相適應(yīng)的大數(shù)據(jù)平臺

隨著泛在電力物聯(lián)網(wǎng)的加快建設(shè)，現(xiàn)有的互聯(lián)網(wǎng)大數(shù)據(jù)技術(shù)平臺將遇到巨大的挑戰(zhàn)，因為電力數(shù)據(jù)規(guī)模將增加幾個數(shù)量級，數(shù)據(jù)分析的量也更多，實時性要求也更高。因此，需要進一步加大信息技術(shù)的創(chuàng)新力度，構(gòu)建和完善適應(yīng)泛在電力物聯(lián)網(wǎng)建設(shè)需求的大數(shù)據(jù)平臺。

這個新一代的大數(shù)據(jù)平臺，要有以下幾個特點：充分利用泛在電力物聯(lián)網(wǎng)的數(shù)據(jù)特點，在技術(shù)上做各種優(yōu)化，大幅度提高數(shù)據(jù)插入、查詢的性能，降低運營成本；必須能實時處理各種數(shù)據(jù)插入、查詢請求；必須是水平擴展的，隨著數(shù)據(jù)量的增加，只需要增加服務(wù)器擴容即可；支持邊緣計算與云計算的邊云協(xié)同；必須是易于維護的，降低對運維人員的要求；必須是開放的，有業(yè)界流行的標準SQL接口，便于各種應(yīng)用集成；必須通過Python、R或其他接口方便集成各種機器學習、人工智能算法。

當前，國內(nèi)外諸多互聯(lián)網(wǎng)企業(yè)看到物聯(lián)網(wǎng)興起之后，傳統(tǒng)的大數(shù)據(jù)技術(shù)正面臨新的考驗和挑戰(zhàn)，并開始著手研發(fā)新一代大數(shù)據(jù)平臺。相信隨著泛在電力物聯(lián)網(wǎng)建設(shè)不斷加快，必將構(gòu)建新一代的能源電力大數(shù)據(jù)平臺，從而進一步挖掘和利用好電網(wǎng)的數(shù)據(jù)資源，提升電網(wǎng)運營的效率和效益，更可靠的保障電網(wǎng)運營的安全，為社會提供新的應(yīng)用和服務(wù)。