聊聊消息推送架構(gòu)設(shè)計(jì)

構(gòu)建企業(yè)級(jí)統(tǒng)一基礎(chǔ)推送服務(wù)，支持通過多渠道推送，能夠統(tǒng)一集成的電子郵件、短信、聊天、釘釘、企業(yè)微信和其他公共社交應(yīng)用：

聊天 - 微信Wechat/QQ

站內(nèi)推送通知（移動(dòng)設(shè)備和Web瀏覽器）

站外推送通知（移動(dòng)設(shè)備，APP沒有開啟）

短信（如登錄密碼、營銷活動(dòng)）

電子郵件

釘釘

企業(yè)微信

企業(yè)級(jí)統(tǒng)一基礎(chǔ)推送服務(wù)，是一個(gè)通用特性，適用于所有現(xiàn)代分布式應(yīng)用，無論采用何種編程語言和技術(shù)。

推送能力的演進(jìn)

第一階段（模塊化）：各自為政、各自封裝

企業(yè)內(nèi)部，早期業(yè)務(wù)量比較少，各系統(tǒng)基本都是有自己的推送模塊，類型也是五花八門：

聊天模塊

短信模塊

電子郵件模塊

websocket 模塊

各自封裝模塊比較簡單，但是實(shí)現(xiàn)分散、各系統(tǒng)模塊的質(zhì)量也很難統(tǒng)一保證。

第二階段（框架化）：集成框架

為了減少重復(fù)性設(shè)計(jì)、開發(fā)成本， 設(shè)計(jì)了統(tǒng)一的推送框架

同一套微服務(wù)框架，共用一個(gè)統(tǒng)一的推送框架

為了解決上述分散實(shí)現(xiàn)的問題，企業(yè)內(nèi)部統(tǒng)一實(shí)現(xiàn)了一個(gè)綜合各類推送功能的基礎(chǔ)庫，供業(yè)務(wù)方統(tǒng)一調(diào)用。

聊天基礎(chǔ)starter

短信基礎(chǔ)starter

電子郵件基礎(chǔ)starter

websocket 基礎(chǔ)starter

于是，我們把 springboot-starter的邏輯封裝到了服務(wù)治理框架內(nèi)，微服務(wù)服務(wù)啟動(dòng)時(shí)，每一個(gè)服務(wù)對(duì)各種的starter進(jìn)行運(yùn)維管理、配置管理。

第三階段（服務(wù)化）：推送服務(wù)

集成到框架，每一套服務(wù)，都需要重復(fù)性的解決3高問題。

推送服務(wù)，數(shù)據(jù)量大，需要解決跨庫查詢問題

推送服務(wù)，性能要求高，需要解決高并發(fā)問題

大數(shù)據(jù)量、并發(fā)量高，意味著：

硬件資源投入大

運(yùn)維成本高

這樣的基礎(chǔ)服務(wù)，需要進(jìn)行沉淀，剝離，集中成統(tǒng)一的、基礎(chǔ)服務(wù)，由專門團(tuán)隊(duì)負(fù)責(zé)維護(hù)、迭代、運(yùn)維。降低重復(fù)投入、重復(fù)建設(shè)成本， 真正的降本增效。

于是， 推送框架 演進(jìn)為 推送服務(wù)

基于 Spring Boot + MyBatis Plus + Vue & Element 實(shí)現(xiàn)的后臺(tái)管理系統(tǒng) + 用戶小程序，支持 RBAC 動(dòng)態(tài)權(quán)限、多租戶、數(shù)據(jù)權(quán)限、工作流、三方登錄、支付、短信、商城等功能

項(xiàng)目地址：https://github.com/YunaiV/ruoyi-vue-pro

視頻教程：https://doc.iocoder.cn/video/

推送服務(wù)在業(yè)務(wù)系統(tǒng)中的位置

一個(gè)業(yè)務(wù)應(yīng)用， 基本上有很多原子服務(wù)編排、整合而來，最終構(gòu)建出一個(gè)完整的架構(gòu)圖。

接入層，這是外部請(qǐng)求進(jìn)入內(nèi)部系統(tǒng)的門戶，所有的請(qǐng)求都必須通過 API 網(wǎng)關(guān)。

應(yīng)用層，也被稱為聚合層，它為相關(guān)業(yè)務(wù)提供聚合接口，并調(diào)用中臺(tái)服務(wù)進(jìn)行組合。

原子服務(wù)，包括就是原子技術(shù)服務(wù)，原子業(yè)務(wù)服務(wù)，根據(jù)業(yè)務(wù)需求提供相關(guān)的接口。原子服務(wù)為整個(gè)架構(gòu)提供可復(fù)用的能力。

例如，在B站視頻網(wǎng)站平臺(tái)上，評(píng)論服務(wù)作為一項(xiàng)原子服務(wù)，在B站的視頻、文章、社區(qū)都需要，那么為了提高復(fù)用性，評(píng)論服務(wù)就可以獨(dú)立為原子服務(wù)，不能與特定需求緊密耦合。

在這種情況下, 評(píng)論服務(wù)，需要供一種可以適應(yīng)不同場景的復(fù)用能力。

注意：請(qǐng)點(diǎn)擊圖像以查看清晰的架構(gòu)圖！

類似的，文件存儲(chǔ)、數(shù)據(jù)存儲(chǔ)、推送服務(wù)、身份驗(yàn)證服務(wù)等功能，都會(huì)沉淀為原子服務(wù)，業(yè)務(wù)開發(fā)人員，在原子服務(wù)基礎(chǔ)上，進(jìn)行編排、配置、組合，可以快速構(gòu)建業(yè)務(wù)應(yīng)用。

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 實(shí)現(xiàn)的后臺(tái)管理系統(tǒng) + 用戶小程序，支持 RBAC 動(dòng)態(tài)權(quán)限、多租戶、數(shù)據(jù)權(quán)限、工作流、三方登錄、支付、短信、商城等功能

項(xiàng)目地址：https://github.com/YunaiV/yudao-cloud

視頻教程：https://doc.iocoder.cn/video/

推送服務(wù)功能要求

發(fā)送通知

對(duì)通知進(jìn)行優(yōu)先級(jí)排序

根據(jù)客戶的保存偏好發(fā)送通知

支持單個(gè)/簡單的通知消息和批量通知消息

各種通知的分析用例

通知消息的報(bào)告

推送非功能性需求（NFR）

高性能：qps > 1W

高可用性（HA）：99.99%

低延遲：TP99 在10ms以下

高擴(kuò)展：可擴(kuò)展/可插拔的設(shè)計(jì)，以便添加更多適配器和提供商，與所有通知模塊的API集成以及與客戶端和服務(wù)提供商/供應(yīng)商的外部集成

跨平臺(tái)：支持Android/iOS移動(dòng)設(shè)備和桌面/筆記本電腦的Web瀏覽器

自伸縮：可在本地（VMware Tanzu）和 AWS、GCP 或 Azure 等公共云服務(wù)上擴(kuò)展負(fù)載

推送系統(tǒng)設(shè)計(jì)架構(gòu)

注意：請(qǐng)點(diǎn)擊圖像以查看清晰的架構(gòu)圖！

這些解決方案設(shè)計(jì)的考慮因素和組件包括：

1. 通知客戶端

這些客戶端通過 API 調(diào)用請(qǐng)求單個(gè)和批量消息。它們將向簡單和批量通知服務(wù)發(fā)送通知消息。

簡單通知客戶端：專門用于發(fā)送單個(gè)通知的客戶端，負(fù)責(zé)向用戶發(fā)送單一通知。這些客戶端通常用于向特定用戶發(fā)送重要通知，例如密碼找回或賬戶異常提醒。

批量通知客戶端：專門用于發(fā)送批量通知的客戶端，負(fù)責(zé)向用戶批量推送通知。這些客戶端通常用于需要通知大量用戶的場景，例如企業(yè)內(nèi)部通知或營銷活動(dòng)。

2. 通知服務(wù)

作為入口點(diǎn)的這些服務(wù)，通過暴露 REST API 與客戶端互動(dòng)。

它們負(fù)責(zé)構(gòu)建通知消息，通過調(diào)用"模板服務(wù)"。這些消息將使用"驗(yàn)證服務(wù)"進(jìn)行驗(yàn)證。

簡單通知服務(wù)：該服務(wù)將提供 API，主要負(fù)責(zé)處理簡單通知請(qǐng)求，提供與后端服務(wù)集成的 API，以便將通知發(fā)送給用戶。這種服務(wù)通常用于處理較少的通知請(qǐng)求，例如針對(duì)特定用戶或事件的簡單通知。

批量通知服務(wù)：該服務(wù)將提供 API，主要負(fù)責(zé)處理批量通知請(qǐng)求，提供與后端服務(wù)集成的 API，以便批量發(fā)送通知。這種服務(wù)通常用于處理大量的通知請(qǐng)求，例如企業(yè)內(nèi)部的批量通知或營銷活動(dòng)的批量推送。

此服務(wù)還將管理通知消息。它將發(fā)送的消息持久化到數(shù)據(jù)庫并維護(hù)活動(dòng)日志。

可以使用這些服務(wù)的 API 重新發(fā)送同一條消息。

它將提供添加/更新/刪除和查看舊消息和新消息的 API。

它還將提供 Web 儀表板，該儀表板應(yīng)具有篩選選項(xiàng)，以根據(jù)不同的條件（如日期范圍、優(yōu)先級(jí)、模塊用戶、用戶組等）篩選消息。

3. 模板服務(wù)

此服務(wù)主要負(fù)責(zé)所有可用的一次性密碼（OTP）、短信、電子郵件、聊天以及其他推送通知消息的模板管理。

它還提供了 REST API，以便創(chuàng)建、更新、刪除和管理模板。

除此之外，它還將提供一個(gè)用戶界面（UI）的儀表板頁面，使用戶能從網(wǎng)絡(luò)控制臺(tái)檢查和管理各種消息模板。

4. 消息分發(fā)服務(wù)

定時(shí)分發(fā)服務(wù)：

該服務(wù)將提供API來安排立即或指定時(shí)間的通知?？梢允且韵氯魏我环N：

秒

分鐘

每小時(shí)

每天

每周

每月

每年

自定義頻率等。

還可能有其他自動(dòng)觸發(fā)的服務(wù)，基于預(yù)定時(shí)間進(jìn)行消息觸發(fā)。

消息驗(yàn)證服務(wù)：

此服務(wù)全權(quán)負(fù)責(zé)根據(jù)業(yè)務(wù)規(guī)定和預(yù)期格式對(duì)通知信息進(jìn)行核實(shí)。批量通知需由授權(quán)的系統(tǒng)管理員同意。

消息優(yōu)先級(jí)服務(wù)：

該服務(wù)負(fù)責(zé)對(duì)通知進(jìn)行優(yōu)先級(jí)排序，分為高、中、低三個(gè)等級(jí)。

通知信息具有較高的優(yōu)先級(jí)和有時(shí)間限制的到期時(shí)間，它們將始終以較高優(yōu)先級(jí)發(fā)送。

"通用出口處理器"會(huì)接收消息并根據(jù)相同的優(yōu)先級(jí)從高、中和低三個(gè)不同的隊(duì)列中發(fā)送和處理。

在非工作時(shí)間，可以以低優(yōu)先級(jí)發(fā)送批量通知。

在交易過程中的應(yīng)用程序通知可以發(fā)送到中優(yōu)先級(jí)，如電子郵件等。企業(yè)可以根據(jù)通知的重要性確定優(yōu)先級(jí)。

5. 事件優(yōu)先級(jí)隊(duì)列（消息隊(duì)列）

此服務(wù)提供事件中心功能，負(fù)責(zé)接收通知服務(wù)的高、中、低三個(gè)優(yōu)先級(jí)的信息。

它會(huì)根據(jù)業(yè)務(wù)的優(yōu)先級(jí)來發(fā)送和接收通知。企業(yè)可以根據(jù)通知的重要性來設(shè)定優(yōu)先級(jí)。

服務(wù)內(nèi)部包含三個(gè)主題，用于根據(jù)業(yè)務(wù)優(yōu)先級(jí)接收和發(fā)送通知：

低優(yōu)先級(jí)：主要用于在非工作時(shí)間發(fā)送批量通知。

中優(yōu)先級(jí)：適用于在交易過程中發(fā)送的應(yīng)用程序通知，如電子郵件等。

高優(yōu)先級(jí)：通知信息具有較高的優(yōu)先級(jí)和有時(shí)間限制的到期時(shí)間，它們將始終以較高優(yōu)先級(jí)發(fā)送。關(guān)注公工眾號(hào)：碼猿技術(shù)專欄，回復(fù)關(guān)鍵詞：1111 獲取阿里內(nèi)部Java性能調(diào)優(yōu)手冊(cè)！

6. 通用出站處理程序

該服務(wù)通過輪詢事件優(yōu)先級(jí)隊(duì)列來接收事件中心中的通知信息，并根據(jù)其優(yōu)先級(jí)進(jìn)行處理。

高優(yōu)先級(jí)的通知會(huì)優(yōu)先處理"高"隊(duì)列，依次類推。

最后，它通過事件中心將通知信息發(fā)送到特定的適配器。

此外，該服務(wù)還從用戶選擇服務(wù)中獲取目標(biāo)用戶/應(yīng)用程序，以便進(jìn)行通知的分發(fā)。

在處理過程中，通用出口處理器會(huì)根據(jù)事件的優(yōu)先級(jí)進(jìn)行相應(yīng)的操作，確保重要事件得到優(yōu)先處理。

這樣，企業(yè)可以根據(jù)通知的優(yōu)先級(jí)來確定處理順序，從而提高通知的處理效率。

除此之外， 通用出站處理程序，還能進(jìn)行消息的進(jìn)一步按照通道類型進(jìn)行分發(fā)：

該服務(wù)將消息發(fā)送到各種支持的適配器。

這些適配器會(huì)根據(jù)不同的設(shè)備（如桌面/移動(dòng)設(shè)備）和通知類型（如短信/OTP/電子郵件/聊天/推送通知）進(jìn)行轉(zhuǎn)換。

7. 通知適配器

這些轉(zhuǎn)換器將從消息隊(duì)列（rocketmq）接收傳入信息并根據(jù)其所支持的格式傳遞給外部合作伙伴。

以下是一些轉(zhuǎn)換器，根據(jù)需求可以增加更多：

QQ 通知適配器服務(wù)

微信Wechat 聊天通知適配器服務(wù)

應(yīng)用內(nèi)通知適配器服務(wù)

電子郵件適配器服務(wù)

短信適配器服務(wù)

OTP 適配器服務(wù)

8. 通道供應(yīng)商

這些是外部的 SAAS（云上/本地）服務(wù)提供商，利用它們的基礎(chǔ)設(shè)施和技術(shù)實(shí)現(xiàn)實(shí)際的通知傳遞。

它們可能是像 AWS SNS、MailChimp 等的付費(fèi)推送通道服務(wù)。

QQ 供應(yīng)商集成服務(wù)

微信Wechat 供應(yīng)商集成服務(wù)

應(yīng)用推送通知供應(yīng)商集成服務(wù)

電子郵件供應(yīng)商集成服務(wù)

短信供應(yīng)商集成服務(wù)

9. 用戶選擇服務(wù)

該服務(wù)提供選擇目標(biāo)用戶和各種應(yīng)用程序模塊的功能。

這可能包括將批量消息發(fā)送到特定的用戶組或不同的應(yīng)用程序模塊。

可能是 AD/IAM/eDirectory/用戶數(shù)據(jù)庫/用戶組，具體取決于客戶的偏好。

在服務(wù)內(nèi)部，它將使用"用戶配置文件服務(wù)"API 來消費(fèi)和檢查客戶的通知偏好。

10. 用戶配置文件服務(wù)

此服務(wù)提供各種功能，包括管理用戶配置文件及其偏好設(shè)置。

還管理內(nèi)部用戶標(biāo)識(shí)，和外部通道標(biāo)識(shí)之間的關(guān)聯(lián)關(guān)系

釘釘用戶標(biāo)識(shí) 和 用戶標(biāo)識(shí) 關(guān)聯(lián)關(guān)系

企業(yè)微信 用戶標(biāo)識(shí) 和 用戶標(biāo)識(shí) 關(guān)聯(lián)關(guān)系

用戶和郵箱的關(guān)聯(lián)關(guān)系

等等

它還將提供取消訂閱通知以及通知接收頻率等功能。

"通知服務(wù)"將依賴于此服務(wù)，以便根據(jù)用戶的通知偏好來發(fā)送通知。

此外，該服務(wù)還可以用于統(tǒng)計(jì)和分析用戶對(duì)通知的偏好，以幫助企業(yè)優(yōu)化通知策略。

11. 分析服務(wù)

該處理器將負(fù)責(zé)執(zhí)行所有的分析工作，識(shí)別通知使用情況、趨勢(shì)并生成報(bào)告。

它將從分析數(shù)據(jù)庫（Cassandra）和通知數(shù)據(jù)庫中提取所有最終的通知信息，用于分析和報(bào)告目的。

以下是一些用例：

每天/每秒的總通知數(shù)

哪個(gè)通知系統(tǒng)使用最頻繁

消息的平均大小和頻率

基于優(yōu)先級(jí)過濾消息等等...

12. 通知跟蹤器

此服務(wù)將持續(xù)監(jiān)視事件中心隊(duì)列并跟蹤所有發(fā)送的通知。

它捕獲通知的元數(shù)據(jù)，如傳輸時(shí)間、傳送狀態(tài)、通信渠道、消息類型等。

13. 通知數(shù)據(jù)庫：Mysql數(shù)據(jù)庫集群

通知數(shù)據(jù)庫，用于存儲(chǔ)庫用于存儲(chǔ)所有通知信息，包括發(fā)送時(shí)間、狀態(tài)等。

它包括一個(gè)數(shù)據(jù)庫集群，其中領(lǐng)導(dǎo)者用于執(zhí)行所有寫操作，讀取操作則在讀取副本/跟隨者上進(jìn)行。

這個(gè)數(shù)據(jù)庫群集將持久化所有通知，供分析和報(bào)告使用。

它基于“寫入更多，讀取更少”的理念。

它能提供良好的性能和低延遲，適應(yīng)大量的通知，因?yàn)樗鼉?nèi)部處理大量的寫操作，并與其他數(shù)據(jù)庫節(jié)點(diǎn)同步，保持高可用性和可靠性的冗余數(shù)據(jù)/消息。

在任何節(jié)點(diǎn)崩潰的情況下，消息將始終可用。