0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

基于DevOps工具鏈設(shè)計過程及前后效果對比

8nfr_ZTEdevelop ? 來源:互聯(lián)網(wǎng) ? 作者:佚名 ? 2018-04-05 09:08 ? 次閱讀

點擊上方“中興開發(fā)者社區(qū)”,關(guān)注我們

每天讀一篇一線開發(fā)者原創(chuàng)好文

現(xiàn)狀背景

某項目是為配合大視頻運維推出的一個項目,需求和任務(wù)管理停留在原始的ts上,項目依托svn進(jìn)行代碼管理,結(jié)合jenkins實現(xiàn)持續(xù)集成,測試方法偏向使用專項工具進(jìn)行手工測試的補充。在項目初期經(jīng)常出現(xiàn)版本交付困難或提交系統(tǒng)測試的交付版本質(zhì)量滿足不了1輪發(fā)布要求,開發(fā)和測試人員疲于應(yīng)對版本提交后的需求調(diào)整和故障修復(fù),代碼評審受限于物理空間和時間,不能逐行確認(rèn), 自動化測試沒有整體框架,各個專項工具不能整合或擴充;代碼靜態(tài)檢查工具等幫助提升版本質(zhì)量和研發(fā)過程效率的工具沒有利用起來。

解決方案

經(jīng)過研究,也借鑒公司各個兄弟項目的DevOps優(yōu)秀經(jīng)驗并與某項目的實際情況相結(jié)合,經(jīng)過不斷的演進(jìn),最終形成了以TFS 作為需求和任務(wù)管理平臺, 以Gerrit代碼審核服務(wù)器為核心構(gòu)建整合代碼提交、并發(fā)測試、靜態(tài)檢查、評審、反饋以及入庫等完整代碼流程,引入分層云CI實現(xiàn)了代碼提交評審VerifyCI、代碼合入受控庫MergeCI、每日代碼質(zhì)量檢測的DailyCI三級質(zhì)量防護(hù),版本持續(xù)迭代和在現(xiàn)網(wǎng)的小批量灰度發(fā)布,實現(xiàn)現(xiàn)網(wǎng)運維數(shù)據(jù)的收集并根據(jù)收集的數(shù)據(jù)改良我們的探針采集建模模型。

1.端到端交付全景圖

2.需求任務(wù)可視化

采用TFS輔助敏捷流程,跟蹤需求、用戶故事、Task完成情況

3.云代碼托管

在項目敏捷化迭代演進(jìn)過程中,很重要的一部分是代碼管理,原來使用svn代碼管理下載速度慢,非常依賴服務(wù)器的硬件資源配置, 代碼提交前線下代碼評審比較粗糙,評審過后需要手工合入容易出錯且低效。經(jīng)過對比考察,使用GIT工具管理源碼,不僅提高代碼獲取效率,而且與Gerrit配合開啟代碼評審功能,提高合入效率。

Git 和其他版本控制系統(tǒng)的主要差別在于,Git 只關(guān)心文件數(shù)據(jù)的整體是否發(fā)生變化,而大多數(shù)其他系統(tǒng)則只關(guān)心文件內(nèi)容的具體差異,但并不保存這些前后變化的差異數(shù)據(jù)。實際上,Git 更像是把變化的文件作快照后,記錄在一個微型的文件系統(tǒng)中。每次提交更新時,它會縱覽一遍所有文件的指紋信息并對文件作一快照,然后保存一個指向這次快照的索引。為提高性能,若文件沒有變化,Git不會再次保存,而只對上次保存的快照作一鏈接。

在 Git 中的絕大多數(shù)操作都只需要訪問本地文件和資源,不用連網(wǎng)。因為 Git 在本地磁盤上就保存著所有當(dāng)前項目的歷史更新,所以處理起來速度飛快。舉個例子,如果要瀏覽項目的歷史更新摘要,Git不用跑到外面的服務(wù)器上去取數(shù)據(jù)回來,而直接從本地數(shù)據(jù)庫讀取后展示給你看。所以任何時候你都可以馬上翻閱,無需等待。如果想要看當(dāng)前版本的文件和一個月前的版本之間有何差異,Git 會取出一個月前的快照和當(dāng)前文件作一次差異運算,而不用請求遠(yuǎn)程服務(wù)器來做這件事,或是把老版本的文件拉到本地來作比較。

4.分支管理策略

原來的分支策略是為不同市場定制需求采用分支版本,開發(fā)過程中公共需求采用主線,具體市場發(fā)布時采用分支方式,代碼同步耗時過多,極端情況下一個通用的Bug修復(fù)要同時同步到幾個活躍分支, 而且CI開展只是覆蓋主線問題容易泄露。切換到git后,項目調(diào)整為采取單一master主干為主,少量臨時Feature分支為輔的開發(fā)模式。主干通過自動化測試和人工測試結(jié)合保證基本功能,實現(xiàn)代碼分支實時可用,可按需發(fā)布;對于在master上開發(fā)的少量變化大的短周期Feature基于master拉分支開發(fā),自測通過后master進(jìn)行歸并:

5.代碼評審

Gerrit是一種免費、開放源代碼的代碼審查軟件,使用網(wǎng)頁界面。利用瀏覽器,同一個團隊的開發(fā)人員,可以相互審閱彼此修改后的程序代碼,決定是否能夠提交,退回或者繼續(xù)修改。公司技術(shù)部統(tǒng)一提供Git和Gerrit支持,為了充分利用Git的特性,將項目的代碼托管在公司云服務(wù)器,并通過Gerrit實現(xiàn)開發(fā)人員之間代碼的互相審核。解決了之前人工看電影式的走查存在的不細(xì)致, 記錄失真或者合入失真等問題, 下圖為使用gerrit效果圖:

6.代碼覆蓋率檢測

在功能代碼開發(fā)環(huán)節(jié)和測試用例開發(fā)環(huán)節(jié),我們引入了gcov代碼覆蓋率檢測工具,通過其lcov生成的掃描報告,如下圖所示:

報表中清晰地指出了代碼行級別的覆蓋,包括:1.每一行代碼的執(zhí)行頻率;2.實際上哪些代碼確實被執(zhí)行了;3.每一段代碼(section code)的耗時(執(zhí)行時間)

根據(jù)上述報表,可以清晰地看到代碼是否有冗余或者測試用例設(shè)計考慮不周全導(dǎo)致覆蓋率偏低,然后針對性地進(jìn)行分析和優(yōu)化改進(jìn)。

7.持續(xù)集成

為了提升代碼產(chǎn)出質(zhì)量,首先對某的自動化測試環(huán)節(jié)進(jìn)行了梳理,把之前零散的專項工具通過基于RF(RobotFrameware)測試框架進(jìn)行了改造,并引入了分層云CI, 在不同維度上進(jìn)行分層代碼質(zhì)量檢測。云CI通過pipeline實現(xiàn)了VerifyCI、MergeCI和DailyCI三個層級持續(xù)集成,使得代碼庫變更通過pipeline來組件自動化掃描檢測以郵件推送方式得到及時反饋,示意如下圖:

1)持續(xù)集成——VerifyCI

開發(fā)人員調(diào)試自測通過代碼,提交到gerrit托管庫時,會自動觸發(fā)VerfyCI,進(jìn)行編譯檢測,代碼圈復(fù)雜度掃描、UT測試等,并進(jìn)行VerifyCI+2自動參與代碼評審,并通過郵件自動推送結(jié)果。當(dāng)開發(fā)人員開發(fā)完成代碼的編寫后,在個人開發(fā)環(huán)境上就可以立即對自己修改的代碼執(zhí)行靜態(tài)檢查、圈復(fù)雜度檢查和UT測試,問題可以在提交gerrit評審庫之前就暴露出來,能夠更早的獲取代碼質(zhì)量的反饋。實際效果如下圖所示:

2)持續(xù)集成——MergeCI

評審?fù)ㄟ^之后,準(zhǔn)許入庫git,提交Merge后會觸發(fā)代碼編譯檢測、代碼圈復(fù)雜度檢查、商業(yè)版的KW靜態(tài)代碼掃描、FT功能測試等,并把每個pipeline插件環(huán)節(jié)的執(zhí)行結(jié)果以郵件的方式實時推送給項目相關(guān)成員,執(zhí)行結(jié)果一目了然:

3)持續(xù)集成——DailyCI

在某主線分支,我們每天定時觸發(fā)進(jìn)行每日構(gòu)建,并完成ST系統(tǒng)(包括壓力測試拷機等)測試,執(zhí)行我完成同樣會生成結(jié)果郵件并推送給團隊成員。受資源限制我們設(shè)定的定時時間是半夜啟動執(zhí)行,但第二天一上班就可以看到相關(guān)結(jié)果,充分利用自動化填報了晚上大家休息的空閑時間。

而且,在掃描過程中的可以設(shè)定相關(guān)閾值,不滿足要求的可以亮紅燈,進(jìn)行回退整改。

(備注:CI原則是:紅燈不過夜,如不能及時修復(fù)可以先回退,解決后再重新合入)

8.多維度制品庫管理

從制品庫類型分:某的制品庫分為snapshot、alpha、release三個庫。三個庫的功能各不相同,snapshot庫存儲CI中每日構(gòu)建版本,alpha庫主要存儲供內(nèi)部測試的穩(wěn)定版本,release存儲對外發(fā)布版本。

1)snapshot制品庫

存放的是每日CI構(gòu)建的過程版本,這種類型版本通過基本自動化測試,一般用于后續(xù)的臨時問題驗證和主線迭代手工測試。

2)alpha制品庫

存放的是經(jīng)過自動化和手工測試驗證的穩(wěn)定迭代版本,這種類型版本主要是要開發(fā)環(huán)節(jié)自測可內(nèi)部發(fā)布,提交測試部進(jìn)行后續(xù)占比約20%的系統(tǒng)測試。

3)release制品庫

存放的是通過系統(tǒng)測試,可以進(jìn)行實際發(fā)布部署的版本。

4)灰度發(fā)布&持續(xù)優(yōu)化

Release制品庫中的版本,規(guī)劃人員會推動現(xiàn)場小批量灰度升級部署,跟蹤升級后的運維指標(biāo)變化情況后,如果沒發(fā)現(xiàn)異常則再安排進(jìn)行大規(guī)模升級部署;如果發(fā)現(xiàn)有異常需要修復(fù)則反饋給開發(fā)團隊修復(fù)后重新迭代發(fā)布,形成從需求到開發(fā)測試及運維的PDCA閉環(huán)。

實踐情況

通過項目端到端的流程變革,實現(xiàn)了某探針項目需求開發(fā)過程更順暢、團隊產(chǎn)出質(zhì)量明顯提升,形成了需求、開發(fā)、測試和運維相關(guān)人員的及時良性互動。

效果評價

  • 代碼分支從svn切換到git,下載速度快,提升了版本構(gòu)建效率

  • 需求經(jīng)過了充分討論和評審,并在不同維度上進(jìn)行了拆分

  • 實現(xiàn)了任務(wù)管理可視化,可以及時干預(yù)或調(diào)整優(yōu)先級管控風(fēng)險

  • 代碼提交、評審到主分支入庫進(jìn)行了有效管控

  • 評審、CI測試、靜態(tài)檢查等過程有及時有效的反饋環(huán)

采用DevOps實踐效果對比

過去

現(xiàn)在

收益

需求任務(wù)可視化

需求突發(fā),與實際開發(fā)者缺少溝通,任務(wù)沖突時需求優(yōu)先級不明確協(xié)調(diào)困難

按Feature、UserStory、Task、Bug呈現(xiàn),有需求問題描述和驗收準(zhǔn)則,開發(fā)前就把需求分解澄清

迭代產(chǎn)出版本更符合市場交付需求,版本質(zhì)量和開發(fā)效率和團隊合作等方面都得到提升

版本構(gòu)建

下載耗時5~10min,無網(wǎng)絡(luò)無法工作

下載基本不耗時

版本構(gòu)建基本不花費下載時間,斷網(wǎng)也可以工作

檢查執(zhí)行時間

代碼入庫后定時執(zhí)行

代碼提交動作觸發(fā)立即執(zhí)行

5分鐘發(fā)現(xiàn)問題并給出反饋

自動化測試

測試用例少,測試工具整合困難、難以擴展,檢查結(jié)果方式不統(tǒng)一

統(tǒng)一基于RF 實現(xiàn)自動化測試設(shè)計

測試用例平臺化,易于補充擴展,結(jié)果推送格式統(tǒng)一,內(nèi)容明了報錯亮紅燈

覆蓋率檢查

Grov/lcov執(zhí)行完輸出詳細(xì)的報告可供參考改進(jìn)

保證覆蓋率、保證代碼質(zhì)量,改進(jìn)測試用例覆蓋

靜態(tài)檢查

入庫前對變更代碼檢查,要求全部滿足要求

提高代碼質(zhì)量

運維改進(jìn)

版本發(fā)布部署后被動改進(jìn)

發(fā)布部署前試驗觀察,根據(jù)數(shù)據(jù)進(jìn)行持續(xù)改進(jìn)

形成了需求、開發(fā)、測試和運維閉環(huán)

推廣

本文簡要描述了某項目嘗試實踐DevOps工具鏈的過程和前后效果對比,在端到端交付方面進(jìn)行了摸索,通過優(yōu)化研發(fā)流程提升了團隊的整體效率,當(dāng)然在很多方面我們做到還不夠精細(xì)還需要繼續(xù)優(yōu)化完善,這個轉(zhuǎn)型過程值得相關(guān)項目進(jìn)行參考。


聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 嵌入式
    +關(guān)注

    關(guān)注

    5053

    文章

    18915

    瀏覽量

    300864
  • devops
    +關(guān)注

    關(guān)注

    0

    文章

    108

    瀏覽量

    11980

原文標(biāo)題:DevOps案例 | 某項目DevOps端到端實踐

文章出處:【微信號:ZTEdeveloper,微信公眾號:中興開發(fā)者社區(qū)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    stm32可不可以移植linux系統(tǒng),移植后效果怎么樣?望大神告知?

    如題:stm32可不可以移植linux系統(tǒng),移植后效果怎么樣?望大神告知?
    發(fā)表于 05-25 17:05

    DEX加密效果分析

    :查看jar文件,閱讀反編譯后的java代碼效果對比:1、smali加密前效果2、smali加密后效果3、java加密前4、java加密后補充說明在線免費DEX加密僅隨機加密部分動態(tài)
    發(fā)表于 12-12 16:56

    請問CCS能燒錄HEX文件到FLASH嗎?如果將*.OUT文件轉(zhuǎn)換為HEX文件,燒錄到FLASH,前后效果是一樣的嗎?

    本帖最后由 一只耳朵怪 于 2018-6-6 14:18 編輯 CCS一般是燒錄*.out文件到FLASH, 請問CCS能燒錄HEX文件到FLASH嗎?如果可以的話,我將*.OUT文件轉(zhuǎn)換為HEX文件,燒錄到FLASH,前后效果是一樣的嗎?期待回答。謝謝
    發(fā)表于 06-06 02:13

    什么是交叉編譯工具

    @LINUX# 嵌入式嵌入式LINUX交叉編譯工具前言一、什么是交叉編譯工具?二、ARM交叉編譯工具
    發(fā)表于 11-04 07:05

    選擇合適的交叉編譯工具

    三星官方在開發(fā)S5pv210時就使用這個版本的交叉編譯工具,這樣選擇就盡可能大的相匹配從而避免開發(fā)過程中因工具而引發(fā)的潛在問題。二、交叉編譯工具
    發(fā)表于 12-14 08:25

    DevOps工具的項目端到端應(yīng)用實踐過程

    如何在項目中快速建立起一套比較完整的DevOps工具支持。
    的頭像 發(fā)表于 04-05 18:30 ?7137次閱讀
    <b class='flag-5'>DevOps</b><b class='flag-5'>工具</b><b class='flag-5'>鏈</b>的項目端到端應(yīng)用實踐<b class='flag-5'>過程</b>

    是否有了這個工具就是DevOps

    從達(dá)成這一準(zhǔn)高性能DevOps指標(biāo)的團隊分析來看,其具體體現(xiàn)在三個方面:一方面是自動化、標(biāo)準(zhǔn)化、質(zhì)量保證、敏捷方法的實踐活動上;一方面是DevOps各個階段的對應(yīng)工具上。除此以外就是,團隊正在開發(fā)應(yīng)用的架構(gòu)上。
    的頭像 發(fā)表于 01-13 15:23 ?1613次閱讀

    DevOps是什么 DevOps常用的工具有哪些

    DevOps(Development和Operations的組合詞)是一組過程、方法與系統(tǒng)的統(tǒng)稱,用于促進(jìn)開發(fā)(應(yīng)用程序/軟件工程)、技術(shù)運營和質(zhì)量保障(QA)部門之間的溝通、協(xié)作與整合。 它是一種
    的頭像 發(fā)表于 08-05 11:20 ?6246次閱讀

    DevOps與DevSecOps有什么區(qū)別

    DevOps(Development和Operations的組合詞)是一組過程、方法與系統(tǒng)的統(tǒng)稱,用于促進(jìn)開發(fā)(應(yīng)用程序/軟件工程)、技術(shù)運營和質(zhì)量保障(QA)部門之間的溝通、協(xié)作與整合。 五種
    的頭像 發(fā)表于 01-30 14:01 ?2578次閱讀

    軟通動力DevOps團隊榮獲“2022年互聯(lián)網(wǎng)行業(yè)DevOps領(lǐng)域明星團隊”

    作為DevOps 規(guī)范任務(wù)組成員單位,軟通動力具備成熟的DevOps端到端建設(shè)能力。迄今為止,軟通動力已成功協(xié)助多個客戶實現(xiàn)了 DevOps 相關(guān)工程實踐落地,并圍繞這一過程研發(fā)了相關(guān)
    的頭像 發(fā)表于 11-15 15:27 ?615次閱讀

    平臺工程理念崛起,DevOps 會被取代嗎?

    ”。 平臺工程 (Platform Engineering) 是一種運維理念,試圖解決云原生時代運維問題。其提倡的一個重要觀點是運維平臺要提供工程師自服務(wù)能力,希望平臺可以屏蔽基礎(chǔ)設(shè)施復(fù)雜性,提供靈活的工具
    的頭像 發(fā)表于 04-26 09:52 ?979次閱讀

    JFrog:DEVOPS工具加速軟件發(fā)布

    運行DevOps流水線,使其從代碼到生產(chǎn)階段實現(xiàn)了完全自動化。JFrogDevOps 工具支持完全自動化的構(gòu)建、測試、發(fā)布和部署流程,提供廣泛的API的同時,實現(xiàn)快速反饋,確保持續(xù)改進(jìn)。
    的頭像 發(fā)表于 05-08 09:41 ?994次閱讀

    如何實現(xiàn)DevOps目標(biāo)的核心技術(shù)類別和具體技術(shù)

    ? 1 關(guān)于 DevOps 及其工具 2 計劃工具 3 問題跟蹤 4 源碼控制 5 構(gòu)建工具 6 測試工具 7 持續(xù)集成(CI)和持續(xù)部署(
    的頭像 發(fā)表于 06-25 15:34 ?616次閱讀

    常用的devops工具集成方法

    常用的devops工具集成方法涵蓋了軟件開發(fā)和運維的各個方面,從版本控制到自動化構(gòu)建、測試、部署和監(jiān)控。這些工具的有效集成可以幫助團隊提高協(xié)作效率,減少溝通障礙,實現(xiàn)快速、高質(zhì)量的軟件交付。
    的頭像 發(fā)表于 10-09 11:21 ?138次閱讀

    Devops工具集成的意義及基本原理

    Devops工具集成的意義在于實現(xiàn)開發(fā)(Development)與運維(Operations)之間的緊密協(xié)作,通過自動化流程提高軟件交付的速度、質(zhì)量和穩(wěn)定性。其基本原理是通過一系列相互連接的
    的頭像 發(fā)表于 10-14 10:32 ?113次閱讀