天天看點

微服務化的基石——持續內建

一、持續內建對于微服務的意義:拆之前要先解決合的問題

在很多微服務化的文章中,很少會把持續內建放在第一篇,因為大多數的文章都會将如何拆的問題,例如拆的粒度,拆的時機,拆的方式。

為什麼需要拆呢?因為這是人類處理問題的本質方式:将一個大的複雜問題,變成很多個小問題解決。

是以當一個系統複雜到一定程度,當維護一個系統的人數多到一定程度,解決問題的難度和溝通成本大大提高,因而需要拆成很多個工程,拆成很多個團隊,分而治之。

然而當每個子團隊将子問題解決了,整個系統的問題就解決了麼?你可以想象你将一輛整車拆成零件,然後再組裝起來的過程,你就可以想象拆雖然不容易,合則更難,需要各種标準,各種流水線,才能将零件組裝稱為車。

我們先來回顧一下拆的過程。

最初的應用大多數是一個單體應用:

微服務化的基石——持續內建

單體應用

一個Java後端,後面跟一個資料庫,基本上就搞定了。

随着系統複雜度的增加,首先Java程式需要做的是縱向的拆分。

微服務化的基石——持續內建

縱向拆分

  1. 首先最外面是一個負載均衡,接着是接入的Nginx,做不同服務的路由。
  2. 不同的服務拆成獨立的程序,獨立部署,每個服務使用自己的資料庫和緩存,解決資料庫和緩存的單點瓶頸。
  3. 資料庫使用一主多從的模式,進行讀寫分離,主要針對讀多寫少的場景。
  4. 為了承載更多的請求,設定緩存層,将資料緩存到Memcached或者Redis中,增加命中率。
  5. 當然還有些跨服務的查詢,或者非結構化資料的查詢,引入搜尋引擎,比關系型資料庫的查詢速度快很多。
微服務化的基石——持續內建

                                                                                                                                服務化架構

在高并發情況下,僅僅縱向拆分還不夠,因而需要做真正的服務化。

一個服務化的架構如圖所示。

  1. 首先是接入層,這一層主要實作API網關和動态資源和靜态資源的分離及緩存,并且可以在這一層做整個系統的限流。
  2. 接下來是Web層,也就是controller,提供最外層的API,是對外提供服務的一層。
  3. 下面是組合服務層,有時候被稱為編排層,compose層,是實作複雜邏輯的一層。
  4. 下面是基礎服務層,是提供原子性的基本的邏輯的一層,他下面是緩存,資料庫。
  5. 服務之間需要治理,需要互相發現,是以一般會有dubbo或者springcloud一樣的架構。
  6. 對所有的服務,都應該有監控告警,及時發現異常,并自動修複或者告警運維手動修複。
  7. 對于所有的服務的日志,應該有相同的格式,收集到一起,稱為日志中心,友善發現錯誤的時候,在統一的一個地方可以debug。
  8. 對于所有的服務的配置,有統一的管理的地方,稱為配置中心,可以通過修改配置中心,下發配置,對于整個叢集進行配置的修改,例如打開熔斷或者降級開關等。

通過簡單的描述,大家可以發現,從一個簡單的單體應用,變成如此複雜的微服務架構,除了關心怎麼拆的問題,還必須關注:

  • 如何控制拆的風險
  • 如何保證代碼品質
  • 如何保證功能不變,不引入新的Bug

答案當然就是內建,從一開始就內建,并且不斷的內建,反複的将拆分的子產品重新組合,看看是否能夠順利組合起來,并且保證功能的不變。

要是不沒事兒就組合一下,天知道幾個月以後還能不能合的起來。

别忘了程式是人寫的,你和你媳婦長時間不溝通都對不上默契,别說兩個程式員了。

二、持續內建就是不斷的嘗試在一起

內建就是在一起。

微服務化的基石——持續內建

內建的邏輯

為什麼需要一個統一的代碼倉庫Git來做代碼管理呢?是為了代碼內建在一起。

為什麼需要進行建構build呢?就是代碼邏輯需要內建在一起,編譯不出錯。

為什麼要單元測試呢?一個子產品的功能內建在一起能夠正确工作。

為什麼需要聯調測試Staging環境呢?需要将不同子產品之間內建在一起,在一個類生産的環境中進行測試。最終才是部署到生産環境中,将所有人分開做的工作才算真正的合在了一起。

微服務化的基石——持續內建

持續內建解決的問題

持續內建就是制定一系列流程,或者一個系列規則,将需要在一起的各個層次規範起來,友善大家在一起,強迫大家在一起。

三、持續內建,持續傳遞,持續部署,靈活開發,DevOps都啥關系?

這些概念都容易混淆,他們之間是什麼關系呢?

微服務化的基石——持續內建

持續

內建,持續傳遞,持續部署,靈活開發,DevOps的關系

靈活開發Agile是一種開發流程,是一種快速疊代的開發流程,每個開發流程非常短,長到一個月,短到兩個星期,就會是一個周期,在這個周期中,每天都要開會同步,每天都要內建。正是因為周期短,才需要持續的做這件事情,如果一個開發周期長達幾個月,則不需要持續的內建,最後留幾個星期的內建時間一起做也是可以的,但是這樣就不能達到網際網路公司的快速疊代,也是我們常常看到傳統公司的做法。

持續內建往往指對代碼的送出,建構,測試的過程,也就是上述的在一起的過程。

持續傳遞是指将內建好的傳遞物,例如war,jar,或者容器鏡像,部署在聯調環境,或者預發環境的過程。

持續部署是指将傳遞物持續部署在生産環境的過程。

我們常說CICD,CD有時候指的是Delivery傳遞,有的是指Deployment部署,對于非生産環境,自動部署是沒有問題的,對于生産環境,往往還是需要有專人來進行更為嚴肅的部署過程,不會完全的自動化。

接下來就是DevOps,DevOps不隻是CICD,除了技術和流程,還包含文化。例如容器化帶來的一個巨大的轉變是,原來隻有運維關心環境的部署,無論是測試環境,還是生産環境,都是運維搞定的,而容器化之後,需要開發自己寫Dockerfile,自己關心環境的部署。因為微服務之後,子產品太多了,讓少數的運維能夠很好的管理所有的服務,壓力大,易出錯,然而開發往往分成很多的團隊,每個子產品自己關心自己的部署,則不易出錯,這就需要運維一部分的工作讓研發來做,需要研發和運維的打通,如果公司沒有這個文化,研發的老大說我們不寫Dockerfile,則DevOps是搞不定的。

四、從一個持續內建的日常,看上述的幾個概念如何實踐

微服務化的基石——持續內建

                                                                                                                  持續內建的流程

這是一個持續內建的流程,但是運作起來更加的複雜。

首先,項目開發的流程使用的是Agile,用常見的Scrum為例子。

微服務化的基石——持續內建

Scrum

每天早上第一件事情,就是開站會standup meeting,為什麼要站着呢?因為時間不能太長,微服務的一個子產品,大概需要5-9人的團隊規模,如果團隊規模太大了,說明服務應該進行拆分了,這個團隊規模,是能夠保證比較短的時間之内過完昨天的狀态的。

一定要大家一起開,而不要線下去更新Jira,雖然看起來一樣,但是執行起來完全不一樣。隻有大家一起開,一起看燃盡圖,一起說我昨天做了什麼,今天打算做什麼,有什麼阻礙,才能夠讓大家都了解情況,不要期望大家會去看别人的Jira,經驗告訴你,不會的。

而且這個站會對于開發是比較大的壓力,例如你的一個功能block了依賴方的開發,在會議上會暴露出來,大家都知道這件事情了,一天block,兩天block,第三天你都不好意思去說了,這會強迫你将大任務,比如原來寫1周幹一件什麼事情,寫成小時級别,這樣每天你都有的說,昨天完成了一個task,而不是周隻在那裡說幹同樣一件事情,而且一旦有了block,team lead會知道這件事情,會幫你趕緊解決這個事情,推進整個項目的進展。讓一個技術人員在團隊面前承認這件事情我嘗試了幾天,的确搞不定了,也是一種壓力。

站會中的内容其實在前一天晚上就要開始準備了。

持續內建要求每天都送出代碼,這樣才能降低代碼內建的風險,不能埋頭寫一周一起送出,這樣往往內建不成功。怎麼樣才能鼓勵每天都送出代碼呢?一個就是第二天的站會,你這個功能代碼送出了,單元測試通過了,第二天才能說做完了,否則不算,這就逼得你,将大任務拆成小任務,每天都多次送出。

而且Git的送出方式,是後送出者有責任去merge,保證代碼的編譯通過和測試通過,你會發現,如果你不及時送出,等你改了一大片代碼,别人都送出完了,這一大片的沖突都是你來merge,測試用例不通過的你來fix,是以逼的你有一個小的功能的改動,就盡早送出,pull一下發現沒有人送出,趕緊送出。

送出不是馬上進入主庫,而是需要代碼稽核,這是把控代碼品質的重要的環節。

代碼品質的控制往往每個公司都有文檔,甚至你可以從網上下載下傳一篇很長很長的Java代碼規範。但是我們常常看到的例子是,規範是有,但是虱子多了不咬人,規範太多的,誰也記不住,等于沒有規範。

是以建議将複雜的規範通過項目組内部的讨論,簡化為簡單的10幾條軍規,深入人心,大家都容易記住,并且容器執行。

代碼稽核往往需要注意下面的幾方面:

  • 代碼結構:整個項目組應該規定統一的代碼組織結構,使得每個開發拿到另一個人的代碼,都能看的熟悉的面孔。這也是scrum中提倡的每個開發之間是可替代的,當一個子產品有了阻礙,其他人是可以幫上忙的。至于核心的邏輯,估計稽核人員也來不及細看,這不要緊,核心邏輯是否通過,不能靠眼睛,要靠測試。
  • 有沒有注釋,尤其是對外的接口,應該有完善的注釋,友善自動生成接口文檔。
  • 異常的處理,是否抛出太過寬泛的異常,是否吞掉異常,是否吞掉異常的日志等。
  • 對于pom是否有修改,引入了新的jar。
  • 對于配置檔案是否有修改,對外通路是否設定逾時
  • 對于資料庫是否有修改,是否經過DBA稽核
  • 接口實作是否幂等,因為Dubbo和springcloud都會重試接口。接口是否會更新,是否帶版本号
  • 是否有單元測試

當然還有一些不容易一眼看出來的,可以通過一段時間通過統一的代碼review,來修改這些問題:

  • 某個類代碼長度過長
  • 設計是否合理,高内聚低耦合
  • 資料庫設計是否合理
  • 資料庫事務是否使用合理
  • 代碼是否有明顯的阻塞

代碼稽核完畢之後送出上去之後,一個是要通過靜态代碼審查,可以發現一些可能帶來代碼風險的問題,例如異常過于寬泛等。

在就是要通過單元測試。我們應該要求每個類都要有單元測試,并且單元測試覆寫率要達到一定的名額。單元測試要有帶Mock的子產品内的內建測試。

在編譯過程中會觸發單元測試,單元測試不通過,已經代碼覆寫率,都會統計後發郵件,抄送所有的人,這對于研發來講又是一個壓力。

當有一天你的送出break掉了測試,或者代碼覆寫率很低,則就像通報批評一樣,你需要趕緊去修改。

單元測試完畢之後,就會上傳成果物,或者是war或者是jar,一般會用nexus,因為有版本号,有md5,可以保證安裝在環境中的就是某個版本的某個包,我們還遇到過有使用FTP的,這樣一個是很難保證版本号的維護,更新和復原比較難弄,另一個是沒有md5,很可能包不完整都有可能的,而且一旦發生,很難發現。

如果使用了容器,則還需要編譯Dockerfile,使用Docker鏡像作為傳遞,能夠實作更好的環境一緻性,保證原子的更新和復原。

每天下班前,當天的代碼需要送出到庫中去,晚上會做一次統一的環境部署和內建測試。

每天晚上淩晨,會有自動化的腳本将Docker鏡像通過編排部署一個完整的環境,然後跑內建測試用例,內建測試用例應該是基于API的,很多的公司是基于UI的,這樣由于UI變化太快,還有UI不能覆寫所有的場景,是以還是建議UI和API分離,通過API進行內建測試,有了每天的測試,才能保證每天晚上的版本都是可以傳遞的版本,也保證我們微服務拆分的時候,盡管改了很多,不會因為新的修改,破壞掉原來能夠通過的測試用例,保證不會有了新的,壞了舊的。

這個內建測試或者叫回歸測試每天晚上都做,都是在一個全新的環境中,這就是持續部署和持續傳遞。

如果某一天測試不通過,則會發出郵件來,是因為當天誰的哪個送出,導緻測試不通過,抄送所有人,這是另一個壓力。

是以第二天的站會上,昨天你完成了哪些功能,是否送出了,是否完成了單元測試,是否通過了內建測試,就都知道了,你需要給大家一個解釋,然後進入到新一天的開發。

到了兩周,一個周期完畢,可以上線到生産環境了,可以通知有權限的運維進行操作,但是也是通過自動化的腳本進行部署的。

這就是整個過程,層層保證品質,從中可以看到,靈活開發,持續內建,持續傳遞,持續部署,DevOps是互相聯系的,少了任何一個,整個流程都玩不轉。

五、有關代碼結構

代碼結構往往包括:

  • API接口包
  • 通路外部服務包
  • 資料庫DTO
  • 通路資料庫包
  • 服務與商務邏輯
  • 外部服務

如果使用Dubbo RPC,則API接口往往在一個單獨的jar裡面,被服務端和用戶端共同依賴,但是使用了springcloud的restful方式就不用了,隻要在各自的代碼裡面定義就可以了,會變成json的方式傳遞,這樣的好處是當jar有多個版本依賴,需要更新的時候,關系非常複雜,難以維護,而json的方式比較好的解決了這個問題。

這個子產品提供了哪些接口,隻要到API接口這個package下面找就可以了。因為無論是Dubbo還是springcloud,接口的調用都會重試,因而接口需要實作幂等。

通路外部服務的包,這将所有對外的通路獨立出來,好處一是可以抽象出來,在服務拆分的時候,可能會用到,例如原來支付的邏輯在下單的子產品中,要講支付獨立出來,則會有一個抽象層,涉及到老的支付方式,還是調用本子產品中的邏輯,涉及到新接入的支付方式使用遠端調用,有了這一層友善的多。好處二是可以實作熔斷,當被調用的服務不正常的時候,在這裡可以傳回托底資料。好處三是可以實作Mock,這樣對于單元測試來講非常好,不用依賴于其他服務,就可以自己進行測試。

DTO和通路資料庫的包,看到了這些資料結構,會幫助程式員快速掌握代碼邏輯,不知道大家有沒有這個體驗,你去看一個開源軟體的代碼,首先要看的是他的資料結構,資料結構和關系看懂了,代碼邏輯就比較容易懂了,如果資料結構沒看懂,則光看邏輯,就容易雲裡霧裡的。

還有就是核心的代碼邏輯和對接口的實作。在這裡面是軟體代碼設計的内功所在,但是卻不是流程能夠控制的。

六、有關接口設計規範

上面也說過了,Dubbo和Springcloud會對接口進行重試,因而接口需要保持幂等。也即多次調用,應該産生一緻的結果,例如轉賬1元,因為調用失敗或者逾時重試的時候,最終結果還應該是轉賬1元,而非調用兩次變成轉賬2元。

  • 幂等判斷盡量提前,可以使用ID作為判斷條件。
  • 接口的實作應該盡量避免阻塞,可以使用異步方式提升性能。
  • 接口應該包括能夠區分不同情況的異常,而非抛出寬泛的Exception,不能吞掉異常。
  • 接口的實作要有足夠的容錯性,以及對不同版本的相容性。當要引入新接口的時候,使用先添加,後删除的方式。
  • 接口應該有良好的注釋。

七、有關代碼設計

對于代碼的設計,這裡常說的就是SOLID原則。

  • S是單一責任原則,如果你的代碼中有一個類行數太長,可能你需要重新審視一下,是不是這個類承擔了過多的責任。
  • O是開放關閉原則,比較拗口,對擴充開放,對修改關閉。思想是對于代碼的直接修改是非常危險的事情,因為你不知道這段代碼原來被誰用了,而且當時候用的時候,面臨的情況都是怎樣的。因而不要貿然修改一段代碼,而是選擇用接口進行調用,用實作進行擴充的方式進行。當你要實作一段新的功能的時候,不要改原來的代碼,也不要if-else,而是應該擴充一種實作,讓原來的調用的代碼邏輯還是原來的,在新的情況下使用新實作的代碼邏輯。
  • L是裡氏替換原則,如果基于接口進行程式設計,則子類一定要能夠擴充父類的功能,如果不能,說明不應該繼承與這個接口。例如你的實作的時候,發現接口中有一個方法在你這裡實在對應不到實作,不是接口設計的問題,就是你不應該繼承這個接口,絕不能出現not implemented類似之類的實作方法。
  • I是接口隔離原則,接口不應該設計的大而全,一個接口暴露出所有的功能,進而使得用戶端依賴了自己不需要的接口或者接口的方法。而是應該講接口進行細分和提取,而不應該将太過靈活的參數和變量混雜在一個接口中。
  • D是依賴倒置原則,A子產品依賴于B子產品,B子產品有了修改,反而要改A,就是依賴的過于緊密的問題。這就是常說的,你變了,我沒變,為啥我要改。如果基于抽象的接口程式設計,将修改隐藏在後面,則能夠實作依賴的解耦。

以上是子產品内部常見的設計原則,對于子產品之間,則是對于雲原生應用常說的十二要素原則。

微服務化的基石——持續內建

十二要素原則

詳情可雲原生時代下的12-factor應用與實踐

八、有關配置檔案

在代碼倉庫中,還需要管理的是配置檔案,往往在src/main/resource下面。

配置的管理原來多使用profile進行管理,對于dev, test, production使用不同的配置檔案。

然而當配置非常多的時候,比較的痛苦,而且配置不斷的修改,每次上線各種配置需要仔細的核對,眼睛都花了,才敢上線。

我們可以将配置分為下面的三類:

  • 内部配置項(啟動後不變,改變需要重新開機)
  • 集中配置項(配置中心,可動态下發)
  • 外部配置項(外部依賴,和環境相關)

在梳理配置的時候,可以按着三類歸類,分門别類管理。

在使用了容器之後,很多的内部配置項可固化在配置檔案中,放在容器鏡像中,需要啟動的時候修改的,則通過環境變量,在啟動容器的時候,在編排檔案中進行修改。

依賴的内部服務的位址,在容器平台kubernetes裡面,可以通過配置服務名進行服務發現,僅僅在配置檔案中配置名稱就可以了,不用配置真實的位址,kubernetes可以根據不同的環境,不同的namespace自動關聯好,大大簡化了配置。當然也可以用服務中心Dubbo和Springcloud做内部服務的互相發現。

依賴的外部服務的位址,例如mysql,redis等,往往不同的環境不同,也可以通過配置kubernetes外部服務名的方式進行,而不用一一核對,擔心測試環境連上了生産環境的IP位址。

還有一些集中配置項,需要動态修改的,例如限流,降級的開關等,需要通過統一的配置中心進行管理。

九、有關資料庫版本

代碼可以很好的版本化,應用也可以用鏡像進行原子化的更新和復原。

唯一比較難做到的就是資料庫如何版本化管理。

有一個開源工具 flyway 可以比較好的做這件事情。

在代碼中,flyway需要有以下的結構:

  • 在src/db/migration中有sql檔案,命名規則,如:V1__2017_4_13.sql ,V開頭+版本号+雙下劃線+描述,字尾為sql
  • 增加flyway的java類,實作migration方法

在資料庫中,flyway會自動增加SCHEME_VERSION表。

當服務啟動的時候,java類的migration方法會被調用,它會按照指定路徑中sql語句的版本号進行排序并且按照這個排序去執行,當每一個sql檔案被執行後,中繼資料的表就會按照格式進行更新。

微服務化的基石——持續內建

當服務重新開機的時候,Flyway 再次掃描sql的時候,它就會檢查中繼資料表中遷移版本,如果要執行的遷移腳本的版本小于或者等于目前版本,Flyway将會忽略,不再重複執行。

但是flyway從來不解決資料庫更新和復原的代碼相容性問題。

太多的人問這個問題了,代碼可以灰階釋出,資料庫咋灰階?代碼更新了,發現不對可以復原,資料庫咋復原。

如果可以停服的話,自然是使用資料庫快照備份的方式進行復原了。

如果不可以停服,沒辦法,隻有在代碼層面做相容性。每次涉及資料庫更新的都是大事情,代碼當然應該有個開關,保證随時可以切回原來的邏輯。

轉至https://www.cnblogs.com/163yun/p/8867738.html