[SpringCloud]~Spring Cloud及微服務簡介

Spring Cloud及微服務簡介

什麼是微服務

微服務的概念源于2014年3月Martin Fowler所寫的一篇文章“Microservices”。

微服務架構是一種架構模式，它提倡将單一應用程式劃分成一組小的服務，服務之間互相協調、互相配合，為使用者提供最終價值。每個服務運作在其獨立的程序中，服務與服務間采用輕量級的通信機制互相溝通（通常是基于HTTP的RESTful API）。每個服務都圍繞着具體業務進行建構，并且能夠被獨立地部署到生産環境、類生産環境等。另外，應盡量避免統一的、集中式的服務管理機制，對具體的一個服務而言，應根據業務上下文，選擇合适的語言、工具對其進行建構。

微服務是一種架構風格，一個大型複雜軟體應用由一個或多個微服務組成。系統中的各個微服務可被獨立部署，各個微服務之間是松耦合的。每個微服務僅關注于完成一件任務并很好地完成該任務。在所有情況下，每個任務代表着一個小的業務能力。

微服務架構優勢

複雜度可控：在将應用分解的同時，規避了原本複雜度無止境的積累。每一個微服務專注于單一功能，并通過定義良好的接口清晰表述服務邊界。由于體積小、複雜度低，每個微服務可由一個小規模開發團隊完全掌控，易于保持高可維護性和開發效率。

獨立部署：由于微服務具備獨立的運作程序，是以每個微服務也可以獨立部署。當某個微服務發生變更時無需編譯、部署整個應用。由微服務組成的應用相當于具備一系列可并行的釋出流程，使得釋出更加高效，同時降低對生産環境所造成的風險，最終縮短應用傳遞周期。

技術選型靈活：微服務架構下，技術選型是去中心化的。每個團隊可以根據自身服務的需求和行業發展的現狀，自由選擇最适合的技術棧。由于每個微服務相對簡單，故需要對技術棧進行更新時所面臨的風險就較低，甚至完全重構一個微服務也是可行的。

容錯：當某一組建發生故障時，在單一程序的傳統架構下，故障很有可能在程序内擴散，形成應用全局性的不可用。在微服務架構下，故障會被隔離在單個服務中。若設計良好，其他服務可通過重試、平穩退化等機制實作應用層面的容錯。

擴充：單塊架構應用也可以實作橫向擴充，就是将整個應用完整的複制到不同的節點。當應用的不同元件在擴充需求上存在差異時，微服務架構便展現出其靈活性，因為每個服務可以根據實際需求獨立進行擴充。

什麼是Spring Boot

Spring Boot是由Pivotal團隊提供的全新架構，其設計目的是用來簡化新Spring應用的初始搭建以及開發過程。該架構使用了特定的方式來進行配置，進而使開發人員不再需要定義樣闆化的配置。用我的話來了解，就是Spring Boot其實不是什麼新的架構，它預設配置了很多架構的使用方式，就像maven整合了所有的jar包，Spring Boot整合了所有的架構（不知道這樣比喻是否合适）。

Spring Boot簡化了基于Spring的應用開發，通過少量的代碼就能建立一個獨立的、産品級别的Spring應用。 Spring Boot為Spring平台及第三方庫提供開箱即用的設定，這樣你就可以有條不紊地開始。Spring Boot的核心思想就是約定大于配置，多數Spring Boot應用隻需要很少的Spring配置。采用Spring Boot可以大大的簡化你的開發模式，所有你想內建的常用架構，它都有對應的元件支援。

Spring Cloud都做了哪些事

Spring Cloud是一系列架構的有序集合。它利用Spring Boot的開發便利性巧妙地簡化了分布式系統基礎設施的開發，如服務發現注冊、配置中心、消息總線、負載均衡、斷路器、資料監控等，都可以用Spring Boot的開發風格做到一鍵啟動和部署。Spring并沒有重複制造輪子，它隻是将目前各家公司開發的比較成熟、經得起實際考驗的服務架構組合起來，通過Spring Boot風格進行再封裝屏蔽掉了複雜的配置和實作原理，最終給開發者留出了一套簡單易懂、易部署和易維護的分布式系統開發工具包

以下為Spring Cloud的核心功能：

• 分布式/版本化配置
• 服務注冊和發現
• 路由
• 服務和服務之間的調用
• 負載均衡
• 斷路器
• 分布式消息傳遞

我們再來看一張圖：

通過這張圖，我們來了解一下各元件配置使用運作流程：

• 1、請求統一通過API網關（Zuul）來通路内部服務.
• 2、網關接收到請求後，從注冊中心（Eureka）擷取可用服務
• 3、由Ribbon進行均衡負載後，分發到後端具體執行個體
• 4、微服務之間通過Feign進行通信處理業務
• 5、Hystrix負責處理服務逾時熔斷
• 6、Turbine監控服務間的調用和熔斷相關名額

Spring Cloud體系介紹

上圖隻是Spring Cloud體系的一部分，Spring Cloud共內建了19個子項目，裡面都包含一個或者多個第三方的元件或者架構！

Spring Cloud 工具架構

1、Spring Cloud Config 配置中心，利用git集中管理程式的配置。 

2、Spring Cloud Netflix 內建衆多Netflix的開源軟體

3、Spring Cloud Bus 消息總線，利用分布式消息将服務和服務執行個體連接配接在一起，用于在一個叢集中傳播狀态的變化 

4、Spring Cloud for Cloud Foundry 利用Pivotal Cloudfoundry內建你的應用程式

5、Spring Cloud Cloud Foundry Service Broker 為建立管理雲托管服務的服務代理提供了一個起點。

6、Spring Cloud Cluster 基于Zookeeper, Redis, Hazelcast, Consul實作的上司選舉和平民狀态模式的抽象和實作。

7、Spring Cloud Consul 基于Hashicorp Consul實作的服務發現和配置管理。

8、Spring Cloud Security 在Zuul代理中為OAuth2 rest用戶端和認證頭轉發提供負載均衡

9、Spring Cloud Sleuth SpringCloud應用的分布式追蹤系統，和Zipkin，HTrace，ELK相容。

10、Spring Cloud Data Flow 一個雲本地程式和操作模型，組成資料微服務在一個結構化的平台上。

11、Spring Cloud Stream 基于Redis,Rabbit,Kafka實作的消息微服務，簡單聲明模型用以在Spring Cloud應用中收發消息。

12、Spring Cloud Stream App Starters 基于Spring Boot為外部系統提供spring的內建

13、Spring Cloud Task 短生命周期的微服務，為SpringBooot應用簡單聲明添加功能和非功能特性。

14、Spring Cloud Task App Starters

15、Spring Cloud Zookeeper 服務發現和配置管理基于Apache Zookeeper。

16、Spring Cloud for Amazon Web Services 快速和亞馬遜網絡服務內建。

17、Spring Cloud Connectors 便于PaaS應用在各種平台上連接配接到後端像資料庫和消息經紀服務。

18、Spring Cloud Starters （項目已經終止并且在Angel.SR2後的版本和其他項目合并）

19、Spring Cloud CLI 插件用Groovy快速的建立Spring Cloud元件應用。

當然這個數量還在一直增加...

三者之間的關系

微服務是一種架構的理念，提出了微服務的設計原則，從理論為具體的技術落地提供了指導思想。Spring Boot是一套快速配置腳手架，可以基于Spring Boot快速開發單個微服務；Spring Cloud是一個基于Spring Boot實作的服務治理工具包；Spring Boot專注于快速、友善內建的單個微服務個體，Spring Cloud關注全局的服務治理架構。

Spring Boot/Cloud是微服務實踐的最佳落地方案。

實戰經曆

遇到問題，尋找方案

2015年初的時候，因為公司業務的大量發展，我們開始對原有的業務進行拆分，新上的業務線也全部使用獨立的項目來開發，項目和項目之間通過http接口進行通路。15年的業務發展非常迅速，項目數量也就相應急劇擴大，到了15底的時候項目達60多個，當項目數達到30幾個的時候，其實我們就遇到了問題，經常某個項目因為擴充增加了新的IP位址，我們就需要被動的更新好幾個相關的項目。服務越來越多，服務之間的調用關系也越來越複雜，有時候想畫一張圖來表示項目和項目之間的依賴關系，線條密密麻麻無法看清。網上有一張圖可以表達我們的心情。

這個時候我們就想找一種方案，可以将我們這麼多分布式的服務給管理起來，到網上進行了技術調研。我們發現有兩款開源軟體比較适合我們，一個是Dubbo，一個是Spring Cloud。

其實剛開始我們是走了一些彎路的。這兩款架構我們當時都不熟悉，當時國内使用Spring Cloud進行開發的企業非常的少，我在網上也幾乎沒找到太多應用的案例。但是Dubbo當時在國内的使用還是挺普遍的，相關的資料各方面都比較完善。是以在公司擴充新業務線衆籌平台的時候，技術選型就先定了Dubbo，因為也是全新的業務沒有什麼負擔，這個項目我們大概開發了六個月投産，上線之初也遇到了一些問題，但最終還比較順利。

在新業務線選型使用Dubbo的同時，我們也沒有完全放棄Spring Cloud，我們抽出了一兩名開發人員學習Spring Boot我也參與其中，為了驗證Spring Boot是否可以到達實戰的标準，我們在業餘的時間使用Spring Boot開發了一款開源軟體雲收藏，經過這個項目的實戰驗證我們對Spring Boot就有了信心。最重要的是大家體會到使用Spring Boot的各種便利之後，就再也不想使用傳統的方式來進行開發了。

但是還有一個問題，在選擇了Spring Boot進行新業務開發的同時，并沒有解決我們上面的那個問題，服務于服務直接調用仍然比較複雜和傳統，這時候我們就開始研究Spring Cloud。因為大家在前期對Spring Boot有了足夠的了解，是以學習Sprig Cloud就顯得順風順水了。是以在使用Dubbo半年之後，我們又全面開始擁抱Spring Cloud。

為什麼選擇使用Spring Cloud而放棄了Dubbo

可能大家會問，為什麼選擇了使用Dubbo之後，而又選擇全面使用Spring Cloud呢？其中有幾個原因：

1）從兩個公司的背景來談：Dubbo，是阿裡巴巴服務化治理的核心架構，并被廣泛應用于中國各網際網路公司；Spring Cloud是大名鼎鼎的Spring家族的産品。阿裡巴巴是一個商業公司，雖然也開源了很多的頂級的項目，但從整體戰略上來講，仍然是服務于自身的業務為主。Spring專注于企業級開源架構的研發，不論是在中國還是在世界上使用都非常廣泛，開發出通用、開源、穩健的開源架構就是他們的主業。

2）從社群活躍度這個角度來對比，Dubbo雖然也是一個非常優秀的服務治理架構，并且在服務治理、灰階釋出、流量分發這方面做的比Spring Cloud還好，除過當當網在基礎上增加了rest支援外，已有兩年多的時間幾乎都沒有任何更新了。在使用過程中出現問題，送出到github的Issue也少有回複。

相反Spring Cloud自從發展到現在，仍然在不斷的高速發展，從github上送出代碼的頻度和釋出版本的時間間隔就可以看出，現在Spring Cloud即将釋出2.0版本，到了後期會更加完善和穩定。

3) 從整個大的平台架構來講，dubbo架構隻是專注于服務之間的治理，如果我們需要使用配置中心、分布式跟蹤這些内容都需要自己去內建，這樣無形中使用dubbo的難度就會增加。Spring Cloud幾乎考慮了服務治理的方方面面，更有Spring Boot這個大将的支援，開發起來非常的便利和簡單。

4）從技術發展的角度來講，Dubbo剛出來的那會技術理念還是非常先進，解決了各大網際網路公司服務治理的問題，中國的各中小公司也從中受益不少。經過了這麼多年的發展，網際網路行業也是湧現了更多先進的技術和理念，Dubbo一直停滞不前，自然有些掉隊，有時候我個人也會感到有點可惜，如果Dubbo一直沿着當初的那個路線發展，并且延伸到周邊，今天可能又是另一番景象了。

Spring 推出Spring Boot/Cloud也是因為自身的很多原因。Spring最初推崇的輕量級架構，随着不斷的發展也越來越龐大，随着內建項目越來越多，配置檔案也越來越混亂，慢慢的背離最初的理念。随着這麼多年的發展，微服務、分布式鍊路跟蹤等更多新的技術理念的出現，Spring急需一款架構來改善以前的開發模式，是以才會出現Spring Boot/Cloud項目，我們現在通路Spring官網，會發現Spring Boot和Spring Cloud已經放到首頁最重點突出的三個項目中的前兩個，可見Spring對這兩個架構的重視程度。

總結一下，dubbo曾經确實很牛逼，但是Spring Cloud是站在近些年技術發展之上進行開發，是以更具技術代表性。

如何進行微服務架構演進

當我們将所有的新業務都使用Spring Cloud這套架構之後，就會出現這樣一個現象，公司的系統被分成了兩部分，一部分是傳統架構的項目，一部分是微服務架構的項目，如何讓這兩套配合起來使用就成為了關鍵，這時候Spring Cloud裡面的一個關鍵元件解決了我們的問題，就是Zuul。在Spring Cloud架構體系内的所有微服務都通過Zuul來對外提供統一的通路入口，所有需要和微服務架構内部服務進行通訊的請求都走統一網關。如下圖：

從上圖可以看出我們對服務進行了分類，有四種：基礎服務、業務服務、組合服務、前置服務。不同服務遷移的優先級不同

• 基礎服務，是一些基礎元件，與具體的業務無關。比如：短信服務、郵件服務。這裡的服務最容易摘出來做微服務，也是我們第一優先級分離出來的服務。

• 業務服務，是一些垂直的業務系統，隻處理單一的業務類型，比如：風控系統、積分系統、合同系統。這類服務職責比較單一，根據業務情況來選擇是否遷移，比如：如果突然有需求對積分系統進行大優化，我們就趁機将積分系統進行改造，是我們的第二優先級分離出來的服務。
• 前置服務，前置服務一般為服務的接入或者輸出服務，比如網站的前端服務、app的服務接口這類，這是我們第三優先級分離出來的服務。
• 組合服務，組合服務就是涉及到了具體的業務，比如買标過程，需要調用很多垂直的業務服務，這類的服務我們一般放到最後再進行微服務化架構來改造，因為這類服務最為複雜，除非涉及到大的業務邏輯變更，我們是不會輕易進行遷移。
• 在這四類服務之外，新上線的業務全部使用Sprng Boot/Cloud這套技術棧。就這樣，我們從開源項目雲收藏開始，上線幾個Spring Boot項目，到現在公司絕大部分的項目都是在Spring Cloud這個架構體系中。

  經驗和教訓

  架構演化的步驟

  • 在确定使用Spring Boot/Cloud這套技術棧進行微服務改造之前，先梳理平台的服務，對不同的服務進行分類，以确認演化的節奏。
• 先讓團隊熟悉Spring Boot技術，并且優先在基礎服務上進行技術改造，推動改動後的項目投産上線
• 當團隊熟悉Spring Boot之後，再推進使用Spring Cloud對原有的項目進行改造。
• 在進行微服務改造過程中，優先應用于新業務系統，前期可以隻是少量的項目進行了微服務化改造，随着大家對技術的熟悉度增加，可以加快加大微服務改造的範圍
• 傳統項目和微服務項目共存是一個很常見的情況，除非公司業務有大的變化，不建議直接遷移核心項目。

• 服務拆分原則

  服務拆分有以下幾個原則和大家分享

  橫向拆分。按照不同的業務域進行拆分，例如訂單、營銷、風控、積分資源等。形成獨立的業務領域微服務叢集。

  縱向拆分。把一個業務功能裡的不同子產品或者元件進行拆分。例如把公共元件拆分成獨立的原子服務，下沉到底層，形成相對獨立的原子服務層。這樣一縱一橫，就可以實作業務的服務化拆分。

  要做好微服務的分層：梳理和抽取核心應用、公共應用，作為獨立的服務下沉到核心和公共能力層，逐漸形成穩定的服務中心，使前端應用能更快速的響應多變的市場需求

  服務拆分是越小越好嗎？微服務的大與小是相對的。比如在初期，我們把交易拆分為一個微服務，但是随着業務量的增大，可能一個交易系統已經慢慢變得很大，并且并發流量也不小，為了支撐更多的交易量，我會把交易系統，拆分為訂單服務、投标服務、轉讓服務等。是以微服務的拆分力度需與具體業務相結合，總的原則是服務内部高内聚，服務之間低耦合。

  微服務vs傳統開發

  使用微服務有一段時間了，這種開發模式和傳統的開發模式對比，有很大的不同。
  • 分工不同，以前我們可能是一個一個子產品，現在可能是一人一個系統。
• 架構不同，服務的拆分是一個技術含量很高的問題，拆分是否合理對以後發展影響巨大。
• 部署方式不同，如果還像以前一樣部署估計累死了，自動化運維不可不上。
• 容災不同，好的微服務可以隔離故障避免服務整體down掉，壞的微服務設計仍然可以因為一個子服務出現問題導緻連鎖反應。

• 給資料庫帶來的挑戰

  每個微服務都有自己獨立的資料庫，那麼背景管理的聯合查詢怎麼處理？這應該是大家會普遍遇到的一個問題，有三種處理方案。

  1）嚴格按照微服務的劃分來做，微服務互相獨立，各微服務資料庫也獨立，背景需要展示資料時，調用各微服務的接口來擷取對應的資料，再進行資料處理後展示出來，這是标準的用法，也是最麻煩的用法。

  2) 将業務高度相關的表放到一個庫中，将業務關系不是很緊密的表嚴格按照微服務模式來拆分，這樣既可以使用微服務，也避免了資料庫分散導緻背景系統統計功能難以實作，是一個折中的方案。

  3）資料庫嚴格按照微服務的要求來切分，以滿足業務高并發，實時或者準實時将各微服務資料庫資料同步到NoSQL資料庫中，在同步的過程中進行資料清洗，用來滿足背景業務系統的使用，推薦使用MongoDB、HBase等。

  三種方案在不同的公司我都使用過，第一種方案适合業務較為簡單的小公司；第二種方案，适合在原有系統之上，慢慢演化為微服務架構的公司；第三種适合大型高并發的網際網路公司。

  微服務的經驗和建議

  1、建議盡量不要使用Jsp，頁面開發推薦使用Thymeleaf。Web項目建議獨立部署Tomcat，不要使用内嵌的Tomcat，内嵌Tomcat部署Jsp項目會偶現龜速通路的情況。

  2、服務編排是個好東西，主要的作用是減少項目中的互相依賴。比如現在有項目a調用項目b，項目b調用項目c...一直到h，是一個調用鍊，那麼項目上線的時候需要先更新最底層的h再更新g...更新c更新b最後是更新項目a。這隻是這一個調用鍊，在複雜的業務中有非常多的調用，如果要記住每一個調用鍊對開發運維人員來說就是災難。

  有這樣一個好辦法可以盡量的減少項目的互相依賴，就是服務編排，一個核心的業務處理項目，負責和各個微服務打交道。比如之前是a調用b，b掉用c，c調用d，現在統一在一個核心項目W中來處理，W服務使用a的時候去調用b，使用b的時候W去調用c，舉個例子：在第三方支付業務中，有一個核心支付項目是服務編排，負責處理支付的業務邏輯，W項目使用商戶資訊的時候就去調用“商戶系統”，需要校驗裝置的時候就去調用“終端系統”，需要風控的時候就調用“風控系統”，各個項目需要的依賴參數都由W來做主要。以後項目部署的時候，隻需要最後啟動服務編排項目即可。

  3、不要為了追求技術而追求技術，确定進行微服務架構改造之前，需要考慮以下幾方面的因素：

  1）團隊的技術人員是否已經具備相關技術基礎。

  2）公司業務是否适合進行微服務化改造，并不是所有的平台都适合進行微服務化改造，比如：傳統行業有很多複雜垂直的業務系統。

  3）Spring Cloud生态的技術有很多，并不是每一種技術方案都需要用上，适合自己的才是最好的。