天天看點

k8s+Jenkins+GitLab-自動化部署項目

0、目錄

此文閱讀目錄:

1、閑聊

2、部署流程介紹

3、部署Harbor倉庫

4、jenkins-slave鏡像搭建

5、部署jenkins

6、jenkins+gitlab挂鈎

7、k8s部署asp.net core項目

一、閑聊

 現在基本上是隔幾天寫一篇文章,還是不夠勤奮,努力把自己打造成勤奮的人,把工作上面所用到的技術點分享給大家。為了研究k8s自動化部署aspnet core項目,足足花費了我一個禮拜的時間,過程是痛苦的,但結果是美好的。

如果以下内容有不足的地方,請指出,我會第一時間更正。謝謝大家。

二、部署流程介紹

  1、先上一下手繪導圖,大緻的流程圖如下:(不喜勿噴呀)

大緻的部署流程是這樣的:開發人員把做好的asp.net core項目代碼通過git推送到gitlab,然後Jenkins通過 gitlab webhook (前提是配置好),自動從拉取gitlab上面拉取代碼下來,然後進行build,編譯、生成鏡像、然後把鏡像推送到Harbor倉庫;然後在部署的時候通過k8s拉取Harbor上面的代碼進行建立容器和服務,最終釋出完成,然後可以用外網通路。(ps:看着我講這麼簡單,但心裡有許多小鹿在心裡亂撞,沒關系,下面将會好好的分享給大家)

k8s+Jenkins+GitLab-自動化部署項目

當然啦,上面隻是粗略的,請看下圖才更加形象。

k8s+Jenkins+GitLab-自動化部署項目

 2、先介紹一下我的伺服器IP和在各個伺服器上面所安裝的内容

ps:由于我的電腦組態有限,運作太多的虛拟機會導緻記憶體空間不夠用,是以就弄了三台,已經是極限了。

如果大家對于k8s怎麼部署,請看我之前的文章有介紹。前提是要安裝好docker環境、gitlab等

IP 角色
192.168.161.151 master1、Harbor、Jenkins
192.168.161.152 node1
192.168.161.153 node2、Gitlab

三、部署Harbor倉庫

 第一步:下載下傳harbor二進制檔案:https://github.com/goharbor/harbor/releases 

第二步:安裝 docker compose

指令:

sudo curl -L https://github.com/docker/compose/releases/download/1.22.0/docker-compose-$(uname -s)-$(uname -m) -o /usr/local/bin/docker-compose

然後把下載下傳的docker-compose 設定可執行權限

指令:chmod +x /usr/local/bin/docker-compose

第三步:此處應該設定自簽證書的,即通路的時候是采用HTTPS進行通路的。此處略去,不影響我們接下去的部署。(後期會出一篇關于自簽證書的文章,僅供參考)

第四步:将下載下傳好的Harbor二進制包上傳到伺服器上面,然後解壓出來

解壓的指令為: tar xzvf 包名

k8s+Jenkins+GitLab-自動化部署項目

第五步:進入解壓出來的檔案夾harbor中,有如下檔案。

k8s+Jenkins+GitLab-自動化部署項目

配置檔案,vi harbor.cfg

把其中的hostname修改為:master1 的IP位址。

k8s+Jenkins+GitLab-自動化部署項目

然後 修改harbor的登入密碼:為了友善起見,我修改為123456,大家可自行修改

k8s+Jenkins+GitLab-自動化部署項目

 第六步:在目前檔案夾中開啟harbor

執行指令:

./prepare

k8s+Jenkins+GitLab-自動化部署項目

./install.sh  (運作此處的時候需要一定的時間,請等待吧)

k8s+Jenkins+GitLab-自動化部署項目

 第七步:啟動成功,檢視一下(完美的運作)

docker-compose ps

k8s+Jenkins+GitLab-自動化部署項目

 用浏覽器檢視一下(出現以下内容,代表成功,完美)

進入到裡面後,我先在使用者管理中建立了一個使用者  louie 。大家自行建立,為了後期需要把一些依賴鏡像先推送到harbor倉庫中。然後在項目中建立項目,如下:

k8s+Jenkins+GitLab-自動化部署項目

所建立的項目,并且,我在每個項目中都加入了我剛才所建立的使用者,友善後期登入并推送鏡像

k8s+Jenkins+GitLab-自動化部署項目
k8s+Jenkins+GitLab-自動化部署項目

此處介紹一下我的項目,coresdk 主要用來存放  asp.net core 所需要的sdk;ops主要是用來存放的jenkins鏡像和jenkins-slave鏡像;projectdemo 主要存放我的asp.netcore 項目的鏡像,供k8s拉取。

至此,harbor部署完成。

四、jenkins-slave鏡像搭建

操作伺服器:node1

說明:jenkins-slave 主要是為了分擔jenkins-master的壓力。如下圖所示:(在多任務運作的時候可以采用)

k8s+Jenkins+GitLab-自動化部署項目

 1、為了建立jenkins-slave鏡像,我這邊準備了三個檔案

Dockerfile:建構jenkins-slave鏡像

jenkins-slave:shell腳本(需要加入可執行權限 chmod +x jenkins-slave),在鏡像建構時需要用到。

slave.jar: 啟動腳本

Dockerfile 檔案内容如下(如需源檔案可加入QQ群擷取),如下圖所示:可以看到 jenkins-slave需要依賴java的一些環境。

k8s+Jenkins+GitLab-自動化部署項目

2、配置java的基礎環境。

配置 JDK和maven,把下載下傳的二進制包放到如下目錄(由于檔案太大,可移步到群中下載下傳)

apache-maven-3.5.3-bin.tar.gz解壓到的位址為 /usr/local/maven裡面。

jdk-8u45-linux-x64.tar.gz解壓到的位址為 /usr/local/jdk裡面。

3、準備好環境後,剛才建構鏡像,如下:

k8s+Jenkins+GitLab-自動化部署項目

執行指令:

k8s+Jenkins+GitLab-自動化部署項目

建構完成後把鏡像推送到Harbor倉庫中。

k8s+Jenkins+GitLab-自動化部署項目

在推送的過程中需要先登入到harbor倉庫

執行指令: docker login 192.168.161.151 

執行後發現及時輸入賬号和密碼也無法登入,由于在node1中沒有添加harbor倉庫的IP位址導緻無法登入,是以

執行指令: vi /etc/docker/daemon.json  

把下圖的紅色圈的部分加入,然後重新開機一下docker。

k8s+Jenkins+GitLab-自動化部署項目

執行 docker info ,看一下IP位址是否生效,發現已加入。好了,在試一下登入,發現登入成功,然後開始推送把。

k8s+Jenkins+GitLab-自動化部署項目

當然harbor 上也給出了 鏡像推送的語句

k8s+Jenkins+GitLab-自動化部署項目

開始推送:docker push 192.168.161.151/ops/jenkins-slave 

至此,jenkins-slave 鏡像已推送完畢。

k8s+Jenkins+GitLab-自動化部署項目

五、部署jenkins

部署jenkins時,我把jenkins的資料卷采用pv/pvc、nfs 進行挂載。

1、需要準備檔案有

jenkins-service-account.yml :jenkins的服務賬号建立

jenkins.yml : 建立容器和service 服務得。進行可以通路。

Dockerfile :主要用來生成 jenkins 鏡像的。

registry-pull-secret.yaml:主要是用來部署時可以直接登入harbor倉庫來拉取鏡像(在部署jenkins需要用到)

2、開始吧。

切換到node1伺服器,把之前準備好的Dockerfile檔案建構一下

k8s+Jenkins+GitLab-自動化部署項目

指令:docker build -t 192.168.161.151/ops/jenkins:lts-alpine .

然後推送到Harbor倉庫中,指令:docker push 192.168.161.150/ops/jenkins:lts-alpine

3、切換到master 伺服器上

建構 jenkins-service-account.yml 和jenkins.yml  檔案以及registry-pull-secret.yaml

k8s+Jenkins+GitLab-自動化部署項目

特别注意registry-pull-secret.yaml 中的namespace,需要在k8s中建立,以及 data裡面的64位認證資訊(需要登入harbor倉庫後生成的資訊黏貼在這裡)

生成方式為:可以在有登入的harbor 的node伺服器上面執行以下指令生成認證資訊

指令: cat ~/.docker/config.json |base64 -w0 即可生成資訊

k8s+Jenkins+GitLab-自動化部署項目
k8s+Jenkins+GitLab-自動化部署項目

執行上上面的檔案後,指令: kubectl create -f  檔案名。

生成如下,發現jenkins已在運作,而且是運作在153節點上。那麼開始用浏覽器通路把

k8s+Jenkins+GitLab-自動化部署項目

檢視一下 service ,jenkins的外部通路端口為诶 30001.

k8s+Jenkins+GitLab-自動化部署項目

4、輸入通路位址:http://192.168.161.153:30001/

在第一次登陸的時候需要密碼進行解鎖jenkins,按照提示擷取密碼即可。

k8s+Jenkins+GitLab-自動化部署項目

然後選擇 “”插件來安裝“”,如果需要特别的插件直接選擇,否則直接安裝即可。

k8s+Jenkins+GitLab-自動化部署項目

5、要想把jenkins關聯到k8s中需要安裝幾個插件

打開  “系統管理” =》“管理插件” 然後安裝

Kubernetes Continuous Deploy、Kubernetes、Gitlab Hook 、GitLab、Build Authorization Token

k8s+Jenkins+GitLab-自動化部署項目

 6、安裝完畢後就開始建構項目啦。

我建立一個項目,然後選擇 流水線、然後點選确定。

k8s+Jenkins+GitLab-自動化部署項目

 7、建立完任務後先不進行配置,我們先要設定一下jenkins挂鈎k8s的環境

點選 “系統管理”=》“系統設定”。一直往下滑動,點選“新增一個雲”,選擇k8s,如果這邊沒有出現k8s,則代表你的插件沒有安裝成功,請重新安裝吧。

k8s+Jenkins+GitLab-自動化部署項目

 然後配置一下裡面的内容,隻要配置這兩個地方就可以了。針對URL,我這邊是采用kube-dns來做服務發現,不需要實際的ip位址進行輸入。至此搞定。不過還得配置一下 “憑證”,即SSH密鑰,友善可以從gitlab那邊拉取代碼,有玩過gitlab應該知道,拉取代碼分為git和http。

k8s+Jenkins+GitLab-自動化部署項目

此處如果發現測試不通過,請現在k8s中安裝一下kube-dns.yaml,檔案在群中k8s叢集部署檔案下面:直至在k8s中執行即可。

指令:kubectl create -f kube-dns.yaml

k8s+Jenkins+GitLab-自動化部署項目

 8、添加憑證

在這裡我添加了兩個憑證,一個是ssh,和k8s的憑證。這個可自行添加一下即可。這裡要注意一下:憑證生成後,進入憑證裡面會有一個自動生成的ID,此ID需要在asp.net core項目中的Jenkinsfile裡面配置。

root中的密鑰時私鑰,并且在伺服器上需要把公鑰配置到gitlab上。

k8s+Jenkins+GitLab-自動化部署項目

 這下面是gitlab 上面配置ssh, ssh的私鑰和公鑰,直接在 node伺服器上生成一下即可 ssh-keygen,  然後把裡面的内容複制出來即可。

k8s+Jenkins+GitLab-自動化部署項目

六、jenkins+gitlab挂鈎

上面已經建立了一個任務。然後我們開始配置這個任務裡面的内容并且與gitlab挂鈎把

k8s+Jenkins+GitLab-自動化部署項目

1、進入testproject裡面配置。按照以下圖配置完後即可。然後點選儲存。這樣就完成了任務配置,接下來就是要配置一下gitlab啦

k8s+Jenkins+GitLab-自動化部署項目
k8s+Jenkins+GitLab-自動化部署項目

 2、配置gitlab​​​​

在gitlab中我建立了一個項目Testproject

k8s+Jenkins+GitLab-自動化部署項目

然後進入到項目中,點選 “Settings”=》Integrations 

k8s+Jenkins+GitLab-自動化部署項目

把上面URL和Token複制到這邊,然後點選儲存即可。接下來就是測試一下這個配置是否可以用

k8s+Jenkins+GitLab-自動化部署項目

将上面建立好的webhook 進行測試,gitlab會模拟代碼推送事件,傳回200就代表成功啦。

k8s+Jenkins+GitLab-自動化部署項目

 成功啦。

k8s+Jenkins+GitLab-自動化部署項目

七、終于到了我們asp.net core項目啦

 github位址:上面有完整的代碼 https://github.com/LouieGuo/testproject,記得fork me喲。感謝感謝。

 在這裡我建立了一個asp.net core webapi 的項目,不做任何修改。然後在項目中加入了這幾個部署檔案。

deploy檔案裡面包含 Jenkinsfile 和deploy.yml(用來部署項目鏡像的)

k8s+Jenkins+GitLab-自動化部署項目
k8s+Jenkins+GitLab-自動化部署項目

注:Jenkinsfile裡面這兩個地方需要配置為你們在Jenkins裡面建立的兩個授權的ID,ID内容可以進入到憑證裡面看。切記,一定要改。

k8s+Jenkins+GitLab-自動化部署項目

Dockerfile :中是用來建構項目鏡像 的

k8s+Jenkins+GitLab-自動化部署項目

dockerfile 内容,當然裡面的sdk我已經打包好了,已經上傳到我的harbor倉庫中。

k8s+Jenkins+GitLab-自動化部署項目

 到目前為止 我們就可以開始上傳代碼到gitlab上,然後自動觸發建構啦。

k8s+Jenkins+GitLab-自動化部署項目

上傳後再這邊會出現建構進行,我們可以檢視 控制台輸出

k8s+Jenkins+GitLab-自動化部署項目
k8s+Jenkins+GitLab-自動化部署項目

輸出、以及建構成功

k8s+Jenkins+GitLab-自動化部署項目
k8s+Jenkins+GitLab-自動化部署項目

在master上面檢視

發現已經運作我的項目啦,用浏覽器通路以下。

k8s+Jenkins+GitLab-自動化部署項目

 檢視一下外部釋出的端口

k8s+Jenkins+GitLab-自動化部署項目
k8s+Jenkins+GitLab-自動化部署項目