详解Docker+Jenkins+Gitlab+Django应用部署实践

程序员文章站 2022-07-09 14:11:06

一、背景介绍在互联网应用快速更新迭代的大背景下，传统的人工手动或简单脚本已经不能适应此变化，此时devops为我们提供了良好的解决方案，应用好ci/cd可以大大的方便我...

一、背景介绍

在互联网应用快速更新迭代的大背景下，传统的人工手动或简单脚本已经不能适应此变化，此时devops为我们提供了良好的解决方案，应用好ci/cd可以大大的方便我们的日常工作，自动化快速的持续集成/持续交付为我们带来了应用开放的更快速度、更好的稳定性和更强的可靠性。

二、拓扑环境

2.1 架构拓扑

详解Docker+Jenkins+Gitlab+Django应用部署实践

如上图实例，简单花了下流程拓扑：

当研发push本地代码到gitlab-server后，webhook自动触发jenkins构建应用
在docker host上部署应用git clone来自gitlabserver源码，并启动应用
前端可以放置lb来做高可用
数据库连接云数据库
可将日志存储在log后期投递到elk实现日志可视化
构建完成邮件通知相关人员（测试或开放）

2.2 系统软件版本

名称	版本
linux系统	centos7.3 64位
docker	1.13
django	2.0

三、安装部署

3.1 jenkins安装部署

jenkins安装部署可参考：

安装完成后添加docker目标服务器

详解Docker+Jenkins+Gitlab+Django应用部署实践

配置邮件发送服务器

详解Docker+Jenkins+Gitlab+Django应用部署实践

3.2 docker安装部署

docker安装部署及dockerfile编写可参考：容器docker详解

3.3 gitlab安装部署

gitlab安装在公网linux服务器运行一些命令即可，如果没有公网需要手动修改 /etc/gitlab/gitlab.rb 文件的 external_url 'http://自己的内网ip'

yum install -y libsemanage-static libsemanage-devel policycoreutils openss
h-server openssh-clients postfix
systemctl enable postfix && systemctl start postfix

wget https://mirrors.tuna.tsinghua.edu.cn/gitlab-ce/yum/el7/gitlab-ce-8.0.
0-ce.0.el7.x86_64.rpm
rpm -i gitlab-ce-8.0.0-ce.0.el7.x86_64.rpm
# 获取公网ip
publicip=$(curl http://ipv4.icanhazip.com)
# 修改
sed -i "s/gitlab-server/${publicip}/g" /etc/gitlab/gitlab.rb

gitlab-ctl reconfigure
gitlab-ctl restart

echo "username:root"
echo "password:5ivel!fe"

3.4 配置发布流程

jenkins新建构建一个*风格的软件项目

详解Docker+Jenkins+Gitlab+Django应用部署实践

利用参数化构建方便后续部署docker传入映射的源端口和release

详解Docker+Jenkins+Gitlab+Django应用部署实践

源代码来自gitlab的django项目

详解Docker+Jenkins+Gitlab+Django应用部署实践

利用webhook关联gitlab和jenkins

jenkins安装插件：

详解Docker+Jenkins+Gitlab+Django应用部署实践

生成随机token值

详解Docker+Jenkins+Gitlab+Django应用部署实践

将jenkins生成的gitlab webhook url配置到gitlab

详解Docker+Jenkins+Gitlab+Django应用部署实践

当开发者在本地push代码后自动触发jenkins构建项目，有dockerfile内写的git pull代码，再次不用将代码由jenkins分发到docker宿主机，jenkins作为触发docker构建使用

详解Docker+Jenkins+Gitlab+Django应用部署实践

配置构建完成后的邮件

邮件模版，邮件类型选择：

内容类型选择：html

邮件主题填写： 构建通知:${build_status} - ${project_name} - build # ${build_number} !

构建通知模版：

<!doctype html>
<html>
<head>
<meta charset="utf-8">
<title>${env, var="job_name"}-第${build_number}次构建日志</title>
</head>

<body leftmargin="8" marginwidth="0" topmargin="8" marginheight="4"
 offset="0">
 <table width="95%" cellpadding="0" cellspacing="0"
 style="font-size: 11pt; font-family: tahoma, arial, helvetica, sans-serif">
 <tr>
  <td>(本邮件是程序自动下发的，请勿回复！)</td>
 </tr>
 <tr>
  <td><h2>
   <font color="#0000ff">构建结果 - ${build_status}</font>
  </h2></td>
 </tr>
 <tr>
  <td><br />
  <b><font color="#0b610b">构建信息</font></b>
  <hr size="2" width="100%" align="center" /></td>
 </tr>
 <tr>
  <td>
  <ul>
   <li>项目名称 ： ${project_name}</li>
   <li>构建编号 ： 第${build_number}次构建</li>
   <li>svn 版本： ${svn_revision}</li>
   <li>触发原因： ${cause}</li>
   <li>构建日志： <a href="${build_url}console">${build_url}console</a></li>
   <li>构建 url ： <a href="${build_url}">${build_url}</a></li>
   <li>工作目录 ： <a href="${project_url}ws">${project_url}ws</a></li>
   <li>项目 url ： <a href="${project_url}">${project_url}</a></li>
  </ul>
  </td>
 </tr>
 <tr>
  <td><b><font color="#0b610b">changes since last
   successful build:</font></b>
  <hr size="2" width="100%" align="center" /></td>
 </tr>
 <tr>
  <td>
  <ul>
   <li>历史变更记录 : <a href="${project_url}changes">${project_url}changes</a></li>
  </ul> ${changes_since_last_success,reverse=true, format="changes for build #%n:<br />%c<br />",showpaths=true,changesformat="<pre>[%a]<br />%m</pre>",pathformat=" %p"}
  </td>
 </tr>
 <tr>
  <td><b>failed test results</b>
  <hr size="2" width="100%" align="center" /></td>
 </tr>
 <tr>
  <td><pre
   style="font-size: 11pt; font-family: tahoma, arial, helvetica, sans-serif">$failed_tests</pre>
  <br /></td>
 </tr>
 <tr>
  <td><b><font color="#0b610b">构建日志 (最后 100行):</font></b>
  <hr size="2" width="100%" align="center" /></td>
 </tr>
 <!-- <tr>
  <td>test logs (if test has ran): <a
  href="${project_url}ws/testresult/archive_logs/log-build-${build_number}.zip">${project_url}/ws/testresult/archive_logs/log-build-${build_number}.zip</a>
  <br />
  <br />
  </td>
 </tr> -->
 <tr>
  <td><textarea cols="80" rows="30" readonly="readonly"
   style="font-family: courier new">${build_log, maxlines=100}</textarea>
  </td>
 </tr>
 </table>
</body>
</html>

触发类型可根据自身需要填写，这里填写always无论成功还是失败都发送邮件

详解Docker+Jenkins+Gitlab+Django应用部署实践

查看远程docker服务器内的文件

详解Docker+Jenkins+Gitlab+Django应用部署实践

django部署已经利用conda打包好了项目的python3.6的环境包自制了docker镜像

详解Docker+Jenkins+Gitlab+Django应用部署实践

之前利用的是纯净的python3.6系统，在每次构建的时候利用pip安装requirements.txt的模块，但是长此以往由于环境变化很少，每次需要pip安装耗时，所以利用conda将打包好的python环境自制成定制化环境，以此来减少环境部署时间，也可以通过docker镜像制作是-v参数将本地磁盘挂载在环境内，每次构建本地的conda即可，完成快速环境部署。

查看dockerfile

from 87a69025db6a
maintainer kaliarch

# 定义docker中工作目录
env work_dir /work/
# 创建docker内工作目录
run mkdir $work_dir
# 定义映射端口

expose 80

workdir $work_dir 
run git clone http://123.xxxx.xxxxx.245/devops/go2cloud.git

# 添加启动服务脚本
add *.sh ${work_dir}

cmd `which bash` /work/start_all.sh && tail -f /work/logs/server-$(date +%f).log

查看django启动脚本

#!/bin/bash

basepath=$(cd `dirname $0`;pwd)

py_cmd=/python3/bin/python

# 服务入口文件
#main_app=${basepath}/go2cloud/manage.py 
# 迁移脚本入口文件
scripts_app=${basepath}/go2cloud/scripts/migrate_task_schdule.py
# 删除脚本入口文件
delete_app=${basepath}/go2cloud/scripts/delete_transfer_server.py

# 日志目录

log_dir=${basepath}/logs/
[ ! -d ${log_dir} ] && mkdir ${log_dir}

# 启动服务
#nohup ${py_cmd} -u ${main_app} runserver 0.0.0.0:80 >> ${log_dir}server-$(date +%f).log 2>&1 &
# 启动脚本迁移调度脚本
echo "---------$0 $(date) excute----------" >> ${log_dir}task-script-$(date +%f).log
nohup ${py_cmd} -u ${scripts_app} >> ${log_dir}script-$(date +%f).log 2>&1 &

# 启动迁移删除脚本
echo "---------$0 $(date) excute----------" >> ${log_dir}delete-script-$(date +%f).log
nohup ${py_cmd} -u ${delete_app} >> ${log_dir}delete-script-$(date +%f).log 2>&1 &

查看jenkins部署脚本

#!/bin/bash

release=$1
port=$2

basepath=$(cd `dirname $0`;pwd)

# 构建go2cloud-platform 镜像
cd /dockerwork
docker build -t go2cloud-platform-mini:$release .

imgname=$(docker images|awk -v release=$release '{if($1=="go2cloud-platform-mini" && $2==release) print $3}')

echo $imgname
# 启动容器
docker run -d -p ${port}:80 -v /testlog/:/work/logs ${imgname}

利用-v参数将日志持续化存储到docker 宿主机之上

四、测试展示

4.1 测试构建

手动构建测试

详解Docker+Jenkins+Gitlab+Django应用部署实践