跳转至

项目部署_持续集成

持续集成

持续集成( Continuous integration , 简称 CI )指的是,频繁地(一天多次)将代码集成到主干

image-20210802000658790

持续集成的组成要素

  • 自动构建过程, 从检出代码、 编译构建、 运行测试、 结果记录、 测试统计等都是自动完成的, 无需人工干预。

  • 代码存储库,即需要版本控制软件来保障代码的可维护性,同时作为构建过程的素材库,一般使用SVN或Git。

  • 持续集成(CI)服务器, Jenkins 就是一个配置简单和使用方便的持续集成服务器。

Jenkins

Jenkins 是一款流行的开源持续集成(Continuous Integration)工具,广泛用于项目开发,具有自动化构建、测试和部署等功能。官网: http://jenkins-ci.org/。

Jenkins的特征:

  • 开源的 Java语言开发持续集成工具,支持持续集成,持续部署。
  • 易于安装部署配置:可通过 yum安装,或下载war包以及通过docker容器等快速实现安装部署,可方便web界面配置管理。
  • 消息通知及测试报告:集成 RSS/E-mail通过RSS发布构建结果或当构建完成时通过e-mail通知,生成JUnit/TestNG测试报告。
  • 分布式构建:支持 Jenkins能够让多台计算机一起构建/测试。
  • 文件识别: Jenkins能够跟踪哪次构建生成哪些jar,哪次构建使用哪个版本的jar等。
  • 丰富的插件支持:支持扩展插件,你可以开发适合自己团队使用的工具,如 git,svn,maven,docker等。

Jenkins安装和持续集成环境配置

image-20210802011607894

  1. 开发人员每天进行代码提交,提交到Git仓库。
  2. Jenkins作为持续集成工具,使用Git工具到Git仓库拉取代码到集成服务器,再配合JDK,Maven等软件完成代码编译、测试、审查、打包等工作,在这个过程中每一步出错,都重新再执行一次整个流程。
  3. Jenkins把生成的jar或war包分发到测试服务器或者生产服务器,测试人员或用户就可以访问应用。

1、Jenkins安装配置

  1. 采用YUM方式安装

加入jenkins安装源:

sudo wget -O /etc/yum.repos.d/jenkins.repo https://pkg.jenkins.io/redhat-stable/jenkins.repo --no-check-certificate

sudo rpm --import https://pkg.jenkins.io/redhat-stable/jenkins.io.key

执行yum命令安装:

yum -y install jenkins
  1. 采用RPM安装包方式

Jenkins安装包下载地址

wget https://pkg.jenkins.io/redhat-stable/jenkins-2.190.1-1.1.noarch.rpm

执行安装:

rpm -ivh jenkins-2.190.1-1.1.noarch.rpm
  1. 配置:

修改配置文件:

vi /etc/sysconfig/jenkins

修改内容:

# 修改为对应的目标用户, 这里使用的是root
$JENKINS_USER="root"
# 服务监听端口
JENKINS_PORT="16060"

目录权限:

chown -R root:root /var/lib/jenkins
chown -R root:root /var/cache/jenkins
chown -R root:root /var/log/jenkins

重启:

systemctl restart jenkins

如果启动失败, 出现错误信息:

Starting Jenkins bash: /usr/bin/java: No such file or directory

创建JAVA环境的软链接:

ln -s /usr/local/jdk/bin/java /usr/bin/java
  1. 管理后台初始化设置

http://192.168.200.100:16060/

需要输入管理密码, 在以下位置查看:

cat /var/lib/jenkins/secrets/initialAdminPassword

image-20210802011625800

按默认设置,把建议的插件都安装上。

安装完成之后, 创建管理员用户。

配置访问地址:

image-20210802011707013

配置完成之后, 会进行重启, 之后可以看到管理后台。

2、Jenkins插件安装

在实现持续集成之前, 需要确保以下插件安装成功。

  • Maven Integration plugin: Maven 集成管理插件。
  • Docker plugin: Docker集成插件。
  • GitLab Plugin: GitLab集成插件。
  • Publish Over SSH:远程文件发布插件。
  • SSH:远程脚本执行插件。

安装方法:

  1. 进入【系统管理】-【插件管理】

  2. 点击标签页的【可选插件】

在过滤框中搜索插件名称

image-20210802011740056

  1. 勾选插件, 点击直接安装即可。

注意,如果没有安装按钮,需要更改配置

在安装插件的高级配置中,修改升级站点的连接为:http://updates.jenkins.io/update-center.json 保存

image-20210802011758588

3、Git安装配置

1、yum 安装方式

yum -y install git

2、采用源码包方式安装

  • 安装依赖包
yum -y install curl-devel expat-devel gettext-devel openssl-devel zlib-devel
yum -y install gcc perl-ExtUtils-MakeMaker
  • 如果之前有安装旧版本, 先做卸载, 没有安装则忽略
yum remove git
  • 下载源码包
cd /usr/local
wget https://mirrors.edge.kernel.org/pub/software/scm/git/git-1.8.3.1.tar.gz
tar -xvf git-1.8.3.1.tar.gz

也可以安装其他版本, 地址:https://mirrors.edge.kernel.org/pub/software/scm/git/

  • 编译安装
cd git-1.8.3.1
make prefix=/usr/local/git all
make prefix=/usr/local/git install
echo "export PATH=$PATH:/usr/local/git/bin" >> /etc/bashrc
source /etc/bashrc

3、检查git版本

[root@localhost jenkins]# git version
git version 1.8.3.1

4、Maven安装配置

  1. 下载安装包

下载地址: https://maven.apache.org/download.cgi

  1. 解压安装包
cd /usr/local
unzip -o apache-maven-3.6.1.zip 

上传本地仓库repository_new并解压。

  1. 配置

环境变量配置

vi /etc/profile

增加:

export MAVEN_HOME=/usr/local/maven/apache-maven-3.6.1
export PATH=$PATH:$MAVEN_HOME/bin

如果权限不够,则需要增加当前目录的权限

chmod 777 /usr/local/maven/apache-maven-3.6.1/bin/mvn

修改镜像仓库配置:

vi /usr/local/maven/apache-maven-3.6.1/conf/settings.xml

需要把本机的仓库打包上传到服务器上(不上传会自动下载)

然后指定上传后的仓库配置:

<localRepository>/usr/local/maven/apache-maven-3.6.1/repository_new</localRepository>

5、Docker安装配置

  1. 更新软件包版本
yum -y update
  1. 卸载旧版本
yum -y remove docker  docker-common docker-selinux docker-engine
  1. 安装软件依赖包
yum install -y yum-utils device-mapper-persistent-data lvm2
  1. 设置yum源为阿里云
sudo yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
  1. 安装后查看docker版本
docker -v
  1. 启动

设置开机启动:

systemctl enable docker

启动docker

systemctl start docker

6、Docker Registry私有仓库安装配置

Jenkins工具配置

  1. 进入Manage Jenkins系统管理--> Global Tool Configuration全局工具配置

  2. MAVEN配置全局设置

  3. 指定JDK配置

先把Install automatically取消选中,自定义安装。

然后查找服务器JDK位置whereis jkd

别名:随便填;JAVA_HOME:填上面JDK的位置。

  1. 指定git配置

和上面的相同。

  1. 指定MAVEN目录

和上面的相同。

  1. 指定DOCKER目录

和上面的相同。

如果不清楚docker的安装的目录,可以使用whereis docker 命令查看docker的安装的目录。

后端项目部署

多环境切换

在项目开发部署的过程中,一般都会有三套项目环境

  • Development :开发环境

  • Production :生产环境

  • Test :测试环境

例如:开发环境的mysql连接的是本地,生产环境需要连接线上的mysql环境

多环境切换-微服务中多环境配置

1.在微服务中的bootstrap.yml中新增配置

server:
  port: 51801
spring:
  application:
    name: leadnews-user
  cloud:
    nacos:
      discovery:
        server-addr: 192.168.200.130:8848
      config:
        server-addr: 192.168.200.130:8848
        file-extension: yml
  profiles:
    active: dev

2.在nacos的配置中心中新增各个环境的配置文件,例如user微服务中新增

修改bootstrap.yml 添加内容

spring:
  profiles:
    active: dev

创建对应的nacos的多环境配置:

  • leadnews-user-dev.yml
  • leadnews-user-prod.yml

image-20210623143557710

注意事项:

其中DataID属性命名有规范:

  • prefix:默认使用${spring.application.name},也可以通过spring.cloud.nacos.config.prefix来配置。
  • spring.profile.active:即为当前环境对应的 profile,详情可以参考 Spring Boot文档。 注意:当 spring.profile.active 为空时,对应的连接符 - 也将不存在,dataId 的拼接格式变成 \({prefix}.\)
  • file-exetension:为配置内容的数据格式,可以通过配置项 spring.cloud.nacos.config.file-extension 来配置。目前只支持 properties 和 yaml 类型。

整体思路

目标:把黑马头条的app端相关的微服务部署到192.168.200.100这台服务器上

image-20210802003955971

注意事项

192.168.200.100与192.168.200.130必须使用NAT这个网卡,必须在同一个网段,才可以互相通信,可以使用ping命令来检查。

服务集成Docker配置

目标:部署的每一个微服务都是先创建docker镜像后创建对应容器启动。

方式一:本地微服务打包以后上传到服务器,编写Dockerfile文件完成。

方式二:使用dockerfile-maven-plugin插件,可以直接把微服务创建为镜像使用(更省事)

服务集成Docker配置

每个微服务都引入该依赖,以heima-leadnews-user微服务为例

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <parent>
        <artifactId>heima-leadnews-service</artifactId>
        <groupId>com.heima</groupId>
        <version>1.0-SNAPSHOT</version>
    </parent>
    <modelVersion>4.0.0</modelVersion>

    <artifactId>heima-leadnews-user</artifactId>

    <properties>
        <maven.compiler.source>8</maven.compiler.source>
        <maven.compiler.target>8</maven.compiler.target>
        <!-- 指定docker仓库-->
        <docker.image>docker_storage</docker.image>
    </properties>

    <build>
        <finalName>heima-leadnews-user</finalName>
        <plugins>
            <!-- spring-boot-maven-plugin:Spring Boot应用打包为可执行的jar或war文件-->
            <plugin>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-maven-plugin</artifactId>
                <executions>
                    <execution>
                        <goals>
                            <goal>repackage</goal>
                        </goals>
                    </execution>
                </executions>
            </plugin>

            <!-- maven-compiler-plugin:编译的插件-->
            <plugin>
                <groupId>org.apache.maven.plugins</groupId>
                <artifactId>maven-compiler-plugin</artifactId>
                <version>3.7.0</version>
                <configuration>
                    <source>${java.version}</source>
                    <target>${java.version}</target>
                </configuration>
            </plugin>

            <plugin>
                <groupId>com.spotify</groupId>
                <artifactId>dockerfile-maven-plugin</artifactId>
                <version>1.3.6</version>
                <configuration>
                    <!-- repository指定docker镜像的仓库名字-->
                    <repository>${docker.image}/${project.artifactId}</repository>
                    <!-- buildArgs可以指定一个或多个变量,传递给Dockerfile,在Dockerfile中通过ARG指令进行引用。-->
                    <buildArgs>
                        <JAR_FILE>target/${project.build.finalName}.jar</JAR_FILE>
                    </buildArgs>
                </configuration>
            </plugin>
        </plugins>
    </build>

</project>

服务集成Dockerfile文件

每一个微服务都相同,存放位置为:每个微服务的根目录

# 设置JAVA版本
FROM java:8
# 指定存储卷, 任何向/tmp写入的信息都不会记录到容器存储层
VOLUME /tmp
# 拷贝运行JAR包
ARG JAR_FILE
COPY ${JAR_FILE} app.jar
# 设置JVM运行参数, 这里限定下内存大小,减少开销
ENV JAVA_OPTS="\
-server \
-Xms256m \
-Xmx512m \
-XX:MetaspaceSize=256m \
-XX:MaxMetaspaceSize=512m"
#空参数,方便创建容器时传参
ENV PARAMS=""
# 入口点, 执行JAVA运行命令
ENTRYPOINT ["sh","-c","java -jar $JAVA_OPTS /app.jar $PARAMS"]

通过的maven的命令dockerfile:build可以把微服务打成镜像。

jenkins基础依赖打包配置

在微服务运行之前需要在本地仓库中先去install所依赖的jar包,所以第一步应该是从git中拉取代码,并且把基础的依赖部分安装到仓库中

1、父工程heima-leadnews

打开Jenkins-->左侧导航栏-->新建item

输入任务名称heima-leadnews,选择Freestyle project构建一个自由风格的软件项目。

2、源码管理

找到自己指定的git仓库,设置用户名和密码。

3、构建

选择Invoke top-level Maven targets调用顶层Maven目标。

  • Maven版本:maven
  • 目标:clean install -Dmaven.test.skip=true

把基础依赖信息安装到服务器上的本地仓库。

4、执行

执行日志包括以下:

  • 从git中拉取代码
  • 编译打包
  • 执行成功

jenkins微服务打包配置

所有微服务打包的方式类似,以heima-leadnews-user微服务为例

1、新建任务

打开Jenkins,点击左侧导航栏新建item

输入任务名称heima-leadnews-user,选择Freestyle project构建一个自由风格的软件项目。

2、源码管理

找到自己指定的git仓库,设置用户名和密码。

3、构建

执行maven命令

选择Invoke top-level Maven targets

  • Maven版本:选择maven。
  • 目标:clean install -Dmaven.test.skip=true dockerfile:build -f heima-leadnews/heima-leadnews-service/heima-leadnews-user/pom.xml

注意:根据自己的实际代码路径配置

-Dmaven.test.skip=true:跳过测试。

dockerfile:build:启动dockerfile插件构建容器。

-f heima-leadnews-user/pom.xml:指定需要构建的文件(必须是pom)。

4、执行shell脚本

选择增加构建步骤-->Excute shell

输入下面的指令:

if [ -n  "$(docker ps -a -f  name=$JOB_NAME  --format '{{.ID}}' )" ]
 then
 #删除之前的容器
 docker rm -f $(docker ps -a -f  name=$JOB_NAME  --format '{{.ID}}' )
fi
 # 清理镜像
docker image prune -f 
 # 启动docker服务
docker run -d --net=host -e PARAMS="--spring.profiles.active=prod"  --name $JOB_NAME docker_storage/$JOB_NAME

$JOB_NAME是配置的Jenkins项目的名称。

5、执行日志

  • 拉取代码
  • 编译打包
  • 构建镜像
  • 清理容器,创建新的容器

部署服务到远程服务器上

目标:使用jenkins(192.168.200.100)把微服务打包部署到192.168.200.130服务器上

image-20210802005538404

1、安装配置私有仓库

对于持续集成环境的配置,Jenkins会发布大量的微服务, 要与多台机器进行交互, 可以采用docker镜像的保存与导出功能结合SSH实现, 但这样交互繁琐,稳定性差, 而且不便管理, 这里我们通过搭建Docker的私有仓库来实现, 这个有点类似GIT仓库, 集中统一管理资源, 由客户端拉取或更新。

  1. 下载最新Registry镜像
docker pull registry:latest
  1. 启动Registry镜像服务
docker run -d -p 5000:5000 --name registry -v /usr/local/docker/registry:/var/lib/registry registry:latest

映射5000端口; -v是将Registry内的镜像数据卷与本地文件关联, 便于管理和维护Registry内的数据。

  1. 查看仓库资源

访问地址:http://192.168.200.100:5000/v2/_catalog

启动正常, 可以看到返回:

{"repositories":[]}

如果上传成功, 可以看到数据,目前并没有上传镜像, 显示空数据。

  1. 配置Docker客户端

正常生产环境中使用, 要配置HTTPS服务, 确保安全,内部开发或测试集成的局域网环境,可以采用简便的方式, 不做安全控制。

先确保持续集成环境的机器已安装好Docker客户端, 然后做以下修改:

vi /lib/systemd/system/docker.service

修改内容:

ExecStart=/usr/bin/dockerd --insecure-registry 192.168.200.100:5000

指向安装Registry的服务IP与端口。

重启生效:

systemctl daemon-reolad
systemctl restart docker.service

2、jenkins中安装插件

100服务器需要连200服务器,需要下面两个插件。

  • Publish Over SSH(文件发布插件)
  • SSH plugin(远程脚本执行)

Jenkins-->Manage Jenkins-->Manage Plugins插件管理。

3、jenkins系统配置远程服务器链接

位置:Manage Jenkins-->Configure System-->SSH remote hosts-->新增

image-20210802005937966

需要先添加凭证

位置:Manage Jenkins-->Manage CreDentials

添加链接到130服务器的用户名和密码

image-20210802010525665

image-20210802010429136

image-20210802010201146

4、jenkins项目创建与其他微服务相同

创建项目参考之前创建过的用户微服务

5、设置参数

image-20210802010650039

6、构建执行Execute shell

执行maven命令

选择Invoke top-level Maven targets

  • Maven版本:选择maven。
  • 目标:输入maven命令clean install -Dmaven.test.skip=true dockerfile:build -f heima-leadnews/heima-leadnews-service/heima-leadnews-article/pom.xml

选择增加构建步骤-->Execute shell输入下面的shell脚本命令:

image_tag=$docker_registry/docker_storage/$JOB_NAME
echo '================docker镜像清理================'
if [ -n  "$(docker ps -a -f  name=$JOB_NAME  --format '{{.ID}}' )" ]
 then
 #删除之前的容器
 docker rm -f $(docker ps -a -f  name=$JOB_NAME  --format '{{.ID}}' )
fi
 # 清理镜像
docker image prune -f 

# 创建TAG
docker tag docker_storage/$JOB_NAME $image_tag
echo '================docker镜像推送================'
# 推送镜像
docker push $image_tag
# 删除TAG
docker rmi $image_tag
echo '================docker tag 清理 ================'

7、在远程服务器上执行脚本

再次选择增加构建步骤-->Execute shell script on remote host using ssh输入下面的shell脚本命令:

远程服务器执行的shell脚本

echo '================拉取最新镜像================'
docker pull $docker_registry/docker_storage/$JOB_NAME

echo '================删除清理容器镜像================'
if [ -n  "$(docker ps -a -f  name=$JOB_NAME  --format '{{.ID}}' )" ]
 then
 #删除之前的容器
 docker rm -f $(docker ps -a -f  name=$JOB_NAME  --format '{{.ID}}' )
fi
 # 清理镜像
docker image prune -f 

echo '===============启动容器================'
docker run -d   --net=host -e PARAMS="--spring.profiles.active=prod" --name $JOB_NAME $docker_registry/docker_storage/$JOB_NAME

8、构建完成以后,可以登录130服务器,查看是否有相关的镜像和容器

查看镜像:docker images

查看容器:docker ps

联调测试

1.参考jenkins中heima-leadnews-user微服务把app端网关部署起来

2.修改本地nginx中的配置反向代理地址为100这台服务器:heima-leadnews-app.conf

upstream  heima-app-gateway{
    server 192.168.200.100:51601;
}

3.启动nginx,打开页面进行测试

jenkins触发器配置

1、URL触发远程构建

修改jenkins中某一个服务的配置-->构建触发器-->选择触发远程构建-->输入身份验证令牌(例如88888888)

触发构建url: http://192.168.200.100:16060/job/leadnews-admin/build?token=88888888

2、其他工程构建后触发

配置需要触发的工程

修改jenkins中某一个服务的配置-->构建触发器-->选择Build after other projects are built-->输入关注的项目(已经存在的jenkins的item)。

适用于:项目之间有依赖顺序。

3、定时构建

定时构建( Build periodically)

修改jenkins中某一个服务的配置-->构建触发器-->选择Build periodically-->日程表中输入定时表达式

定时构建-定时表达式

定时字符串从左往右分别为: 分 时 日 月 周

组成部分 含义 取值范围
第一部分 minute (分) 0~59
第二部分 hour(小时) 0~23
第三部分 day(天) 1~31
第四部分 month(月) 1~12
第五部分 week(周) 0~7,0 和 7 都是表示星期天
  • 符号H 表示一个随机数

  • 符号* 取值范围的任意值

案例:

  • 每30分钟构建一次:H/30 * * * * 10:02 10:32
  • 每2个小时构建一次: H H/2 * * *
  • 每天的8点,12点,22点,一天构建3次: (多个时间点中间用逗号隔开) 0 8,12,22 * * *
  • 每天下午18点定时构建一次 H 18 * * *

4、轮询构建

轮询 SCM(Poll SCM)

修改jenkins中某一个服务的配置-->构建触发器-->选择Poll SCM-->日程表中输入表达式(表达式类似定时构建)。

轮询SCM,是指定时扫描本地代码仓库的代码是否有变更,如果代码有变更就触发项目构建。

Jenkins会定时扫描本地整个项目的代码,增大系统的开销,不建议使用。