jenkins详解和分布式配置管理平台 Disconf

た 入场券 2022-05-14 14:13 434阅读 0赞
  1. jenkins详解:https://blog.csdn.net/qq_26848099/article/details/78901240

一、相关概念
1.1 Jenkins概念:
Jenkins是一个功能强大的应用程序,允许持续集成和持续交付项目,无论用的是什么平台。这是一个免费的源代码,可以处理任何类型的构建或持续集成。集成Jenkins可以用于一些测试和部署技术。Jenkins是一种软件允许持续集成。

1.2 Jenkins目的:
1、持续、自动地构建/测试软件项目。
2、监控软件开放流程,快速问题定位及处理,提示开放效率。

1.3 特性:
开源的java语言开发持续集成工具,支持CI,CD。
易于安装部署配置:可通过yum安装,或下载war包以及通过docker容器等快速实现安装部署,可方便web界面配置管理。
消息通知及测试报告:集成RSS/E-mail通过RSS发布构建结果或当构建完成时通过e-mail通知,生成JUnit/TestNG测试报告。
分布式构建:支持Jenkins能够让多台计算机一起构建/测试。
文件识别:Jenkins能够跟踪哪次构建生成哪些jar,哪次构建使用哪个版本的jar等。
丰富的插件支持:支持扩展插件,你可以开发适合自己团队使用的工具,如git,svn,maven,docker等。

1.4 产品发布流程:
产品设计成型 -> 开发人员开发代码 -> 测试人员测试功能 -> 运维人员发布上线
持续集成 (Continuous integration,简称CI)
持续交付(Continuous delivery)
持续部署(continuous deployment)

二、安装部署
2.1 yum安装
最低配置: 不少于256M内存,不低于1G磁盘,jdk版本>=8
安装jdk1.8

yum install -y java-1.8.0-openjdk && \
wget -O /etc/yum.repos.d/jenkins.repo https://pkg.jenkins.io/redhat/jenkins.repo && \
rpm —import https://pkg.jenkins.io/redhat/jenkins.io.key &&\
yum clean all && yum makecache && \
yum install -y jenkins && \
systemctl start jenkins
1
2
3
4
5
6
less /var/log/jenkins/jenkins.log //查询admin密码
访问 http://ip:8080/ 进行安装
jenkins相关目录:
rpm -ql jenkins #查看jenkins安装相关目录
安装目录/var/lib/jenkins
配置文件 /etc/sysconfig/jenkins
日志目录 /var/log/jenkins

2.2 下载war包安装
yum install -y java-1.8.0-openjdk && mkdir -p /usr/local/jenkins/ && \
wget -c -O /usr/local/jenkins/jenkins.war http://mirrors.jenkins.io/war-stable/latest/jenkins.war &&\
nohup java -jar /usr/local/jenkins/jenkins.war &
1
2
3
密码查看:/root/.jenkins/secrets/initialAdminPassword
访问 http://ip:8080/ 进行安装

2.3 docker形式安装
yum install docker -y && systemctl start docker && \
curl -sSL https://get.daocloud.io/daotools/set\_mirror.sh | sh -s && systemctl restart docker
docker search jenkins
docker pull docker.io/jenkins
docker run -d -p 8080:8080 docker.io/jenkins
1
2
3
4
5
docker exec -it 52873fa3dce4 /bin/bash
cat /var/jenkins_home/secrets #查看密码
访问 http://ip:8080/ 进行安装

2.4 相关工具安装
工具安装可在jenkins的web界面系统管理—管理插件—可选插件勾选需要的,也可以手动安装。

a.git安装
yum install curl-devel expat-devel gettext-devel openssl-devel zlib-devel gcc-c++ perl-ExtUtils-MakeMaker wget autoconf -y
wget https://www.kernel.org/pub/software/scm/git/git-2.7.3.tar.gz
tar xf git-2.7.3.tar.gz
cd git-2.7.3
make configure
./configure —prefix=/usr/local/git
make profix=/usr/local/git
make install
echo “export PATH=$PATH:/usr/local/git/bin” > /etc/profile.d/git.sh
source /etc/profile.d/git.sh
1
2
3
4
5
6
7
8
9
10
b.maven安装
cd /usr/local/ && wget -c wget http://mirror.bit.edu.cn/apache/maven/maven-3/3.5.2/binaries/apache-maven-3.5.2-bin.tar.gz &&\
tar -zxf apache-maven-3.5.2-bin.tar.gz && \
echo “export PATH=$PATH:/usr/local/apache-maven-3.5.2/bin” > /etc/profile.d/maven.sh && \
source /etc/profile.d/maven.sh
1
2
3
4
mvn –version 查看版本

c.svn安装
yum install subversion -y
mkdir /svnrepo
svnadmin create /svnrepo/project1 #创建一个新的Subversion项目
1
2
3

启动项目1:svnserve -d -r /svnrepo/project1/
启动整个项目:svnserve -d -r /svnrepo/

d.jdk安装
某些情况下会遇到openjdk无法编译java程序,或在编译中存在异常,需要我们手动安装jdk,首先去Oracle官网下载对应版本的jdk

tar -zxvf jdk-8u121-linux-x64.gz -C /usr/local && \
ln -sv /usr/local/jdk1.8.0_121 /usr/local/jdk1.8 && \
echo “export PATH=$PATH:/usr/local/jdk1.8/bin” >/etc/profile.d/java.sh
source /etc/profile.d/java.sh
1
2
3
4
三、WEB界面配置
3.1 密码破解

cd /var/lib/jenkins/users/admin #此为admin用户的目录,也可以对应自己创建的用户
vim config.xml //定位到那一行
删除改行,改为

#jbcrypt:$2a$10$pDQks0ytOkCfmpdgpLygrOC3uY7i/XnZHBKRQDhrBPwKoN2f5Kz8C

重启一下jenkins
新密码为admin

3.2 maven配置
针对之前手动安装的maven需要在web界面配置进行结合。
系统管理—全局工具配置(Maven Configuration)配置:

此处为手动安装的maven,需要取消自动安装maven,name可以自定义,MAVEN_HOME指定下载安装的maven具体文件目录

3.3 GIT配置
手动安装的git,web界面只需添加具体可执行路径即可

3.4 jdk配置
对应手动安装的jdk,需要web配置java_home路径

3.5 邮件配置
jenkins有内置的邮件功能但由于其对于成功的发布不会发送邮件可定制化程度低,在此直接配置插件邮件(Editable Email Notification),2.32以上版本的jenkins,常用的插件都已经在最初部署的时候安装了(如果你当初选择的是suggest的plugins)。
可以使用qq邮件服务器或163等其他邮件服务器,在此配置使用163邮箱,首先需要开启163邮箱的smtp服务。

需要记录此处开启smtp时的密码。
在jenkins 系统管理—系统设置—Extended E-mail Notification

在默认的触发器 Default Triggers 标签下,可以勾选邮件通知触发的情况,如任何情况下均需要选择always,也可以在仅失败情况下发送,也可以对应的邮件接受人不通,进行邮件分类。
以下的内容,如邮件主题,内容均可自定义,可以参考url:
至此全局插件邮件已经配置完毕,需要在具体的项目中使用此邮件进行发送通知。

四、实战php程序自动发布
4.1 插件安装
系统管理—管理插件—已安装
检查是否有“Git plugin”和“Publish Over SSH”两个插件,如果没有,则需点击“可选插件”,找到它并安装
安装好两个插件后,点击“系统管理”– “系统设置”

4.2 SSH配置
系统管理—系统设置—Publish over SSH
在key内填写jenkins服务器的私钥,如果没有需要先在jenkins服务器生成私钥与公钥。ssh-keygen -t rsa回车后会在登录用户的家目录下生成一个.ssh 的目录,此目录下存在id_rsa私钥与id_rsa.pub公钥。且讲公钥发布至代码发布的目标服务器上ssh-copy-id -i /root/.ssh/id_rsa.pub root@IP。

SSH Server配置
name:需要将php程序发布到目标服务器的名称,可自定义
Hostname:填写目录服务器的IP地址
Username:使用那个用户进行发布,此处为进行密钥互信的用户
Remote Directory:此出为发布到目标服务器的相对根路径,建议填写/,防止后续填写路径异常。

注:如果为多台目标服务器,可以继续添加,如果目标服务器存在代理,也可设置proxy

4.3 构建项目
新建Item—填入项目名称—选择构建一个自由风格的软件项目—确定
源码管理选择git
Repository URL 填写具体git上的仓库url,如果为私有,需要继续添加Credentials,如果为公有直接填写url即可,Credentials为none,

构建后够操作
选择(Send files or execute commands over SSH)
SSH Server选择目标服务器如:php-server
Source files:/ #将git拉去下来的原始文件
Remote directory:/var/www/html #发布到目标服务器的制定目录
Exec command:chown apache:apache -R /var/www/html/* #制定后续的操作

此时可以选择Editable Email Notification来构建邮件通知。
在此处,之前的邮件主题,内容均可以自定义,在高级里面,选择邮件接受人。

点击保存,并立即构建,可以点击console output查看日志

此时打开php程序发现程序文件已经成功发布到目标服务器上

此时可以查看邮件也已经发送成功。

-——————————
作者:KaliArch
来源:CSDN
原文:https://blog.csdn.net/qq\_26848099/article/details/78901240
版权声明:本文为博主原创文章,转载请附上博文链接!

  1. 分布式配置管理平台 Disconf : https://www.oschina.net/p/disconf

Disconf 详细介绍

Distributed Configuration Management Platform(分布式配置管理平台)

专注于各种 分布式系统配置管理 的通用组件/通用平台, 提供统一的配置管理服务。

687474703a2f2f7777332e73696e61696d672e636e2f6d77313032342f36306339363230666a77316573766a7a6e7931726d6a3230616a3036317439612e6a7067

包括 百度滴滴打车银联网易拉勾网 等知名互联网公司正在使用!

「disconf」在「2015 年度新增开源软件排名 TOP 100(OSC开源中国提供)」中排名第16强。

主要目标:

  • 部署极其简单:同一个上线包,无须改动配置,即可在 多个环境中(RD/QA/PRODUCTION) 上线
  • 部署动态化:更改配置,无需重新打包或重启,即可 实时生效
  • 统一管理:提供web平台,统一管理 多个环境(RD/QA/PRODUCTION)、多个产品 的所有配置
  • 支持微服务架构

demos

https://github.com/knightliao/disconf-demos-java

项目信息

  • CLIENT 端:

    • Java: 目前唯一支持语言
    • python:打算支持
    • PHP:暂未支持
  • WEB 管理端:

    • Java SpringMvc 实现,前后端分离 实现方式(基于Spring 4.1.7.RELEASE)

java client

disconf.git branches and Maven version:

  • dev(develop branch): 2.6.31-SNAPSHOT
  • master(stable branch):2.6.31
  • 更新日志
  • 在Maven Central Repository里查看 com.baidu.disconf

Java Client Elegant Usage Preview

  • 注解式分布式配置使用方式
  • XML配置式分布式配置方式

当前版本功能特点

  • 支持配置(配置项+配置文件)的分布式化管理
  • 配置发布统一化
  • 极简的使用方式(注解式编程 或 XML无代码侵入模式)
  • 低侵入性或无侵入性、强兼容性

未来版本(完全版)功能特点

Disconf的功能特点描述图:

687474703a2f2f7777342e73696e61696d672e636e2f626d6964646c652f36306339363230666a77316573766b716d757064666a323066703038756468372e6a7067

查看大图

重要功能特点

  • 支持配置(配置项+配置文件)的分布式化管理
  • 配置发布统一化

    • 配置发布、更新统一化:

      • 同一个上线包 无须改动配置 即可在 多个环境中(RD/QA/PRODUCTION) 上线
      • 配置存储在云端系统,用户统一管理 多个环境(RD/QA/PRODUCTION)、多个平台 的所有配置
    • 配置更新自动化:用户在平台更新配置,使用该配置的系统会自动发现该情况,并应用新配置。特殊地,如果用户为此配置定义了回调函数类,则此函数类会被自动调用。
  • 配置异构系统管理

    • 异构包部署统一化:这里的异构系统是指一个系统部署多个实例时,由于配置不同,从而需要多个部署包(jar或war)的情况(下同)。使用Disconf后,异构系统的部署只需要一个部署包,不同实例的配置会自动分配。特别地,在业界大量使用部署虚拟化(如JPAAS系统,SAE,BAE)的情况下,同一个系统使用同一个部署包的情景会越来越多,Disconf可以很自然地与他天然契合。
    • 异构主备自动切换:如果一个异构系统存在主备机,主机发生挂机时,备机可以自动获取主机配置从而变成主机。
    • 异构主备机Context共享工具:异构系统下,主备机切换时可能需要共享Context。可以使用Context共享工具来共享主备的Context。
  • 极简的使用方式(注解式编程 或 XML无代码侵入模式):我们追求的是极简的、用户编程体验良好的编程方式。目前支持两种开发模式:基于XML配置或者基于注解,即可完成复杂的配置分布式化。

注:配置项是指某个类里的某个Field字段。

其它功能特点

  • 低侵入性或无侵入性、强兼容性:

    • 低侵入性:通过极少的注解式代码撰写,即可实现分布式配置。
    • 无侵入性:通过XML简单配置,即可实现分布式配置。
    • 强兼容性:为程序添加了分布式配置注解后,开启Disconf则使用分布式配置;若关闭Disconf则使用本地配置;若开启Disconf后disconf-web不能正常Work,则Disconf使用本地配置。
  • 支持配置项多个项目共享,支持批量处理项目配置。
  • 配置监控:平台提供自校验功能(进一步提高稳定性),可以定时校验应用系统的配置是否正确。

模块架构图

687474703a2f2f7777322e73696e61696d672e636e2f626d6964646c652f36306339363230666a77316573766b3336367a36666a32306e6830666a7462752e6a7067

查看大图

模块信息

  • CLIENT: client目标是支持多语言。目前只提供了java语言客户端。

    • JAVA

      • disconf-core: 分布式配置基础包模块
      • disconf-client: 分布式配置客户端模块, 依赖disconf-core包。 用户程序使用它作为Jar包进行分布式配置编程。
      • disconf-tool: 分布式配置工具包,依赖disconf-core包。 Disconf-tool是disconf的辅助工具类, 目前使用不多,建议不使用。
  • 管理端:disconf-web是统一的分布式配置管理平台。disconf-web: 分布式配置平台服务模块, 依赖disconf-core包。采用SpringMvc+纯HTML方式(前后端分离架构)实现。用户使用它来进行日常的分布式配置管理。

用户指南

clint

java client: disconf-client 使用

在您的 Maven POM 文件里加入:

  1. <dependency>
  2. <groupId>com.baidu.disconf</groupId>
  3. <artifactId>disconf-client</artifactId>
  4. <version>2.6.31</version>
  5. </dependency>

server: disconf-web 使用

部署方法请参见:https://github.com/knightliao/disconf/tree/master/disconf-web

全新主页,高清大图:

APP+环境+版本+ZK查询:

http://ww1.sinaimg.cn/mw1024/60c9620fgw1emyww39wjmj20qw0keq6m.jpg

java client Tutorials

总体概述

  • TutorialSummary 功能总体概述
  • 文章介绍:分布式配置管理平台Disconf

基于注解式的分布式配置(支持配置文件和配置项)

推荐新建的项目使用disconf时使用

  • Tutorial 1 注解式分布式的配置文件
  • Tutorial 2 注解式分布式的配置文件高级篇: 配置更新的通知
  • Tutorial 3 注解式分布式的配置项
  • Tutorial 4 注解式分布式静态配置文件和静态配置项

注:将配置文件移至一个专有类里,而不是分散在项目的各个地方,整个代码架构清晰易懂、易管理。 即便如果哪天不使用disconf,也只需要将注解去掉即可。

基于XML的分布式配置(无代码侵入)(仅支持配置文件)

推荐旧项目使用disconf时使用

  • Tutorial 8 基于XML的分布式配置文件管理,自动reload
  • Tutorial 5 基于XML的分布式配置文件管理,不会自动reload,对于那些比较重的资源如jdbc等,特别有用

demos

https://github.com/knightliao/disconf-demos-java

其它

  • Tutorial 6 disconf-web 功能详解
  • Tutorial 7 可自定义的部分托管的分布式配置
  • Tutorial disconf与dubbo的集成 demo
  • Tutorial 9 实现真正意义上的统一上线包
  • Tutorial 10 实现一个配置更新下载器agent
  • 配置说明
  • 异常考虑
  • 局限性和注意事项
  • 注意事项
  • Zookeeper异常考虑

详细设计和讨论

  • disconf-client详细设计文档
  • disconf-web详细设计文档
  • 细节讨论

大家都在使用disconf

  • [百度](20+条产品线使用)
  • 滴滴打车
  • [银联]
  • 网易
  • 润生活 (千万融资,全线产品使用)
  • 拉勾网
  • 人脉通 (目前已B轮融资,4条产品线使用)
  • 普联(Tp-link)技术有限公司
  • 杭州数梦工场科技有限公司
  • 众钱网
  • 快速递
  • 杭州同盾科技
  • 杭州趣维科技 (数千万RMB A轮投资)
  • 百世物流科技 (在全国建立了400多个运作中心和250万平米的仓库及转运中心,拥有30000多员工和上万个认证加盟商及合作伙伴)
  • 仙人掌股票(2015年度最火app,所有产品线已全面接入disconf)
  • 更多
  • 他人评价

    快速递技术总监:

    http://ww1.sinaimg.cn/bmiddle/60c9620fjw1ergy58j978j20i302u0t2.jpg

    润生活总监:

    http://ww4.sinaimg.cn/bmiddle/60c9620fjw1est6ptf2dlj20ab01udfy.jpg

    人脉通后端RD:

    http://ww4.sinaimg.cn/bmiddle/60c9620fjw1est6pzqo68j208k05tjrm.jpg

    开源中国社区:

    「disconf」在「2015 年度新增开源软件排名 TOP 100(OSC开源中国提供)」中排名第16强。

    群·联系·讨论

  • disconf技术QQ群: 239203866
  • 媒体报道与网友教程
  • 关于我

  • pfrock: A plugin-based server for running fake HTTP and socket services (especially SOA service) using Python.
  • 搜索引擎推荐:sov5搜索引擎, 支持谷歌网页搜索和电影搜索
  • python论坛推荐:Django中国社区
  • 我的微信:knightliao
  • 我的简历
  • 联系与赞助作者 捐助者会留名
  • knightliao / disconf

    Watch628 Star4253 Fork2010

    Distributed Configuration Management Platform(分布式配置管理平台) — More…

    http://disconf.readthedocs.io/
































    Issues
    #394 不再维护了吗? by xiepeikuan  2018-10-23
    #376 zookeeper在disconf中起什么作用?监控还是存储配置文件、配置项? by xryg2276287715  2018-10-15
    #392 spring boot 2.0.2使用非注解式自动reload方式会报错 by zeling1005  2018-10-12
    #366 托管logback.xml文件 by xuziw  2018-10-10
    #397 我开发了disconf自动生成客户端代码的maven插件, 能合并进来么 by felton321  2018-09-05

    master分支代码最近更新:2018-07-26

发表评论

表情:
评论列表 (有 0 条评论,434人围观)

还没有评论,来说两句吧...

相关阅读