Azkaban3.81.x部署过程及遇到的坑

 azkaban是什么？

azkaban是由linkedin公司推出的一个批量工作流任务调度器，主要用于在一个工作流内以一个特定的顺序运行一组工作和流程，它的配置是通过简单的key:value对的方式，通过配置中的dependencies 来设置依赖关系，这个依赖关系必须是无环的，否则会被视为无效的工作流。azkaban使用job配置文件建立任务之间的依赖关系，并提供一个易于使用的web用户界面维护和跟踪你的工作流。

一、前提安装

1.1 java1.8环境搭建

　　1) 下载jdk1.8并解压：

# tar -zxvf jdk-8u201-linux-i586.tar.gz -c /usr/local

2) 添加java环境变量，在/etc/profile中添加：

export java_home=/usr/local/jdk1.8.0_201 
export path=$path:$java_home/bin
export jre_home=$java_home/jre
export classpath=.:$java_home/lib:$jre_home/lib

　　3) 保存后刷新环境变量：

# source /etc/profile

　　4) 检查java是否配置成功，成功配置会有如下图所示。

# java -version

1.2 mysql安装

　　ubuntu可以参考我的mysql安装。

1.3 git安装

# sudo apt-get install git

1.4 下载azkaban

　　从github选取版本下载azkaban：

　　在这里我选取了azkaban-3.18.4版本：

# wget

　　解压：

# tar -zxvf azkaban-3.84.4.tar.gz -c /mnt/adddisk1/bigdata/
# cd /mnt/adddisk1/bigdata/azkaban-3.84.4

1.5 编译

　　执行gradlew编译命令，跳过测试：

# ./gradlew disttar -x test

　　它会一下编译，直到编译成功，运行之后会生成5个压缩包，分别放在在azkaban-*/build/distributions/目录下：

azkaban-db-3.47.0-10-gdd67b02.tar.gz
azkaban-exec-server-3.47.0-10-gdd67b02.tar.gz
azkaban-hadoop-security-plugin-3.47.0-10-gdd67b02.tar.gz
azkaban-solo-server-3.47.0-10-gdd67b02.tar.gz
azkaban-web-server-3.47.0-10-gdd67b02.tar.gz 

　　接着把五个包分别解压在另外的目录下(/mnt/adddisk1/bigdata/azkaban)，并重命名：

cd /mnt/adddisk1/bigdata
tar -zxvf ./azkaban-3.81.4/azkaban-db/build/distributions/azkaban-db-0.1.0-snapshot.tar.gz -c ./azkaban/
tar -zxvf ./azkaban-3.81.4/azkaban-exec-server/build/distributions/azkaban-exec-server-0.1.0-snapshot.tar.gz -c ./azkaban/
tar -zxvf ./azkaban-3.81.4/azkaban-hadoop-security-plugin/build/distributions/azkaban-hadoop-security-plugin-0.1.0-snapshot.tar.gz -c ./azkaban/
tar -zxvf ./azkaban-3.81.4/azkaban-solo-server/build/distributions/azkaban-solo-server-0.1.0-snapshot.tar.gz -c ./azkaban/
tar -zxvf ./azkaaban-3.81.4/azkaban-web-server/build/distributions/azkaban-web-server-0.1.0-snapshot.tar.gz -c ./azkaban/
mv azkaban-solo-server-0.1.0-snapshot/ azkaban-solo-server
mv azkaban-exec-server-0.1.0-snapshot/ azkaban-exec-server
mv azkaban-web-server-0.1.0-snapshot/ azkaban-web-server
mv azkaban-db-0.1.0-snapshot/ azkaban-db
mv azkaban-hadoop-security-plugin-0.1.0-snapshot/ azkaban-hadoop-security-plugin

二、azkaban部署

2.1在mysql中创建azkaban数据库：

create database azkaban;
grant all privileges on azkaban.* to azkaban@'%' identified by 'azkaban';
flush privileges;
use azkaban;
# 将azkaban sql表结构导入mysql
source /mnt/adddisk1/bigdata/azkaban/azkaban-db/create-all-sql-0.1.0-snapshot.sql

2.2 创建ssl配置：

# keytool -keystore keystore -alias jetty -genkey -keyalg rsa
运行此命令后,会提示输入当前生成 keystor的密码及相应信息,输入的密码请劳记,信息如下:

输入keystore密码： 
再次输入新密码:
您的名字与姓氏是什么？
 [unknown]： 
您的组织单位名称是什么？
 [unknown]： 
您的组织名称是什么？
 [unknown]： 
您所在的城市或区域名称是什么？
 [unknown]： 
您所在的州或省份名称是什么？
 [unknown]： 
该单位的两字母国家代码是什么
 [unknown]： cn
cn=unknown, ou=unknown, o=unknown, l=unknown, st=unknown, c=cn 正确吗？
 [否]： y
密码在此我输入的是hadoop
输入<jetty>的主密码
 （如果和 keystore 密码相同，按回车）： 
再次输入新密码:

　　完成上述工作后,将在当前目录生成 keystore 证书文件,将keystore 考贝到 azkaban web服务器根目:

# sudo mv keystore azkaban/azkaban-web-server

2.3部署 azkaban-web-server

# cd ./azkaban
# sudo cp -r ./azkaban-solo-server/conf/ ./azkaban-web-server/
# cd ./azkaban-web-server/conf

　　配置azkaban.properties:

# 默认时区,已改为亚洲/上海 默认为美国
default.timezone.id=asia/shanghai
database.type=mysql #数据库类型
# h2.path=./h2
# h2.create.tables=true
mysql.port=3306 #端口号
mysql.host=localhost #数据库连接ip
mysql.database=azkaban #数据库实例名
mysql.user=root #数据库用户名
mysql.password=root #数据库密码

jetty.use.ssl=true
jetty.maxthreads=25 #最大线程数
jetty.ssl.port=8443 #jetty ssl端口
jetty.port=8081 #jetty端口
jetty.keystore=keystore #ssl文件名
jetty.password=hadoop #ssl文件密码
jetty.keypassword=hadoop #jetty主密码 与 keystore文件相同
jetty.truststore=keystore #ssl文件名
jetty.trustpassword=hadoop # ssl文件密码

# 执行服务器属性
executor.port=12321 #执行服务器端口

# 邮件设置 可不设计
mail.sender=[e-mail] #发送邮箱
mail.host=smtp.163.com #发送邮箱smtp地址
mail.user=xxxxxxxx #发送邮件时显示的名称
mail.password=********** #邮箱密码
job.failure.email=[e-mail] #任务失败时发送邮件的地址
job.success.email=[e-mail] #任务成功时发送邮件的地址
lockdown.create.projects=false #
cache.directory=cache #缓存目录

　　配置log4j.properties（默认就可以了，如有其他需求可修改）:

log4j.rootlogger=info, console
log4j.logger.azkaban=info, server
log4j.appender.server=org.apache.log4j.rollingfileappender
log4j.appender.server.layout=org.apache.log4j.patternlayout
log4j.appender.server.file=logs/azkaban-webserver.log
log4j.appender.server.layout.conversionpattern=%d{yyyy/mm/dd hh:mm:ss.sss z} %p [%c{1}] [azkaban] %m%n
log4j.appender.server.maxfilesize=102400mb
log4j.appender.server.maxbackupindex=2
log4j.appender.console=org.apache.log4j.consoleappender
log4j.appender.console.layout=org.apache.log4j.patternlayout
log4j.appender.console.layout.conversionpattern=%d{yyyy/mm/dd hh:mm:ss.sss z} %p [%c{1}] [azkaban] %m%n

　　添加管理员用户:

# sudo vim azkaban-users.xml

<azkaban-users>
 <user groups="azkaban" password="azkaban" roles="admin" username="azkaban"/>
 <user password="metrics" roles="metrics" username="metrics"/>
 <user username="admin" password="admin" roles="admin,metrics" />
 <role name="admin" permissions="admin"/>
 <role name="metrics" permissions="metrics"/>
</azkaban-users>

2.4部署 azkaban-exec-server

# cd /mnt/adddisk1/bigdata/azkaban
# sudo cp -r ./azkaban-solo-server/conf/ ./azkaban-exec-server/
# cd ./azkaban-exec-server/conf

　　配置azkaban.properties：

# sudo vim azkaban.properties

#azkaban
default.timezone.id=asia/shanghai #时区

# azkaban jobtypes 插件配置
azkaban.jobtype.plugin.dir=plugins/jobtypes #jobtype 插件所在位置

#loader for projects
executor.global.properties=conf/global.properties
azkaban.project.dir=projects

#数据库设置
database.type=mysql #数据库类型(目前只支持mysql)
mysql.port=3306 #数据库端口号
mysql.host=localhost #数据库ip地址
mysql.database=azkaban #数据库实例名
mysql.user=azkaba #数据库用户名
mysql.password=azkaba #数据库密码
mysql.numconnections=100 #最大连接数

# 执行服务器配置
executor.maxthreads=50 #最大线程数
executor.port=12321 #端口号(如修改,请与web服务中一致)
executor.flow.threads=30 #线程数

　　在azkaban-exec-server和azkaban-web-server安装目录下创建extlib目录，将lib目录下的mysql-connector-java-5.1.28.jar包拷备这extlib目录：

# cd /mnt/adddisk1/bigdata/azkaban
# sudo cp ./azkaban-web-server/lib/mysql-connector-java-5.1.28.jar ./azkaban-web-server/extlib/
# sudo cp ./azkaban-exec-server/lib/mysql-connector-java-5.1.28.jar ./azkaban-exec-server/extlib/

2.5启动web-server和exec-server

# ./azkaban-exec-server/bin/start-exec.sh
# ./azkaban-web-server/bin/start-web.sh

2.6访问打开azkaban的web页面

2.7 测试

三、遇到的问题

3.1、 找到guava-*.jar包版本过低，但在/lib/下的是0.21版本，不低了，根据排除可知找到系统中版本过低的而使用。

2019/12/20 14:25:34.573 +0800 error [stdouterrredirect] [azkaban] exception in thread "main"
2019/12/20 14:25:34.574 +0800 error [stdouterrredirect] [azkaban] java.lang.nosuchmethoderror: com.google.common.collect.immutablemap.toimmutablemap(ljava/util/function/function;ljava/util/function/function;)ljava/util/stream/collector;
2019/12/20 14:25:34.574 +0800 error [stdouterrredirect] [azkaban] at azkaban.executor.status.<clinit>(status.java:40)
2019/12/20 14:25:34.575 +0800 error [stdouterrredirect] [azkaban] at azkaban.executor.fetchactiveflowdao$fetchactiveexecutableflows.<clinit>(fetchactiveflowdao.java:177)
2019/12/20 14:25:34.575 +0800 error [stdouterrredirect] [azkaban] at azkaban.executor.fetchactiveflowdao.fetchactiveflows(fetchactiveflowdao.java:148)
2019/12/20 14:25:34.575 +0800 error [stdouterrredirect] [azkaban] at azkaban.executor.jdbcexecutorloader.fetchactiveflows(jdbcexecutorloader.java:102)
2019/12/20 14:25:34.575 +0800 error [stdouterrredirect] [azkaban] at azkaban.executor.executormanager.loadrunningexecutions(executormanager.java:384)
2019/12/20 14:25:34.576 +0800 error [stdouterrredirect] [azkaban] at azkaban.executor.executormanager.initialize(executormanager.java:136)
2019/12/20 14:25:34.576 +0800 error [stdouterrredirect] [azkaban] at azkaban.executor.executormanager.start(executormanager.java:149)
2019/12/20 14:25:34.576 +0800 error [stdouterrredirect] [azkaban] at azkaban.webapp.azkabanwebserver.launch(azkabanwebserver.java:231)
2019/12/20 14:25:34.576 +0800 error [stdouterrredirect] [azkaban] at azkaban.webapp.azkabanwebserver.main(azkabanwebserver.java:224)

解决方案：

# vim /mnt/adddisk1/bigdata/azkaban/azkaban-web-server/bin/internal/internal-start-web.sh

将如下：
for file in $azkaban_dir/lib/*.jar;
do
 classpath=$classpath:$file
done

改为：
for file in $azkaban_dir/lib/*.jar;
do
 classpath=$file:$classpath
done

# vim /mnt/adddisk1/bigdata/azkaban/azkaban-exec-server/bin/internal/internal-start-executor.sh

将如下：
for file in $azkaban_dir/lib/*.jar;
do
 classpath=$classpath:$file
done

改为：
for file in $azkaban_dir/lib/*.jar;
do
 classpath=$file:$classpath
done

3.2解决executor非active的问题

解决方案：

1）

# cd ./azkaban/azkaban-exec-server/
# curl -g "localhost:$(<./executor.port)/executor?action=activate" && echo

2）也可以通过在mysql中修改：

到此这篇关于azkaban3.81.x部署过程及遇到的坑的文章就介绍到这了,更多相关azkaban3.81.x部署内容请搜索以前的文章或继续浏览下面的相关文章希望大家以后多多支持！