Azkaban安装及配置

  • Post author:
  • Post category:其他



目录


一: Azkaban概论


1.1 为什么需要工作流调度系统


1.2 常见工作流调度系统


1.3 Azkaban与Oozie对比


二:Azkaban入门


2.1 集群模式安装


2.1.1 上传tar包


2.1.2 配置MySQL


2.1.3 配置Executor Server


2.1.4 配置Web Server


前言:

首先,前面的数据搭建(ODS层到ADS层)已经搭建完成,并且可以用脚本来装载首日和每日的数据,因为这些脚本之间有一定的实现顺序,这时候,我们需要使用全流程调度,来调用这些脚本。

一:

A


zkaban概论


1


.1


为什么需要工作流调度系统

1)一个完整的数据分析系统通常都是由大量任务单元组成:

Shell脚本程序,Java程序,MapReduce程序、Hive脚本等

2)各任务单元之间存在时间先后及前后依赖关系

3)为了很好地组织起这样的复杂执行计划,需要一个工作流调度系统来调度执行;


1


.2


常见工作流调度系统

1)简单的任务调度:直接使用Linux的Crontab来定义;

2)复杂的任务调度:开发调度平台或使用现成的开源调度系统,比如Ooize、Azkaban、 Airflow、DolphinScheduler等。


1.3


Azkaban与Oozie对比

总体来说,

O


oize相比


A


zkaban是一个重量级的任务调度系统,功能全面,但配置使用也更复杂。

如果可以不在意某些功能的缺失,轻量级调度器Azkaban是很不错的候选对象。


二:Az


kaban


入门


2


.1 集群模式


安装


2


.1.1


上传tar包

  • 1)将azkaban-db-3.84.4.tar.gz,azkaban-exec-server-3.84.4.tar.gz,azkaban-web-server-3.84.4.tar.gz上传到hadoop102的/opt/software路径
  • 2)新建/opt/module/azkaban目录,并将所有tar包解压到这个目录下
  • 3)解压azkaban-db-3.84.4.tar.gz、 azkaban-exec-server-3.84.4.tar.gz和azkaban-web-server-3.84.4.tar.gz到/opt/module/azkaban目录下
  • 4)进入到/opt/module/azkaban目录,依次修改名称


2


.1.2


配置MySQL

1)登陆MySQL,创建Azkaban数据库

2)创建azkaban用户并赋予权限,设置密码有效长度4位及以上

mysql> set global validate_password_length=4;

3)设置密码策略最低级别

mysql> set global validate_password_policy=0;

4)创建Azkaban用户,任何主机都可以访问Azkaban,密码是000000

mysql> CREATE USER 'azkaban'@'%' IDENTIFIED BY '000000';

5)赋予Azkaban用户增删改查权限

mysql> GRANT SELECT,INSERT,UPDATE,DELETE ON azkaban.* to 'azkaban'@'%' 
WITH GRANT OPTION;

6)创建Azkaban表,完成后退出MySQL

7)更改MySQL包大小;防止Azkaban连接MySQL阻塞

[atguigu@hadoop102 software]$ sudo vim /etc/my.cnf
在[mysqld]下面加一行max_allowed_packet=1024M
[mysqld]
max_allowed_packet=1024M

8)重启MySQL


2


.1.3


配置


Executor Server

Azkaban Executor Server处理工作流和作业的实际执行。

1)编辑azkaban.properties

[axing@hadoop102 azkaban]$ vim 
/opt/module/azkaban/azkaban-exec/conf/azkaban.properties

修改如下属性:


#...
default.timezone.id=Asia/Shanghai
#...
azkaban.webserver.url=http://hadoop102:8081

executor.port=12321
#...
database.type=mysql
mysql.port=3306
mysql.host=hadoop102
mysql.database=azkaban
mysql.user=azkaban
mysql.password=000000
mysql.numconnections=100

2)同步azkaban-exec到所有节点

3)



必须进入到/






opt/module/azkaban/azkaban-exec






路径



,分别在三台机器上,启动executor server

[axing@hadoop102 azkaban-exec]$ bin/start-exec.sh
[axing@hadoop103 azkaban-exec]$ bin/start-exec.sh
[axing@hadoop104 azkaban-exec]$ bin/start-exec.sh



注意


:如果在/opt/module/azkaban/azkaban-exec目录下出现executor.port文件,说明启动成功

如果三台机器都出现如下提示,则表示激活成功

{"status":"success"}


2


.1.4


配置


Web Server

Azkaban Web Server处理项目管理,身份验证,计划和执行触发。

1)编辑azkaban.properties

[axing@hadoop102 azkaban]$ vim 
/opt/module/azkaban/azkaban-web/conf/azkaban.properties

修改如下属性

...
default.timezone.id=Asia/Shanghai
...
database.type=mysql
mysql.port=3306
mysql.host=hadoop102
mysql.database=azkaban
mysql.user=azkaban
mysql.password=000000
mysql.numconnections=100
...
azkaban.executorselector.filters=StaticRemainingFlowSize,CpuStatus


说明:


#StaticRemainingFlowSize


:正在排队的任务数;


#CpuStatus


:CPU占用情况




#MinimumFreeMemory






:内存占用情况。测试环境,





必须将




MinimumFreeMemory




删除掉,否则它会认为集群资源不够,不执行。(在实际生产环境中不用删除)

2)修改azkaban-users.xml文件,添加atguigu用户

[atguigu@hadoop102 azkaban-web]$ vim 
/opt/module/azkaban/azkaban-web/conf/azkaban-users.xml

<azkaban-users>
  <user groups="azkaban" password="azkaban" roles="admin" username="azkaban"/>
  <user password="metrics" roles="metrics" username="metrics"/>
  <user password="atguigu" roles="admin" username="atguigu"/>
  <role name="admin" permissions="ADMIN"/>
  <role name="metrics" permissions="METRICS"/>
</azkaban-users>

3)必须进入到hadoop102的/opt/module/azkaban/azkaban-web路径,启动web server

[axing@hadoop102 azkaban-web]$ bin/start-web.sh

4)访问

http://hadoop102:8081

,并用atguigu用户登陆

这样,azkaban就配置完了。



版权声明:本文为JiaXingNashishua原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。