欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

Flink(二)集群部署

程序员文章站 2022-06-17 08:33:38
...

有不懂及不对的地方请大家提出,共同探讨与进步
1.下载flink包

https://archive.apache.org/dist/flink/  根据自己的选择下载  我这里用的是flink-1.7.0

2.解压缩

tar -xvzf flinkxxx.tgz -C dir2

3.修改配置文件
(1)vi conf/flink-conf.yaml  主要是修改 jobmanager.rpc.address: hdp-1

# JobManager runs.
jobmanager.rpc.address: hdp-1
# The RPC port where the JobManager is reachable.
jobmanager.rpc.port: 6123
# The heap size for the JobManager JVM
jobmanager.heap.size: 1024m
# The heap size for the TaskManager JVM
taskmanager.heap.size: 1024m
# The number of task slots that each TaskManager offers. Each slot runs one parallel pipeline.
taskmanager.numberOfTaskSlots: 3
# The parallelism used for programs that did not specify and other parallelism.
parallelism.default: 1

(2)vi conf/masters

# msater 可选择不同的机器来担任,我这里是本机
localhost

(3)vi cong/slaves

# 我这里是3台节点 其中hdp-1既是master也是slave
hdp-1
hdp-2
hdp-3

(4)将flink分发给其他的两台机器

# 我这里用的是scp拷贝
scp -r /root/apps/flink hdp-2:/root/apps/
scp -r /root/apps/flink hdp-3:/root/apps/

(5)启动flink

# bin目录下直接启动start-cluster.sh 
[aaa@qq.com bin]# ./start-cluster.sh 

(6)访问flink WebUI  主机名:8081

Flink(二)集群部署

4.这个仅仅只是简单的master-slave集群配置,对于yarn的集群搭建因为我并没有用到所有并没有搭建,后续会补上