Flink on yarn (HA)测试
程序员文章站
2022-06-17 09:06:55
...
前面已经介绍了Flink on yarn的相关部署,在yarn当中,启动Flink有两种模式,分别是客户端模式和分离式,下面将介绍Flink on yarn HA是如何在宕机后,重启Flink及kill掉进程后,进行主备切换的。
首先我们在Flink on yarn的配置中采用了2个JobManager。其实在Flink on yarn 模式中,一般选择一个JobManager已经足够了。
一.配置masters
[aaa@qq.com conf]# vim masters
192.168.44.128:8081
192.168.44.142:8081
二.启动Fink yarn session
分离式启动
[root@mdw bin]# /yarn-session.sh -n 3 -jm 1024 -tm 1024 -s 3 -nm FlinkOnYarnSession -d -st
参数:-d代表已分离式模式启动,意味着FlinkOnYarnSession启动后与yarn没有任何关系。
首先我们通过yarn web UI看下application
接下来查看进程
然后杀死这个Jobmanager(AM)进程YarnApplicationMasterRunner,看看Yarn Cluster的HA情况
回到刚才的yarn界面
此时可以看到这个应用从0001切换到了0002;
再次在另一个节点看到,yarn session又启动了
下面另外介绍一下,启动yarn session时的几个参数:
- -d:此参数加上代表Flink on yarn属于分离模式;
- -n: container 指YARN container分配的个数(即TaskManagers的个数);
- -jm:–jobManagerMemory 指JobManager Containe的内存大小,单位为MB;
- -tm:–taskManagerMemory 指每个TaskManagerContainer的内存大小,单位为MB;
-s :指每个TaskManager的slot个数;
-
上一篇: 多线程多批量插入大数据