flink两种安装方式

flink standalone 集群 ha 配置

 

1. ha 集群环境规划 使用三台节点实现两主两从集群(由于笔记本性能限制，不能开启太多虚拟机，其实使用三 台和四台机器在安装配置上没有本质区别) jobmanager：hadoop100hadoop101【一个 active，一个 standby】 taskmanager：hadoop101hadoop102 zookeeper:hadoop100【建议使用外置 zk 集群，在这里我使用单节点 zk 来代替】
注意： 要启用 jobmanager 高可用性，必须将高可用性模式设置为 zookeeper， 配置一个 zookeeper quorum，并配置一个 masters 文件 存储所有 jobmanagerhostname 及其 webui 端口号。
flink 利用 zookeeper 实现运行中的 jobmanager 节点之间的分布式协调。zookeeper 是独立 于 flink 的服务，它通过领导选举制和轻量级状态一致性存储来提供高度可靠的分布式协调。
2. 开始配置+启动 集群内所有节点的配置都一样，所以先从第一台机器 hadoop100 开始配置 sshhadoop100 #首先按照之前配置 standalone 的参数进行修改 viconf/flink-conf.yaml jobmanager.rpc.address:hadoop100
viconf/slaves hadoop101 hadoop102
# 然后修改配置 ha 需要的参数 viconf/masters
hadoop100:8081 hadoop101:8081
viconf/flink-conf.yaml high-availability:zookeeper high-availability.zookeeper.quorum:hadoop100:2181 #zookeeper 节点根目录，其下放置所有集群节点的 namespace high-availability.zookeeper.path.root:/flink #zookeeper 节点集群 id，其中放置了集群所需的所有协调数据 high-availability.cluster-id:/cluster_one # 建议指定 hdfs 的全路径。如果某个 flink 节点没有配置 hdfs 的话，不指定全路径无法识别 #storagedir 存储了恢复一个 jobmanager 所需的所有元数据。 high-availability.storagedir:hdfs://hadoop100:9000/flink/ha
# 把 hadoop100 节点上修改好配置的 flink 安装目录拷贝到其他节点 cd/data/soft/ scp-rqflink-1.4.2hadoop101:/data/soft scp-rqflink-1.4.2hadoop102:/data/soft
# 【先启动 hadoop 服务】 sbin/start-all.sh # 【先启动 zk 服务】 bin/zkserver.shstart # 启动 flinkstandaloneha 集群，在 hadoop100 节点上启动如下命令 bin/start-cluster.sh
# 启动之后会显示如下日志信息 startinghaclusterwith2masters. startingstandalonesessiondaemononhosthadoop100. startingstandalonesessiondaemononhosthadoop101. startingtaskexecutordaemononhosthadoop101. startingtaskexecutordaemononhosthadoop102.
3. 验证 ha 集群进程 查看机器进程会发现如下情况【此处只列出 flink 自身的进程信息，不包含 zk，hadoop 进程 信息】 登录 hadoop100 节点 执行 jps: 20159standalonesessionclusterentrypoint
登录 hadoop101 节点 执行 jps: 7795standalonesessionclusterentrypoint
8156taskmanagerrunner
登录 hadoop102 节点 执行 jps: 5046taskmanagerrunner
因为 jobmanager 节点都会启动 web 服务，也可以通过 web 界面进行验证 访问 http://hadoop100:8081/#/jobmanager/config 发现以下信息： 注意：此时就算是访问 hadoop101:8081 也会跳转回 hadoop100:8081 因为现在 hadoop100 是 active 的 jobmanager。从下图中也可以看出，点击 jobmanager 查看，显示哪个节点，就 表示哪个节点现在是 active 的。
4. 模拟 jobmanager 进程挂掉 现在 hadoop100 节点上的 jobmanager 是 active 的。我们手工把这个进程 kill 掉，模拟进程 挂掉的情况，来验证hadoop101上的standby状态的jobmanager是否可以正常切换到active。 sshhadoop100 执行 jps： 20159standalonesessionclusterentrypoint
kill20159
5. 验证 ha 切换 hadoop100 节点上的 jobmanager 进程被手工 kill 掉了，然后 hadoop101 上的 jobmanager 会 自动切换为 active，中间需要有一个时间差，稍微等一下 访问 http://hadoop101:8081/#/jobmanager/config 如果可以正常访问并且能看到 jobmanager 的信息变为 hadoop101，则表示 jobmanager 节点 切换成功
6. 重启之前 kill 掉的 jobmanager 进入到 hadoop100 机器 sshhadoop100 执行下面命令启动 jobmanager bin/jobmanager.shstart
启动成功之后，可以访问 http://hadoop100:8081/#/jobmanager/config 这个节点重启启动之后，就变为 standby 了。hadoop101 还是 active。

flink on yarn 集群 ha 配置

1. ha 集群环境规划 flinkonyarn 的 ha 其实是利用 yarn 自己的恢复机制。
在这需要用到 zk，主要是因为虽然 flink-on-yarnclusterha 依赖于 yarn 自己的集群机制，但 是 flinkjob 在恢复时，需要依赖检查点产生的快照，而这些快照虽然配置在 hdfs，但是其元 数据信息保存在 zookeeper 中，所以我们还要配置 zookeeper 的信息
hadoop 搭建的集群，在 hadoop100，hadoop101，hadoop102 节点上面【flinkon yarn 使用 伪分布 hadoop 集群和真正分布式 hadoop 集群，在操作上没有区别】 zookeeper 服务也在 hadoop100 节点上
2. 开始配置+启动 主要在 hadoop100 这个节点上配置即可
首先需要修改 hadoop 中 yarn-site.xml 中的配置，设置提交应用程序的最大尝试次数 <property> <name>yarn.resourcemanager.am.max-attempts</name> <value>4</value> <description> themaximumnumberofapplicationmasterexecutionattempts. </description> </property>
# 把修改后的配置文件同步到 hadoop 集群的其他节点 scp-rqetc/hadoop/yarn-site.xml hadoop101:/data/soft/hadoop-2.7.5/etc/hadoop/ scp-rqetc/hadoop/yarn-site.xml hadoop102:/data/soft/hadoop-2.7.5/etc/hadoop/
然后修改 flink 部分相关配置 可以解压一份新的 flink-1.6.1 安装包 tar-zxvfflink-1.6.1-bin-hadoop27-scala_2.11.tgz
修改配置文件【标红的目录名称建议和 standaloneha 中的配置区分开】 viconf/flink-conf.yaml high-availability:zookeeper high-availability.zookeeper.quorum:hadoop100:2181 high-availability.storagedir:hdfs://hadoop100:9000/flink/ha-yarn high-availability.zookeeper.path.root:/flink-yarn yarn.application-attempts:10
3. 启动 flinkonyarn，测试 ha 先启动 hadoop100 上的 zookeeper 和 hadoop bin/zkserver.shstart sbin/start-all.sh
在 hadoop100 上启动 flink 集群 cd/data/soft/flink-1.6.1 bin/yarn-session.sh-n2
到 resoucemanager 的 web 界面上查看对应的 flink 集群在哪个节点上
jobmanager 进程就在对应的节点的(yarnsessionclusterentrypoint)进程里面
所以想要测试 jobmanager 的 ha 情况，只需要拿 yarnsessionclusterentrypoint 这个进程进行 测试即可。
执行下面命令手工模拟 kill 掉 jobmanager（yarnsessionclusterentrypoint）、 sshhadoop102 jps 5325yarnsessionclusterentrypoint
kill5325
然后去 yarn 的 web 界面进行查看：
发现这个程序的 attemptid 变为 00002 了
如果想查看 jobmanager 的 webui 界面可以点击下面链接：
注意：针对上面配置文件中的一些配置参数的详细介绍信息可以参考此文章 https://blog.csdn.net/xu470438000/article/details/79633824 但是需要注意一点，此链接文章中使用的 flink 版本是 1.4.2。我们本课程中使用的 flink 版本 是 1.6.1，这两个版本中的一些参数名称会有细微不同。但是参数的含义基本没有什么变化。