欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

CDH主机下线

程序员文章站 2022-07-07 14:49:26
...


需求: 某服务器,由于规划不完善的原因,需要回收做为别的用途, 此时如何确保hdfs,hbaes 数据不丢失
参考: https://docs.cloudera.com/documentation/enterprise/5-12-x/topics/cm_mc_decomm_host.html

1,配置hdfs, hbase: 提高下线速度

  • 确保hdfs 主机下线后,副本数足够: 比如replica=1, 两个datanode中下线一个,还有一个dn可用,满足备份数要求
  • 确保hdfs 中的块是完整的: hdsf fsck / (没有找到损害的块 )
########## hdfs #############
#依据迭代设置复制工作乘数器
dfs.namenode.replication.work.multiplier.per.iteration=10 默认就行
#DataNode 上的最大复制线程数
dfs.namenode.replication.max-streams=20 --> 50
#Datanode 上复制线程数的硬限制
dfs.namenode.replication.max-streams-hard-limit=40 --> 100

########## hbase #############
Region Mover 线程: 1 --> 5 (小于等于5)

2,主机:进入维护模式

CDH主机下线

3, 主机解除授权: Decommission(退役)

CDH主机下线

解除授权的操作细节

CDH主机下线

a, hbase数据转移

CDH主机下线

b, hdfs 数据转移

CDH主机下线