hadoop动态增加和删除节点方法介绍
程序员文章站
2022-07-09 13:16:28
上一篇文章中我们介绍了hadoop编程基于mr程序实现倒排索引示例的有关内容,这里我们看看如何在hadoop中动态地增加和删除节点(datanode)。
假设集群操作系统...
上一篇文章中我们介绍了hadoop编程基于mr程序实现倒排索引示例的有关内容,这里我们看看如何在hadoop中动态地增加和删除节点(datanode)。
假设集群操作系统均为:centos 6.7 x64
hadoop版本为:2.6.3
一、动态增加datanode
1、准备新的datanode节点机器,配置ssh互信,可以直接复制已有datanode中.ssh目录中的authorized_keys和id_rsa
2、复制hadoop运行目录、hdfs目录及tmp目录至新的datanode
3、在新datanode上启动hadoop
..sbin/hadoop-daemon.sh start datanode ..sbin/yarn-daemon.sh start datanode
4、在namenode上刷新节点
..bin/hdfs dfsadmin -refreshnodes ..sbin/start-balancer.sh
5、为方便下次启动,可以将新datanode的域名和ip加入/etc/hosts中
二、动态删除datanode
1、配置namenode的hdfs-site.xml,适当减小dfs.replication副本数,增加dfs.hosts.exclude配置
<property> <name>dfs.hosts.exclude</name> <value>/usr/local/hadoop2/etc/hadoop/excludes</value> </property>
2、在对应路径(/etc/hadoop/)下新建excludes文件,并写入待删除datanode的ip或域名
3、在namenode上刷新所有datanode
..bin/hdfs dfsadmin -refreshnodes ..sbin/start-balancer.sh
4、此时,可以在web检测界面(ip:50070)上可以观测到datanode逐渐变为dead。
总结
以上就是本文关于hadoop动态增加和删除节点方法介绍的全部内容,希望对大家有所帮助。感兴趣的朋友可以继续参阅本站:浅谈七种常见的hadoop和spark项目案例、hadoop重新格式化hdfs步骤解析等,有什么问题可以直接留言,小编会及时回复大家的。感谢朋友们对本站的支持!
上一篇: 刘娥成为北宋皇后,她的前夫是什么结局?