欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  数据库

TFS Nameserver HA配置

程序员文章站 2022-03-08 10:24:51
...

TFS里的Nameserver(NS)是系统里的单点,目前采用主备的方式来保证其高可用性,当主NS挂掉时,vip会切换到备NS上,从而备NS接管服务。本文主要介绍TFS NS高可用的配置方式(使用heartbeat)。 NS主备原理 主备NS共享一个虚拟vip,NS启动时,检查vip是否拥有v

TFS里的Nameserver(NS)是系统里的单点,目前采用主备的方式来保证其高可用性,当主NS挂掉时,vip会切换到备NS上,从而备NS接管服务。本文主要介绍TFS NS高可用的配置方式(使用heartbeat)。

NS主备原理

主备NS共享一个虚拟vip,NS启动时,检查vip是否拥有vip,如果不再,NS将以slave的身份运行;否则如果NS拥有vip,NS就会认为自己是master。

为了避免出现多master的情况,当NS认为自己是master时,会向对端NS节点发送一个确认消息,获取其身份信息,如果发现对端也是master,此时就出现了多master的情况,通常是主备的配置有问题才会出现,这时NS会主动退出,NS启动失败;如果发现对端是slave,则NS正常启动,此时集群里NS正好一主一备。

NS运行过程中,会有后台线程不断检查是否自己拥有vip,当主发现自己不再拥有vip时,就将自己切换为备继续运行;当备发现自己拥有vip时,就会将自己切换为主,同样的,切换前要先确认对端的身份,避免出现两个master的情况。

硬件说明

两台物理机分别部署主备NS服务、主机名分别为tfs036201.sqa.cm4、tfs036203.sqa.cm4,虚拟ip为10.232.36.240,两个物理机的bond0网卡通过交换机连接,并没有使用直连线连接的方式(线上服务强烈建议使用直连线方式,否则如果公用的网络不稳定,容易出现脑裂的情况)。

软件安装

在两台机器上分别安装heartbeat和pacemaker,前者提供多个节点间通讯的基础设施,后者提供集群资源管理的功能。

[linqing.zyd@tfs036203.sqa.cm4 ~]$ rpm -q heartbeat
heartbeat-3.0.3-2.el5
[linqing.zyd@tfs036203.sqa.cm4 ~]$ rpm -q pacemaker
pacemaker-1.0.8-6.el5

主备NS的配置

修改两台机器上的ns.conf,主要是ip_addr和ip_addr_list两个配置项

[public]
# 这里配置NS的vip
ip_addr = 10.232.36.240
# NS监听端口
port =8100
[nameserver]
# 主备NS的实际ip地址列表
ip_addr_list = 10.232.36.201|10.232.36.203

Heartbeat的配置

tfs-home/scripts/ha目录里包含一些配置模板和工具,进入该目录

修改ha.cf,各个参数的详细含义参考

debugfile /var/log/ha-debug
debug 1
keepalive 2
warntime 5
deadtime 10
initdead 30
auto_failback off 
autojoin none
#bcast eth1
ucast bond0 10.232.36.201
udpport 694 
node tfs036201.sqa.cm4
node tfs036203.sqa.cm4 
compression bz2 
logfile /var/log/ha-log
logfacility     local0
crm respawn

几个重要的参数说明

keepalive 2 节点间的心跳包为2s
warntime  5  5s没有心跳包,就发出警告
deadtime 10 10s没有心跳包,认为节点挂了
udpport  694 发送心跳包使用的udp端口
node tfs036201.sqa.cm4  集群里的节点
node tfs036203.sqa.cm4 
autojoin none 不允许节点自动加入,必须使用上述node指令来配置
ucast bond0 10.232.36.201 使用单播的方式来发送心跳包,两台机器分别指定对端的地址
如果是直连线的方式,可以使用bcast的方式来发送心跳包 

生成authkeys

配置authkeys主要是为了节点间做认证,ha目录下包含了配置工具deploy,直接执行即可。这个脚本的主要工作是生成authkeys,并将ha.cf、authkeys拷贝到/etc/ha.d目录下。

在一个节点配置好之后,将/etc/ha.d/ha.cf、/etc/ha.d/authkeys拷贝到另一个节点的/etc/ha.d目录,因为这里没有采用直连线,ha.cf里ucast那行配置,要稍作修改,设置为对端的ip地址。

配置NameServer资源

主备NS对HA的要求,除了机器宕机时,vip要切换;还要求NS的服务挂掉时,vip也要能切换到备NS,为了实现这个需求,首先要给heartbeat增加一种NameServer的资源,在主备两台机器上直接执行ha目录下的nsdep工具,其将ha/NameServer文件(提供了start、stop、monitor NS服务的功能)拷贝到/usr/lib/ocf/resource.d/heartbeat/目录下。

最后修改ha目录下的ns.xml,配置一下vip资源信息,以及ns服务的资源。

主要修改如下

ip的属性值设置为10.232.36.240
nic的属性值为bond0:0 
basedir配置为/home/admin/tfs   (设置为tfs的安装目录)  
nsip配置为10.232.36.204        (ns vip)
nsport配置为8100               (ns port)
user设置为admin                (用于启动服务的用户)

ns.xml准备好后,在主备NS机器上分别执行

crm_attribute --type crm_config --attr-name symmetric-cluster --attr-value true  
crm_attribute --type crm_config --attr-name stonith-enabled --attr-value false 
crm_attribute --type rsc_defaults --name resource-stickiness --update 100
cibadmin --replace --obj_type=resources --xml-file /home/admin/tfs/scripts/ha/ns.xml 
上述命令做到主要工作包含
1. 配置所有的节点为对等关系,即所有的节点都能接管服务
2. 禁用stonish
3. 应用ns.xml里的配置

最后启动主备NS服务,并在两台机器上启动heartbeat服务

service heartbeat start
或 /etc/init.d/heartbeat start

此时vip落在其中一台机器上,这台机器以主NS的身份运行,另外一个以备NS的身份运行。

测试主备切换

将主NS上的nameserver进程kill掉后会发现,vip已经切换到原来的备NS,原来的备NS(如果备上NS没有启动,会被heartbeat启动起来)检测到vip落在自己身上,切换为主的身份运行。

原来主NS的机器,查看其资源状态,会发现其failcount已经变为1了,该节点被heartbeat认为不可用了。

[linqing.zyd@tfs036201.sqa.cm4 tfs_new]$ sudo crm resource failcount tfs-name-server show tfs036201.sqa.cm4
scope=status  name=fail-count-tfs-name-server value=1

此时如果原来的备NS接管服务后,再次宕机了,服务将不能切回到原来的主,必须先将其failcount清0,才能正确的切回。

sudo crm resource failcount tfs-name-server set tfs036201.sqa.cm4  0

The post TFS Nameserver HA配置 appeared first on Yun Notes.