RocketMQ双主双从异步复制集群搭建
一.首先新建4个虚拟机
192.168.1.111,192.168.1.112,192.168.1.113,192.168.1.114修改hosts文件配制nameserver(nameserver相当于zookeeper的角色)
vim /etc/hosts
重启服务
service network restart
192.168.1.111,192.168.1.112,192.168.1.113,192.168.1.114尝试使用ping试试是否能ping通(防止nameservice配制错误,配制错误会导致启动失败)
ping 主机名或ip地址或nameservice(Solitary2或192.168.1.112或rocketmq-nameserver2)
自行新建一个目录将压缩包放到文件当中
#新建文件名命令
mkdir 文件名(software)
192.168.1.111,192.168.1.112,192.168.1.113,192.168.1.114将ActiveMQ的压缩包解压到指定文件中
#解压到指定文件夹命令
tar -zxvf alibaba-rocketmq-3.2.6.tar.gz -C 指定目录(/usr/local)
192.168.1.111,192.168.1.112,192.168.1.113,192.168.1.114建立软连接
软连接相当于桌面快捷键你不用去寻找安装包路径直接可以运行该程序,就是一种连接方式
#建立软连接命令
ln -s alibaba-rocketmq rocketmq
192.168.1.111,192.168.1.112,192.168.1.113,192.168.1.114建立4个文件夹
#建立4个文件夹
mkdir /usr/local/rocketmq/store
#你感觉像日志其实不是日志,生产端发布数据原封不动的放到commitlog文件中
mkdir /usr/local/rocketmq/store/commitlog
#这个是一个逻辑数据存储存储的是一个标识,使用偏移量来完成的,commitlog中有一条记录就写一行方便消费端快速定位相当于索引,记录着偏移量并且配合着索引
mkdir /usr/local/rocketmq/store/consumequeue
mkdir /usr/local/rocketmq/store/index
2m-2s-async 两主两从 异步复制
2m-2s-sync 两主两从 同步手写
两者区别自行看文档,或者后期文章跟新
如果要建立三主三从异步复制的话多建立一个文件夹其他情况相同
192.168.1.111,192.168.1.112,192.168.1.113,192.168.1.114节点中需要修改的文件有如下4个文件 1.broker-a-s.properties 2.broker-a.propertie 3.broker-b-s.propertie 4.broker-b.propertie具体修改文件如下
#所属集群名字
#一:(4个节点的集群名字要相同)
brokerClusterName=rocketmq-cluster
#broker名字,注意此处不同的配置文件填写的不一样
#二:(如果是broker-a.properties和broker-a-s.properties文件的话修改为broker-a,如果是broker-b.properties和broker-b-s.properties修改为broker-b)
brokerName=broker-a
#0 表示 Master,>0 表示 Slave
#(0 表示 Master,>0 表示 Slave)
brokerId=0
#nameServer地址,分号分割
#三:(有几个节点就应该有几个nameserver使用";"隔开)
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876;rocketmq-nameserver3:9876;rocketmq-nameserver4:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点,默认凌晨 4点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
#四:(如果是broker-a-s.properties文件和broker-b-s.properties文件的话角色发生变化变为SLAVE)
brokerRole=ASYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
如果这个时候从windows赋值过来的代码乱码的话可以尝试下面的命令
vim ~/.vimrc
set fileencodings=utf-8,ucs-bom,gb18030,gbk,gb2312,cp936 #进入到~/.vimrc下后将这里的内容复制上午,查看问题是否解决
set termencoding=utf-8
set encoding=utf-8
192.168.1.111,192.168.1.112,192.168.1.113,192.168.1.114修改日志配制文件
1.mkdir -p /usr/local/rocketmq/logs
2.cd /usr/local/rocketmq/conf && sed -i 's#${user.home}#/usr/local/rocketmq#g' *.xml
192.168.1.111,192.168.1.112,192.168.1.113,192.168.1.114修改启动脚本参数(如果你设置的虚拟机内存足够大的话可以分配的内存多一些)
1.vim /usr/local/rocketmq/bin/runserver.sh #两个文件都需要修改此处只展示了runbroker.sh文件的修改。runserver.sh脚本的修改和runbroker.sh脚本的修改相同由于文章原因此处不一一展示
2.vim /usr/local/rocketmq/bin/runbroker.sh
192.168.1.111,192.168.1.112,192.168.1.113,192.168.1.114启动nameserver
cd /usr/local/rocketmq/bin #重新启动命令1
nohup sh mqnamesrv & #重新启动命令2
192.168.1.111启动broker
nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-async/broker-a.properties >/dev/null 2>&1 & #重新启动命令3
192.168.1.112启动broker
nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-async/broker-b.properties >/dev/null 2>&1 & #重新启动命令4
192.168.1.113启动broker
nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-async/broker-a-s.properties >/dev/null 2>&1 & #重新启动命令5
192.168.1.114启动broker
nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-async/broker-b-s.properties >/dev/null 2>&1 & #重新启动命令6
192.168.1.111,192.168.1.112,192.168.1.113,192.168.1.114查看nameserver和broker是否启动
jps
192.168.1.111,192.168.1.112,192.168.1.113,192.168.1.114到指定位置修改config.properties配制文件
cd /usr/local/apache-tomcat-7.0.29/webapps/rocketmq-console/WEB-INF/classes
rocketmq.namesrv.addr=192.168.1.111:9876;192.168.1.112:9876;192.168.1.113:9876;192.168.1.114:9876
throwDone=true
192.168.1.111启动tomcat7
/usr/local/apache-tomcat-7.0.29/bin/startup.sh #重新启动命令7
搭建成功
关闭服务关闭
注意:先关闭broker服务再关闭namesrv服务
sh /usr/local/rocketmq/bin/mqshutdown broker #关闭broker服务
sh /usr/local/rocketmq/bin/mqshutdown namesrv #关闭namesrv服务
数据清理
关闭服务后(使用上述命令关闭)
rm -rf /usr/local/rocketmq/store #删除该文件夹 重启的时候需要再次先新建文件夹