linux下Mongodb集群搭建：分片+副本集

三台服务器 192.168.1.40/41/42

安装包 mongodb-linux-x86_64-amazon2-4.0.1.tgz

服务规划

服务器40	服务器41	服务器42
mongos	mongos	mongos
config server	config server	config server
shard server1 主节点	shard server1副节点	shard server1仲裁
shard server2 仲裁	shard server2 主节点	shard server2 副节点
shard server3副节点	shard server3仲裁	shard server3主节点

 

 

 

 

 

 

端口分配：

mongos：28000

config:28001

shard1:28011

shard2:28012

shard3:28013

 

主要模块以及配置文件

1、config server 配置服务器

 

vi /usr/local/mongodb/conf/config.conf

40服务器配置文件
pidfilepath = /usr/local/mongodb/config/log/configsrv.pid
dbpath = /mydata/mongodb/config/data
logpath = /usr/local/mongodb/config/log/congigsrv.log
logappend = true

bind_ip = 192.168.29.40
port = 28001
fork = true   #以守护进程的方式运行mongodb，创建服务器进程

#declare this is a config db of a cluster;
configsvr = true

#副本集名称
replset=configs

#设置最大连接数
maxconns=20000

41服务器配置文件
pidfilepath = /usr/local/mongodb/config/log/configsrv.pid
dbpath = /mydata/mongodb/config/data
logpath = /usr/local/mongodb/config/log/congigsrv.log
logappend = true

bind_ip = 192.168.29.41
port = 28001
fork = true   #以守护进程的方式运行mongodb，创建服务器进程

#declare this is a config db of a cluster;
configsvr = true

#副本集名称
replset=configs

#设置最大连接数
maxconns=20000

42服务器配置文件

pidfilepath = /usr/local/mongodb/config/log/configsrv.pid
dbpath = /mydata/mongodb/config/data
logpath = /usr/local/mongodb/config/log/congigsrv.log
logappend = true

bind_ip = 192.168.29.42
port = 28001
fork = true   #以守护进程的方式运行mongodb，创建服务器进程

#declare this is a config db of a cluster;
configsvr = true

#副本集名称
replset=configs

#设置最大连接数
maxconns=20000

启动三台服务器的config server
mongod -f /usr/local/mongodb/conf/config.conf

登录任意一台配置服务器，初始化配置副本集
#连接
mongo --port 21000
#config变量
config = {
... _id : "configs",
... members : [
... {_id : 0, host : "192.168.1.40:28001" },
... {_id : 1, host : "192.168.1.41:28001" },
... {_id : 2, host : "192.168.1.42:28001" }
... ]
... }

#初始化副本集
rs.initiate(config)

2 配置分片副本集(三台机器)

配置文件
vi /usr/local/mongodb/conf/shard1.conf

#配置文件内容
#——————————————–
pidfilepath = /usr/local/mongodb/shard1/log/shard1.pid
dbpath = /mydata/mongodb/shard1/data
logpath = /usr/local/mongodb/shard1/log/shard1.log
logappend = true

bind_ip = 192.168.29.40
port = 28011
fork = true

#打开web监控
#httpinterface=true
#rest=true

#副本集名称
replset=shard1

#declare this is a shard db of a cluster;
shardsvr = true

#设置最大连接数
maxconns=20000

#配置文件内容
#——————————————–
pidfilepath = /usr/local/mongodb/shard1/log/shard1.pid
dbpath = /mydata/mongodb/shard1/data
logpath = /usr/local/mongodb/shard1/log/shard1.log
logappend = true

bind_ip = 192.168.29.41
port = 28011
fork = true

#打开web监控
#httpinterface=true
#rest=true

#副本集名称
replset=shard1

#declare this is a shard db of a cluster;
shardsvr = true

#设置最大连接数
maxconns=20000

#配置文件内容
#——————————————–
pidfilepath = /usr/local/mongodb/shard1/log/shard1.pid
dbpath = /mydata/mongodb/shard1/data
logpath = /usr/local/mongodb/shard1/log/shard1.log
logappend = true

bind_ip = 192.168.29.42
port = 28011
fork = true

#打开web监控
#httpinterface=true
#rest=true

#副本集名称
replset=shard1

#declare this is a shard db of a cluster;
shardsvr = true

#设置最大连接数
maxconns=20000

vi /usr/local/mongodb/conf/shard2.conf

vi /usr/local/mongodb/conf/shard2.conf （shard2和shard3就是上面配置文件相应地方改为2和3就可以了）

3、配置路由服务器 mongos

先启动配置服务器和分片服务器,后启动路由实例:（三台机器）
vi /usr/local/mongodb/conf/mongos.conf

#内容
pidfilepath = /usr/local/mongodb/mongos/log/mongos.pid
logpath = /usr/local/mongodb/mongos/log/mongos.log
logappend = true

bind_ip = 0.0.0.0
port = 28000
fork = true

#监听的配置服务器,只能有1个或者3个 configs为配置服务器的副本集名字
configdb = configs/192.168.1.40:28001,192.168.1.41:28001,192.168.1.42:28001

#设置最大连接数
maxconns=20000

 

启动三台服务器的mongos server
mongos -f /usr/local/mongodb/conf/mongos.conf

4、启用分片

目前搭建了mongodb配置服务器、路由服务器，各个分片服务器，不过应用程序连接到mongos路由服务器并不能使用分片机制，还需要在程序里设置分片配置，让分片生效。
登陆任意一台mongos
mongo --port 28000
#使用admin数据库
use admin
#串联路由服务器与分配副本集
sh.addshard("shard1/192.168.1.40:28011,192.168.1.41:28011,192.168.1.42:28011")
sh.addshard("shard2/192.168.1.40:28012,192.168.1.41:28012,192.168.1.42:28012")
sh.addshard("shard3/192.168.1.40:28013,192.168.1.41:28013,192.168.1.42:28013")
#查看集群状态
sh.status()

 5、测试

目前配置服务、路由服务、分片服务、副本集服务都已经串联起来了，但我们的目的是希望插入数据，数据能够自动分片。连接在mongos上，准备让指定的数据库、指定的集合分片生效。
#指定testdb分片生效
db.runcommand( { enablesharding :"testdb"});
#指定数据库里需要分片的集合和片键
db.runcommand( { shardcollection : "testdb.table1",key : {id: 1} } )

我们设置testdb的 table1 表需要分片，根据 id 自动分片到 shard1 ，shard2，shard3 上面去。要这样设置是因为不是所有mongodb 的数据库和表 都需要分片！
测试分片配置结果
mongo  127.0.0.1:28000
#使用testdb
use  testdb;
#插入测试数据
for (var i = 1; i <= 100000; i++)
db.table1.save({id:i,"test1":"testval1"});
#查看分片情况如下，部分无关信息省掉了
db.table1.stats();

{
        "sharded" : true,
        "ns" : "testdb.table1",
        "count" : 100000,
        "numextents" : 13,
        "size" : 5600000,
        "storagesize" : 22372352,
        "totalindexsize" : 6213760,
        "indexsizes" : {
                "_id_" : 3335808,
                "id_1" : 2877952
        },
        "avgobjsize" : 56,
        "nindexes" : 2,
        "nchunks" : 3,
        "shards" : {
                "shard1" : {
                        "ns" : "testdb.table1",
                        "count" : 42183,
                        "size" : 0,
                        ...
                        "ok" : 1
                },
                "shard2" : {
                        "ns" : "testdb.table1",
                        "count" : 38937,
                        "size" : 2180472,
                        ...
                        "ok" : 1
                },
                "shard3" : {
                        "ns" : "testdb.table1",
                        "count" :18880,
                        "size" : 3419528,
                        ...
                        "ok" : 1
                }
        },
        "ok" : 1
}

6、后期运维

启动关闭
mongodb的启动顺序是，先启动配置服务器，在启动分片，最后启动mongos.
mongod -f /usr/local/mongodb/conf/config.conf
mongod -f /usr/local/mongodb/conf/shard1.conf
mongod -f /usr/local/mongodb/conf/shard2.conf
mongod -f /usr/local/mongodb/conf/shard3.conf
mongod -f /usr/local/mongodb/conf/mongos.conf

关闭时，直接killall杀掉所有进程
killall mongod
killall mongos