MySQL Cluster集群的初级部署教程

mysql cluster概述

   mysql cluster最显著的优点就是高可用性,高实时性,高冗余,扩展性强。

   它允许在无共享的系统中部署"内存中"数据库的cluster.通过无共享体系结构,系统能够使用廉价的硬件.此外,由于每个组件有自己的内存和磁盘,所以不存在单点故障.

   它由一组计算机构成,每台计算机上均运行者多种进程,包括mysql服务器,ndb cluster的数据节点,管理服务启,以及专门的数据访问程序

   所有的这些节点构成一个完整的mysql集群体系.数据保存在"ndb存储服务器"的存储引擎中,表(结构)则保存在"mysql服务器"中.应用程序通过"mysql服务器"访问这些数据表,集群管理服务器通过管理工具(ndb_mgmd)来管理"ndb存储服务器".

基本概念

   "ndb"是一种"内存中"的存储引擎,它具有可用性高和数据一致性好的特点.下面介绍mysql cluster 节点时,它表示进程.在单台计算机上可以有任意数目的节点.

    管理节点(mgm):这类节点的作用是管理mysql cluster内的其他节点,如配置文件和cluster 日志,启动并停止节点,运行备份等.cluster中的每个节点从管理服务器上检索配置数据,并请求管理服务器所在位置的方式.当数据节点内出现新的事件时,节点将关于这类事件的信息传输到管理服务器上,然后,又将这类信息写入cluster日志。由于这类节点负责管理其他节点的配置,所以应在启动其他节点之前首先启动这类节点.mgm节点是用命令"ndb_mgmd"来启动

    数据节点(ndb):这类节点用于保存cluster的数据.数据节点的数目与副本的数目相关,是片段的倍数.假设有2个副本,每个副本有2个片段,那么就有4个数据节点.不过没有必要设置多个副本.数据节点是用命令"ndbd"来启动的.

   sql节点：这是用来访问cluster数据的节点.对于mysql cluster来说,客户端节点是使用ndb cluster存储引擎的传统mysql服务器.通常,sql节点使用将"ndbcluster"添加到"my.cnf"后使用"mysqld" 启动

   此外,可以有任意数目的cluster客户端进程或应该程序.它们分为两种类型,即标准mysql客户端和管理客户端.

   标准mysql客户端:能够从php,perl,c,c++,java,python,ruby等编写的现有mysql应用程序*问mysql cluster

   管理客户端:这类客户端与管理服务器相连,并提供了启动和停止节点,启动和停止消息跟踪,显示节点版本和状态,启动和停止备份等命令.

   以下是mysql cluster 架构示意图:

由于mysql cluster采用的是tcp/ip方式连接,并且节点之间的数据传输没有加密,最后使用单独的子网里.

下面来实施部署

为了方便 这里我把管理节点,数据节点,sql节点放在一台机器上.

管理节点1 10.1.6.205 

数据节点1 10.1.6.203  

数据节点2 10.1.6.205

sql节点1   10.1.6.203

sql节点2   10.1.6.205

1.安装(这里安装7.2.6版本)

下载mysql-cluster-gpl-7.2.6-linux2.6-x86_64.tar.gz 二进制包(里面包含ndb，mysql)

root@10.1.6.205:~# tar -c /usr/local -xzvf mysql-cluster-gpl-7.2.6-linux2.6-x86_64.tar.gz
root@10.1.6.205:/usr/local# ln -s /usr/local/mysql-cluster-gpl-7.2.8-linux2.6-i686 /usr/local/mysql
root@10.1.6.205:/usr/local# cd mysql
root@10.1.6.205:/usr/local/mysql# scripts/mysql_install_db --user=mysql
root@10.1.6.205:/usr/local/mysql# chown -r mysql:mysql /usr/local/mysql
同理10.1.6.203

2.配置sql节点和存储ndb节点

root@10.1.6.205:/usr/local/mysql# vim /etc/my.cnf 
[mysqld]
basedir=/usr/local/mysql/
datadir=/usr/local/mysql/data/
user=mysql
port=3306
socket=/tmp/mysql.sock
 
ndbcluster
max_connect_errors=10000
ndb-connectstring=10.1.6.205
connect_timeout = 300
 
[mysql_cluster]
ndb-connectstring=10.1.6.205

同理10.1.6.203
3.配置管理节点

root@10.1.6.205:/usr/local/mysql# vim /opt/cluster/config.ini
[ndbd default]
noofreplicas=2 
datamemory=80m #分配data storage使用的内存 每个ndb占用
indexmemory=18m #分配index storage使用的内存 每个ndb占用
 
[tcp default]
portnumber=2205 #ndb监听端口
 
#设置管理节点
[ndb_mgmd]
nodeid=1
hostname=10.1.6.205
datadir=/opt/cluster #在mgm上保存日志的目录
 
#设置存储节点ndb1
[ndbd]
nodeid=2
hostname=10.1.6.203
datadir=/usr/local/mysql/data
 
#设置存储节点ndb2
[ndbd]
nodeid=3
hostname=10.1.6.205
datadir=/usr/local/mysql/data
 
#设置sql节点1
[mysqld]
nodeid=4
hostname=10.1.6.203
 
#设置sql节点2
[mysqld]
nodeid=5
hostname=10.1.6.205
[mysqld] #运行任意ip连接
[mysqld]

4.启动mysql cluster

1)先启动管理节点服务器.2)启动ndb存储节点服务器.3)启动sql节点服务器.

1)执行启动mgm节点进程

root@10.1.6.205:/usr/local/mysql/bin# /usr/local/mysql/bin/ndb_mgmd -f /opt/cluster/config.ini
mysql cluster management server mysql-5.5.22 ndb-7.2.6

必须用参数-f或--config-file告诉ndb_mgm配置文件config.ini文件所在的位置.
2）在2台存储节点服务器上,如果是第一次启动ndb进程的话,必须先执行以下命令:

root@10.1.6.205:/usr/local/mysql/bin# /usr/local/mysql/bin/ndbd --initial
2013-08-28 23:40:36 [ndbd] info  -- angel connected to '10.1.6.205:1186'
2013-08-28 23:40:36 [ndbd] info  -- angel allocated nodeid: 2

注意:仅在首次启动ndb时,或者在备份/恢复或配置文件发生变化且重启ndb时才使用-initial参数.因为该参数会使节点删除由早期ndb实例创建的,用于恢复的任何文件,包括用于恢复的日志文件.
如果不是第一次启动,用以下命令

root@10.1.6.205:/usr/local/mysql/bin# /usr/local/mysql/bin/ndbd

3)启动sql节点服务器

root@10.1.6.203:/usr/local/mysql/bin# /usr/local/mysql/bin/mysqld_safe /etc/my.cnf &

5.查看各个节点情况

root@10.1.6.205:/usr/local/mysql# /usr/local/mysql/bin/ndb_mgm
-- ndb cluster -- management client --
ndb_mgm> show
cluster configuration
---------------------
[ndbd(ndb)] 2 node(s)
id=2 @10.1.6.203 (mysql-5.5.22 ndb-7.2.6, nodegroup: 0, master)
id=3 @10.1.6.205 (mysql-5.5.22 ndb-7.2.6, nodegroup: 0)
 
[ndb_mgmd(mgm)] 1 node(s)
id=1 @10.1.6.205 (mysql-5.5.22 ndb-7.2.6)
 
[mysqld(api)] 4 node(s)
id=4 @10.1.6.203 (mysql-5.5.22 ndb-7.2.6)
id=5 @10.1.6.205 (mysql-5.5.22 ndb-7.2.6)
id=6 (not connected, accepting connect from any host)
id=7 (not connected, accepting connect from any host)
 
ndb_mgm>

6.测试

注意:与没有使用cluster的mysql相比,在mysql cluster内操作数据的方式没有太大的区别.操作时注意

1)表必须用engine=ndb或engine=ndbcluster选项创建

2)每个ndb表必须有一个主键.如果在创建表时用户未定义主键,ndb cluster存储引擎会自动生成隐含的主键.

该隐含键也将占用空间,就像任何其他的表索引一样.由于没有足够的内存来容纳这些自动创建的键,所以很容易出现问题.

在203 sql节点1上创建表

root@10.1.6.203:/usr/local/mysql/bin# /usr/local/mysql/bin/mysql -uroot -p
mysql> use test;
mysql> create table dave (num int(10)) engine=ndb;
mysql> show create table dave\g;
*************************** 1. row ***************************
  table: dave
create table: create table `dave` (
 `num` int(10) default null
) engine=ndbcluster default charset=latin1
1 row in set (0.00 sec)
 
mysql> insert into dave
 -> values
 -> (100);
query ok, 1 row affected (0.01 sec)
mysql> select * from dave;
+------+
| num |
+------+
| 100 |
+------+

然后在205 sql节点2上查看该表

root@10.1.6.205:/usr/local/mysql# /usr/local/mysql/bin/mysql -uroot -p
mysql> use test
mysql> select * from dave;
+------+
| num |
+------+
| 100 |
+------+

测试ok

关注一下表

mysql> select * from ndbinfo.memoryusage;
+---------+--------------+--------+------------+----------+-------------+
| node_id | memory_type | used | used_pages | total | total_pages |
+---------+--------------+--------+------------+----------+-------------+
|  2 | data memory | 851968 |   26 | 83886080 |  2560 |
|  2 | index memory | 212992 |   26 | 19136512 |  2336 |
|  3 | data memory | 851968 |   26 | 83886080 |  2560 |
|  3 | index memory | 212992 |   26 | 19136512 |  2336 |

注意:使用量写满会访问不了,这时需要调整配置datamemory,indexmemory参数.各配置文件都需调整重启生效.

7.关闭cluster

root@10.1.6.205:/usr/local/mysql/bin# /usr/local/mysql/bin/ndb_mgm -e shutdown
connected to management server at: 10.1.6.205:1186
3 ndb cluster node(s) have shutdown.
disconnecting to allow management server to shutdown.

再关闭sql节点mysqld服务

root@10.1.6.203:/usr/local/mysql/bin# /usr/local/mysql/bin/mysqladmin -uroot -p shutdown
enter password: 
130829 02:19:57 mysqld_safe mysqld from pid file /usr/local/mysql/data//debian.pid ended
[1]+ done     /usr/local/mysql/bin/mysqld_safe /etc/my.cnf

以上就是mysql cluster初步部署, 之后会写haproxy+keepalive 双机高可用.