欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

MySQL-Atlas实现读写分离

程序员文章站 2022-03-26 10:10:25
MySQL-Atlas实现读写分离Atlas简介Atlas是由 Qihoo 360, Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它是在mysql-proxy 0.8.2版本的基础上,对其进行了优化,增加了一些新的功能特性。  Atlas是一个位于应用程序与MySQL之间中间件。在后端DB看来,Atlas相当于连接它的客户端,在前端应用看来,Atlas相当于一个DB。Atlas作为服务端与应用程序通讯,它实现了MySQL的客户端和服务端协议,同时作为客户端与MySQL通...

MySQL-Atlas实现读写分离

Atlas简介

Atlas是由 Qihoo 360, Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它是在mysql-proxy 0.8.2版本的基础上,对其进行了优化,增加了一些新的功能特性。
  Atlas是一个位于应用程序与MySQL之间中间件。在后端DB看来,Atlas相当于连接它的客户端,在前端应用看来,Atlas相当于一个DB。Atlas作为服务端与应用程序通讯,它实现了MySQL的客户端和服务端协议,同时作为客户端与MySQL通讯。它对应用程序屏蔽了DB的细节,同时为了降低MySQL负担,它还维护了连接池。
  下载地址:https://github.com/Qihoo360/Atlas/releases

Atlas所处的架构

在一主多从的数据架构中,使用Atlas作为中间件,实现主库和从库之间的读写分离

MySQL-Atlas实现读写分离

实验准备

实验前提,MySQL的主从服务均已搭建完毕

在主库创建授权Atlas登录的用户

mysql> grant all on *.* to 'lao'@'%' identified by '123'; #创建Atlas授权用户,用户密码会加密写在Atlas的配置文件中

主库:192.168.4.111–server_id=1

从库:192.168.4.112–server_id=2

​ 192.168.4.115–server_id=3

Atlas:192.168.4.113

客户机:192.168.4.114

安装Atlas

在官网下载Atlas-2.2.1.el6.x86_64.rpm软件包

rpm -ivh Atlas-2.2.1.el6.x86_64.rpm #安装软件包,Atlas就安装完毕

Atlas安装位置:/usr/local/mysql-proxy

Atlas配置文件:/usr/local/mysql-proxy/conf/test.cnf

Atlas的bin目录下可执行文件

encrypt:用来生成MySQL密码加密的,在配置的时候会用到

mysql-proxy:MySQL自己的读写分离代理

mysql-proxyd:服务的启动、重启、停止。都是用他来执行的

Atlas配置文件解读

vim /usr/local/mysql-proxy/conf/test.cnf 
[mysql-proxy]
(必备,根据实际情况配置)管理接口的用户名,用户Atlas用户管理的用户
• admin-username = user
(必备,根据实际情况配置)管理接口的密码
• admin-password = pwd
(必备,根据实际情况配置)主库的IP和端口
• proxy-backend-addresses = 192.168.4.111:3306
(非必备,根据实际情况配置)从库的IP和端口,@后面的数字代表权重,用来作负载均衡,若省略则默认为1,可设置多项,用逗号分隔。如果想让主库也能分担读请求的话,只需要将主库信息加入到下面的配
置项中。
• proxy-read-only-backend-addresses = 192.168.4.112:3306,192.168.4.115:3306
(必备,根据实际情况配置)用户名与其对应的加密过的MySQL密码,密码使用PREFIX/bin目录下的加密程序encrypt加密,用户名与密码之间用冒号分隔。主从数据库上需要先创建该用户并设置密码(用户名和密
码在主从数据库上要一致)。比如用户名为myuser,密码为mypwd,执行./encrypt mypwd结果为HJBoxfRsjeI=。如果有多个用户用逗号分隔即可。则设置如下行所示:
• pwds = lao:3yb5jEku5h4=
(必备,默认值即可)Atlas的运行方式,设为true时为守护进程方式,设为false时为前台方式,一般开发调试时设为false,线上运行时设为true
• daemon = true
(必备,默认值即可)设置Atlas的运行方式,设为true时Atlas会启动两个进程,一个为monitor,一个为worker,monitor在worker意外退出后会自动将其重启,设为false时只有worker,没有monitor,一般开发
调试时设为false,线上运行时设为true
• keepalive = true
(必备,根据实际情况配置)工作线程数,推荐设置成系统的CPU核数的2至4倍
• event-threads = 8
(必备)日志级别,分为message、warning、critical、error、debug五个级别
• log-level = message 
(必备,默认值即可)日志存放的路径
• log-path = /usr/local/mysql-proxy/log
(必备,根据实际情况配置)SQL日志的开关,可设置为OFF、ON、REALTIME,OFF代表不记录SQL日志,ON代表记录SQL日志,该模式下日志刷新是基于缓冲区的,  当日志填满缓冲区后,
 才将日志信息刷到磁盘。REALTIME用于调试,代表记录SQL日志且实时写入磁盘,默认为OFF
• sql-log = OFF
(可选项,可不设置)慢日志输出设置。当设置了该参数时,则日志只输出执行时间超过sql-logslow(单位:ms)的日志记录。不设置该参数则输出全部日志。
• sql-log-slow = 10
(可选项,可不设置)关闭不活跃的客户端连接设置。当设置了该参数时,Atlas会主动关闭经过'wait-timeout'时间后一直未活跃的连接。单位:秒
wait-timeout = 10
(必备,默认值即可)Atlas监听的工作接口IP和端口,
proxy-address = 0.0.0.0:1234
(必备,默认值即可)Atlas监听的管理接口IP和端口,用户Atlas用户管理的接口 
admin-address = 0.0.0.0:2345
(可选项,可不设置)默认字符集,若不设置该项,则默认字符集为latin1
charset = utf8
(可选项,可不设置)允许连接Atlas的客户端的IP,可以是精确IP,也可以是IP段,以逗号分隔,若不设置该项则允许所有IP连接,否则只允许列表中的IP连接
client-ips = 127.0.0.1, 192.168.1

Atlas相关命令

/usr/local/mysql-proxy/bin/mysql-proxyd test start  #开启Atlas
OK: MySQL-Proxy of test is started  #表示开启成功
/usr/local/mysql-proxy/bin/mysql-proxyd test stop  #关闭Atlas
/usr/local/mysql-proxy/bin/mysql-proxyd test restart  #重启Atlas

查看端口

[root@localhost bin]# ss -antp | grep proxy  #开启Atlas后,端口正常开启
LISTEN     0      128                       *:2345                     *:*      users:(("mysql-proxy",1898,9))
LISTEN     0      128                       *:1234                     *:*      users:(("mysql-proxy",1898,10))

读写分离

在客户机进行测试操作

登录的是主库的授权用户,授权用户在配置文件添加

开启Atlas后,进行读写分离读操作测试,可以查询数据库发现,每个库的server_id是不一样的,通过查询可以指定读操作被分配都了db2和db3上了

当MySQL仅有的一个从库关闭的情况下,写操作成功,读操作也漂移到主库上执行

有两个slave时,当第一个从库崩溃时执行查询语句,语句都在第二个节点查询

[root@localhost ~]# mysql -h192.168.4.113 -P1234 -ulao -p123  #登录Atlas
mysql> select @@server_id;
+-------------+
| @@server_id |
+-------------+
|           2 |
+-------------+
1 row in set (0.00 sec)

mysql> select @@server_id;
+-------------+
| @@server_id |
+-------------+
|           3 |
+-------------+
1 row in set (0.00 sec)
#由两次的查询得知,两台从服务器实现了负载均衡

进行读写分离写操作测试,我们可以专门开启一个事务来查询server_id。Atlas会认为事务是写操作,所以会将请求分配到主库db1节点。

mysql> begin;select @@server_id;commit;
Query OK, 0 rows affected (0.00 sec)
+-------------+
| @@server_id |
+-------------+
|           1 |   #写的操作的执行库通过server_id可知是主库
+-------------+
1 row in set (0.00 sec)
Query OK, 0 rows affected (0.00 sec)

Atlas管理

对主库、从库的一些管理,这时启用的是Atlas的关机用户和管理端口

登录管理用户

[root@localhost ~]# mysql -h192.168.4.113 -P2345 -uuser -ppwd

查询管理命令

mysql> select * from help;  #
+----------------------------+---------------------------------------------------------+
| command                    | description                                             |
+----------------------------+---------------------------------------------------------+
| SELECT * FROM help         | shows this help                                         |
| SELECT * FROM backends     | lists the backends and their state                      |
| SET OFFLINE $backend_id    | offline backend server, $backend_id is backend_ndx's id |
| SET ONLINE $backend_id     | online backend server, ...                              |
| ADD MASTER $backend        | example: "add master 127.0.0.1:3306", ...               |
| ADD SLAVE $backend         | example: "add slave 127.0.0.1:3306", ...                |
| REMOVE BACKEND $backend_id | example: "remove backend 1", ...                        |
| SELECT * FROM clients      | lists the clients                                       |
| ADD CLIENT $client         | example: "add client 192.168.1.2", ...                  |
| REMOVE CLIENT $client      | example: "remove client 192.168.1.2", ...               |
| SELECT * FROM pwds         | lists the pwds                                          |
| ADD PWD $pwd               | example: "add pwd user:raw_password", ...               |
| ADD ENPWD $pwd             | example: "add enpwd user:encrypted_password", ...       |
| REMOVE PWD $pwd            | example: "remove pwd user", ...                         |
| SAVE CONFIG                | save the backends to config file                        |
| SELECT VERSION             | display the version of Atlas                            |
+----------------------------+---------------------------------------------------------+
16 rows in set (0.00 sec)

查询所有的节点

mysql> select * from backends; #查询出所有的库
+-------------+--------------------+-------+------+
| backend_ndx | address            | state | type |  # backend_ndx:服务器编号
+-------------+--------------------+-------+------+  # address:服务ip及端口
|           1 | 192.168.4.111:3306 | up    | rw   |  # state:服务器的状态up为正常开启
|           2 | 192.168.4.112:3306 | up    | ro   |  # type:服务器的类型,rw可进行写操作,ro可进行读操作
|           3 | 192.168.4.115:3306 | up    | ro   |
+-------------+--------------------+-------+------+
3 rows in set (0.00 sec)

服务器的上线和下线

mysql> set offline 2;  #backend_ndx为2的服务器下线
+-------------+--------------------+---------+------+
| backend_ndx | address            | state   | type |
+-------------+--------------------+---------+------+
|           2 | 192.168.4.112:3306 | offline | ro   |  # backend_ndx为2的服务器的state为offline,下线了
+-------------+--------------------+---------+------+ 
1 row in set (0.01 sec)
mysql> select * from backends;
+-------------+--------------------+---------+------+
| backend_ndx | address            | state   | type |
+-------------+--------------------+---------+------+
|           1 | 192.168.4.111:3306 | up      | rw   |
|           2 | 192.168.4.112:3306 | offline | ro   |  # 查看
|           3 | 192.168.4.115:3306 | up      | ro   |
+-------------+--------------------+---------+------+
3 rows in set (0.00 sec)


mysql> set online 2;  #backend_ndx为2的服务器上线
+-------------+--------------------+---------+------+
| backend_ndx | address            | state   | type |
+-------------+--------------------+---------+------+
|           2 | 192.168.4.112:3306 | unknown | ro   |  # backend_ndx为2的服务器的state为offline,上线了
+-------------+--------------------+---------+------+
1 row in set (0.00 sec)
mysql> select * from backends;
+-------------+--------------------+-------+------+
| backend_ndx | address            | state | type |
+-------------+--------------------+-------+------+
|           1 | 192.168.4.111:3306 | up    | rw   |
|           2 | 192.168.4.112:3306 | up    | ro   |  # 查看
|           3 | 192.168.4.115:3306 | up    | ro   |
+-------------+--------------------+-------+------+
3 rows in set (0.00 sec)

删除和添加节点

mysql> remove backend 3;  #删除backend_ndx为3的服务器
Empty set (0.00 sec)
mysql> select * from backends;
+-------------+--------------------+-------+------+
| backend_ndx | address            | state | type |
+-------------+--------------------+-------+------+
|           1 | 192.168.4.111:3306 | up    | rw   | # 查看,少了一个
|           2 | 192.168.4.112:3306 | up    | ro   |
+-------------+--------------------+-------+------+
2 rows in set (0.00 sec)

mysql> add slave 192.168.4.113:3306;  #增加一个从的服务器
Empty set (0.00 sec)
mysql> select * from backends;
+-------------+--------------------+-------+------+
| backend_ndx | address            | state | type |
+-------------+--------------------+-------+------+
|           1 | 192.168.4.111:3306 | up    | rw   |
|           2 | 192.168.4.112:3306 | up    | ro   |  # 查看多了一个
|           3 | 192.168.4.113:3306 | down  | ro   |  #state为:down,重启Atlas机器变为up
+-------------+--------------------+-------+------+
3 rows in set (0.00 sec)

用户管理

要将用户添加到Atlas中,后端节点必须有这个用户。即先到主库创建用户,再连接到Atlas管理界面进行添加

所有的管理操作要想永久生效,必须执行 save config;来保存到配置文件中才能生效

1.主库添加授权用户

[root@localhost ~]# mysql -uroot  #登录主库
mysql> grant all on *.* to 'hh'@'%' identified by '123';  #添加用户

2.Atlas添加授权用户

[root@localhost ~]# mysql -h192.168.4.114 -uuser -ppwd -P123  #登录Atlas管理用户
mysql> add pwd hh:123;  #增加用户信息
mysql> select * from pwds;  #查看用户信息
+----------+--------------+
| username | password     |
+----------+--------------+
| lao      | 3yb5jEku5h4= |
| hh       | 3yb5jEku5h4= |
+----------+--------------+
2 rows in set (0.00 sec)

3.Atlas删除授权用户

mysql> remove pwd hh;  #删除授权用户
Empty set (0.00 sec)
mysql> select * from pwds;  #查看用户信息
+----------+--------------+
| username | password     |
+----------+--------------+
| lao      | 3yb5jEku5h4= |
+----------+--------------+
1 row in set (0.00 sec)

本文地址:https://blog.csdn.net/weixin_46686835/article/details/110461397