详解MySQL下InnoDB引擎中的Memcached插件
前些年,handlersocket的横空出世让人们眼前一亮,当时我还写了介绍了其用法梗概,时至今日,由于种种原因,handlersocket并没有真正流行起来,不过庆幸的是mysql官方受其启发,研发了基于innodb的memcached插件,总算是在mysql中延续了nosql的香火,以前单独架设memcached服务器不仅浪费了内存,而且还必须自己维护数据的不一致问题,有了memcached插件,这些问题都不存在了,而且借助mysql本身的复制功能,我们可以说是变相的实现了memcached的复制,这更是意外之喜。
安装
为了让文章更具完整性,我们选择从源代码安装mysql,需要注意的是早期的版本有内存泄漏,所以推荐安装最新的稳定版,截至本文发稿时为止,最新的稳定版是5.6.13,我们就以此为例来说明,过程很简单,只要激活了with_innodb_memcached即可:
shell> groupadd mysql shell> useradd -r -g mysql mysql shell> tar zxvf mysql-5.6.13.tar.gz shell> cd mysql-5.6.13 shell> cmake . -dwith_innodb_memcached=on shell> make shell> make install shell> cd /usr/local/mysql shell> chown -r mysql . shell> chgrp -r mysql . shell> scripts/mysql_install_db --user=mysql shell> chown -r root . shell> chown -r mysql data shell> bin/mysqld_safe --user=mysql & shell> cp support-files/mysql.server /etc/init.d/mysql.server
mysql安装完毕后,在插件目录我们能看到innodb_engine.so和libmemcached.so:
mysql> select @@plugin_dir; +------------------------------+ | @@plugin_dir | +------------------------------+ | /usr/local/mysql/lib/plugin/ | +------------------------------+
mysql> source /usr/local/mysql/share/innodb_memcached_config.sql
mysql> install plugin daemon_memcached soname "libmemcached.so"; mysql> uninstall plugin daemon_memcached;
memcached插件相关的配置信息如下,具体介绍可以参考:
mysql> show variables like '%memcached%'; +----------------------------------+------------------+ | variable_name | value | +----------------------------------+------------------+ | daemon_memcached_enable_binlog | off | | daemon_memcached_engine_lib_name | innodb_engine.so | | daemon_memcached_engine_lib_path | | | daemon_memcached_option | | | daemon_memcached_r_batch_size | 1 | | daemon_memcached_w_batch_size | 1 | +----------------------------------+------------------+
差不多了,此时memcached端口应该准备就绪了,你可以试试看:
shell> echo "stats" | nc localhost 11211
换句话说,mysql已经兼容memcached协议,可以直接使用memcached命令。
配置
在安装步骤里,我们导入了一个名为innodb_memcached_config.sql的脚本,它创建了一库(innodb_memcache)三表(cache_policies, config_options, containers):
mysql> use innodb_memcache mysql> show tables; +---------------------------+ | tables_in_innodb_memcache | +---------------------------+ | cache_policies | | config_options | | containers | +---------------------------+
定义了缓存策略,包含如下选择:
innodb_only:只使用innodb作为数据存储。
cache-only:只使用传统的memcached引擎作为后端存储。
caching:二者皆使用,如果在memcached里找不到,就查询innodb。
定义了分隔符号:
separator:memcached只识别单值,使用此分隔符(|)来连接多个字段的值。
table_map_delimiter:通过此分隔符(.)来确认表和键,如:@@table.key。
如果我们想通过memcached协议来访问一个表,需要先在containers中配置它:
mysql> select * from containers\g *************************** 1. row *************************** name: aaa db_schema: test db_table: demo_test key_columns: c1 value_columns: c2 flags: c3 cas_column: c4 expire_time_column: c5 unique_idx_name_on_key: primary
如上已经有了test数据库的demo_test表,通过c1查询c2的值,表结构如下所示:
mysql> desc test.demo_test; +-------+---------------------+------+-----+---------+-------+ | field | type | null | key | default | extra | +-------+---------------------+------+-----+---------+-------+ | c1 | varchar(32) | no | pri | | | | c2 | varchar(1024) | yes | | null | | | c3 | int(11) | yes | | null | | | c4 | bigint(20) unsigned | yes | | null | | | c5 | int(11) | yes | | null | | +-------+---------------------+------+-----+---------+-------+
缺省情况下有一行数据:
mysql> select * from test.demo_test; +----+--------------+------+------+------+ | c1 | c2 | c3 | c4 | c5 | +----+--------------+------+------+------+ | aa | hello, hello | 8 | 0 | 0 | +----+--------------+------+------+------+
让我们用memcached协议来访问看看:
shell> echo "get @@aaa.aa" | nc localhost 11211 value @@aaa.aa 8 12 hello, hello end
我们还可以先设定缺省访问的表,然后后续的查询就只写键名就可以了:
shell> (echo "get @@aaa"; echo "get aa") | nc localhost 11211 value @@aaa 0 14 test/demo_test end value aa 8 12 hello, hello end
虽然我的例子都是通过命令行执行的,但是大家很容易就更改写成php之类的方法。
限制
memcached插件用起来非常简单,不过并不是一切都很完美,比如说:当我们配置表的时候,containers表的字段,除了key_columns和value_columns以外,其它的字段,如:flags,cas_column,expire_time_column等也必须设定,可是很多时候,我们在原表中找不到贴切的字段,此时就只能对应新建三个字段,味道很恶心。
此外,containers表还有如下:
- key_columns字段的类型必须是char或varchar,且最大长度是250个字符。
- value_columns字段的类型必须是char或varchar或blob,长度不限。
- cas_column字段的类型必须是bigint。
- expiration_time_column字段的类型必须是int。
- flags字段的类型必须是int。
说明:随着mysql版本的更新,这些限制可能会发生变化,请大家以实际情况为准。
实战
让我们以一个用户登录的例子来检验一下学习成果:
首先在测试数据库创建一个用户表:
use `test` create table `users` ( `id` int(10) unsigned not null auto_increment, `username` varchar(15) not null, `password` varchar(32) not null, `email` varchar(50) not null, `flags` int(10) unsigned default '0', `cas_column` bigint(20) unsigned default '0', `expire_time_column` int(10) unsigned default '0', primary key (`id`), unique key `username` (`username`) ) engine=innodb;
然后添加几行测试数据:
insert into `users` (`username`, `password`, `email`) values ('foo', 'ffffffffffffffffffffffffffffffff', 'foo@domain.com'), ('bar', 'bbbbbbbbbbbbbbbbbbbbbbbbbbbbbbbb', 'bar@domain.com');
接着在containers里配置这个表:
insert into innodb_memcache.containers ( name, db_schema, db_table, key_columns, value_columns, flags, cas_column, expire_time_column, unique_idx_name_on_key ) values ( 'default', 'test', 'users', 'username', 'password|email', 'flags', 'cas_column', 'expire_time_column', 'username' );
这里我们定义了多个字段(password和email)作为value_columns,并且使用竖线作为分隔符,实际上使用空格,逗号之类分隔符也可以,在innodb_config.c文件的源代码中能查到如下关于分隔符的定义,文档里并没有涵盖这些信息:
static const char* sep = " ;,|\n";
最后使用memcached协议来访问一下,这里我们换个花样,执行一个mget操作:
shell> echo "get foo bar" | nc localhost 11211 value foo 0 47 ffffffffffffffffffffffffffffffff|foo@domain.com value bar 0 47 bbbbbbbbbbbbbbbbbbbbbbbbbbbbbbbb|bar@domain.com end
既然我定义value_columns的时候设置了多个字段,那么返回数据的时候自然也返回多个字段的数据,并且它们依照innodb_memcache.config_options表中的separator字段来分隔,缺省情况下是一个竖线,如果你的字段内容里包含了竖线,那么就会和缺省值发生冲突,此时你可以更新separator的定义,比如改成三个竖线等等,需要提醒的是,修改后别忘了重启memcached插件。
说明:因为们在配置的时候把表命名为default,所以在请求的时候不用传递表名。如果不存在default,那么会把名字按照字母顺序正序排列,排在第一位的就是缺省。
…
本文在使用memcached插件的时候,所有例子均使用的是读操作,实际上写操作也是支持的,不过在实际使用时,我更倾向于写操作都通过sql来执行,而memcached插件仅处理kv形式的读操作,实际压力测试的结果显示,memcached插件比sql的方式,性能提升了百分之一百左右,虽然仍不及独立的memcached,但考虑到其它的优势,这个结果已经很让人欣喜了,下一站,innodb的memcached插件!大家做好准备吧。
推荐阅读