在PostgreSQL的基础上创建一个MongoDB的副本的教程
我有一个偷懒的想法。这个好点子该如何开始呢?好吧,这是一个恰如其分的小疯狂:为什么不直接在postgres的基础上建立我们自己的mongodb版本呢?这听起来有点牵强附会,但却简单而实在。
当nosql运动风生水起的时候,postgres社区没有干坐着摆弄他们的大拇指。他们持续开发,贯穿整个postgres的生态系统,几个突出的功能吸引了我的眼球:整合json支持和plv8。plv8把v8 javascript引擎引入到postgres,他让javascript成为一个第一类别的语言(first-class language)。拥有json类型让它能更容易地处理json(这很有效)。
开始前需要做的准备:
- postgres 9.2+ (as of this blog entry, 9.2 is in beta) - http://www.postgresql.org/ftp/source/
- v8 - https://github.com/v8/v8
- plv8 - http://code.google.com/p/plv8js/wiki/plv8
mongodb的最低级别是集合. 集合可以用表来表示:
create table some_collection ( some_collection_id serial not null primary key, data json );
字符型的json 被保存在 postgres 表里,简单易行 (现在看是这样).
下面实现自动创建集合. 保存在集合表里:
create table collection ( collection_id serial not null primary key, name varchar ); -- make sure the name is unique create unique index idx_collection_constraint on collection (name);
一旦表建好了,就可以通过存储过程自动创建集合. 方法就是先建表,然后插入建表序列.
create or replace function create_collection(collection varchar) returns boolean as $$ var plan1 = plv8.prepare('insert into collection (name) values ($1)', [ 'varchar' ]); var plan2 = plv8.prepare('create table col_' + collection + ' (col_' + collection + '_id int not null primary key, data json)'); var plan3 = plv8.prepare('create sequence seq_col_' + collection); var ret; try { plv8.subtransaction(function () { plan1.execute([ collection ]); plan2.execute([ ]); plan3.execute([ ]); ret = true; }); } catch (err) { ret = false; } plan1.free(); plan2.free(); plan3.free(); return ret; $$ language plv8 immutable strict;
有了存储过程,就方便多了:
select create_collection('my_collection');
解决了集合存储的问题,下面看看mongodb数据解析. mongodb 通过点式注解方法操作完成这一动作:
create or replace function find_in_obj(data json, key varchar) returns varchar as $$ var obj = json.parse(data); var parts = key.split('.'); var part = parts.shift(); while (part && (obj = obj[part]) !== undefined) { part = parts.shift(); } // this will either be the value, or undefined return obj; $$ language plv8 strict;
上述功能返回varchar,并不适用所有情形,但对于字符串的比较很有用:
select data from col_my_collection where find_in_obj(data, 'some.element') = 'something cool'
除了字符串的比较, mongodb还提供了数字类型的比较并提供关键字exists . 下面是find_in_obj() 方法的不同实现:
create or replace function find_in_obj_int(data json, key varchar) returns int as $$ var obj = json.parse(data); var parts = key.split('.'); var part = parts.shift(); while (part && (obj = obj[part]) !== undefined) { part = parts.shift(); } return number(obj); $$ language plv8 strict; create or replace function find_in_obj_exists(data json, key varchar) returns boolean as $$ var obj = json.parse(data); var parts = key.split('.'); var part = parts.shift(); while (part && (obj = obj[part]) !== undefined) { part = parts.shift(); } return (obj === undefined ? 'f' : 't'); $$ language plv8 strict;
接下来是数据查询. 通过现有的材料来实现 find() 方法.
保存数据到集合中很简单。首先,我们需要检查json对象并寻找一个_id值。这部分代码是原生的假设,如果_id已存在这意味着一个更新,否则就意味着一个插入。请注意,我们目前还没有创建objectid,只使用了一个序列待其发生:
create or replace function save(collection varchar, data json) returns boolean as $$ var obj = json.parse(data); var id = obj._id; // if there is no id, naively assume an insert if (id === undefined) { // get the next value from the sequence for the id var seq = plv8.prepare("select nextval('seq_col_" + collection + "') as id"); var rows = seq.execute([ ]); id = rows[0].id; obj._id = id; seq.free(); var insert = plv8.prepare("insert into col_" + collection + " (col_" + collection + "_id, data) values ($1, $2)", [ 'int', 'json']); insert.execute([ id, json.stringify(obj) ]); insert.free(); } else { var update = plv8.prepare("update col_" + collection + " set data = $1 where col_" + collection + "_id = $2", [ 'json', 'int' ]); update.execute([ data, id ]); } return true; $$ language plv8 immutable strict;
基于这个观点,我们可以构建一些插入的简单文档:
{ "name": "jane doe", "address": { "street": "123 fake street", "city": "portland", "state": "or" }, "age": 33 } { "name": "sarah smith", "address": { "street": "456 real ave", "city": "seattle", "state": "wa" } } { "name": "james jones", "address": { "street": "789 infinity way", "city": "oakland", "state": "ca" }, "age": 23 }
让我们创建一个集合并插入一些数据:
work=# select create_collection('data'); create_collection ------------------- t (1 row) work=# select save('data', '{ our object }'); save ------ t (1 row)
你可以通过检查“col_data”表的内容来查看对象。
其它翻译版本(1)
现在我们已经有了一些数据,让我们再查询一下。假设我们想查找住在俄勒冈或华盛顿州年龄大于30的所有人,使用一个mongodb风格的find():
{ "$or": [ { "address.state": "or" }, { "address.state": "wa" } ], "age": { "$gt": 30 } }
因为上次我们已经创建了一些深度的包检测,现在就很容易创建查询并返回jane doe:
select data from col_data where find_in_obj_int(data, 'age') > 30 and ( find_in_obj(data, 'address.state') = 'or' or find_in_obj(data, 'address.state') = 'wa' )
我采用了写一个递归调用函数来建立where子句的方法。它有点长,所以我没有把它贴在这里而是放在github上。一旦find()存储过程被创建,我们就可以在查询中使用它。我们应该能够看到jane doe被返回:
work=# select find('data', '{ "$or": [ { "address.state": "or" }, { "address.state": "wa" } ], "age": { "$gt": 30 } }');
这样奏效:它不优雅,但它奏效。这是一个概念的证明,而且几乎没有像它一样好的可能。我之前曾被问过为什么不使用hstore。虽然你可以存储嵌套的hstore和数组值,但它仍不是json,并且不容易通过plv8操作。这将需要一个从hstore到json的序列器,这个序列器在任何时间将请求的返回序列化成mongodb接受的数据形式,但依旧太容易在javascript中处理。这是次优选择,毕竟我们是要在postgres的基础上创建一个mongodb的副本。
源码可以在github上找到:fork并尝试一下吧,记得回馈哦。
推荐阅读
-
在MongoDB中创建一个索引而性能提升1000倍的小例子
-
在Linux上安装Python的Flask框架和创建第一个app实例的教程
-
在PostgreSQL的基础上创建一个MongoDB的副本的教程
-
PS网页设计教程XVI——在PS中创建一个摩登实验室风格的网页设计
-
PS网页设计教程XIX——在Photoshop中创建一个优雅的作品集的网页布局
-
在Linux上安装Python的Flask框架和创建第一个app实例的教程
-
PS网页设计教程XIX——在Photoshop中创建一个优雅的作品集的网页布局
-
PS网页设计教程XVI——在PS中创建一个摩登实验室风格的网页设计
-
在MongoDB中创建一个索引而性能提升1000倍的小例子
-
在PostgreSQL的基础上创建一个MongoDB的副本的教程