欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  网络运营

MemcacheQ安装及使用方法

程序员文章站 2022-05-20 17:26:23
一. 安装 memcacheq 是一个简单的分布式队列服务,它的运行依赖于berkeleydb 和 libevent,所以需要先安装berkeleydb和libevent...

一. 安装
memcacheq 是一个简单的分布式队列服务,它的运行依赖于berkeleydb 和 libevent,所以需要先安装berkeleydb和libevent.
berkeley db 4.7 or later
download from <http://www.oracle.com/database/berkeley-db/db/index.html>
how to install berkeleydb:

$tar -xvzf db-5.3.21.tar.gz
$cd db-5.3.21/
$cd build_unix/
$../dist/configure
$make
$make install

安装berkeleydb时,可以手动指定安装路径:

../dist/configure --prefix=/usr/local/berkeleydb

不指定的话,默认安装在:/usr/local/berkeleydb.5.3

libevent 1.4.x or later

先检查libevent 是否已经安装:

#rpm -qa|grep libevent
libevent-devel-2.0.10-2.fc15.x86_64
libevent-2.0.10-2.fc15.x86_64
libevent-2.0.10-2.fc15.i686

或者:

ls -al /usr/lib |grep libevent

如果还没有安装:

download from <http://monkey.org/~provos/libevent/>
how to install libevent:

$tar -xvzf libevent-1.4.x-stable.tar.gz
$cd libevent-1.4.x-stable
$./configure
$make
$make install

安装libevent时,可以手动指定安装路径:

./configure --prefix=/usr/local/libevent

不指定的话,默认安装在:/usr/lib64(64位系统)或者/usr/lib(32位系统)

memcacheq

下载软件包:http://code.google.com/p/memcacheq/downloads/list
解压缩,cd进目录

./configure --enable-threads
make
make install

configure 时,如果libevent 不是安装在默认目录,需--with--libevent=/usr/local/libevent指定libevent的安装目录
若没有将

/usr/local/lib
/usr/local/berkeleydb.5.3/lib

添加进/etc/ld.so.conf 并运行 /sbin/ldconfig 则需--with-bdb=/usr/local/berkeleydb.5.3 指定berkeleydb库的路径

二.使用

启动memcacheq
使用memcacheq -h 的命令来查看命令行选项
启动memcacheq:memcacheq -d -u nobody -r -h /tmp/memcacheq -n -r -v -l 1024 -b 1024 > /tmp/mq_error.log 2>&1
启动时需-u 参数,指定运行memcacheq的用户,且指定的用户必须有数据文件的读写权限,如这里的/tmp/memcacheq目录,否则不能启动

命令行使用memcacheq
telnet 127.0.0.1 22202
trying 127.0.0.1…
connected to 127.0.0.1.
escape character is ‘^]'.

只有两个命令可以在命令行下使用memcacheq
写对列:
set <queue name> <flags> 0 <message_len>\r\n
<put your message body here>\r\n
stored\r\n
取出队列:
get <queue name>\r\n
value <queue name> <flags> <message_len>\r\n
<your message body will come here>\r\n
end\r\n
与memcache协议基本一致,只是把key name换成queue name,而且在set的命令中,忽略了expire_time的参数。mq的数据存储是存在berkeleydb中,做了持久化存储,没有内存的过期时间。
示例:
 telnet 127.0.0.1 22202
trying 127.0.0.1…
connected to 127.0.0.1.
escape character is ‘^]'.
set q4 0 0 5
hello
stored
set q4 0 0 5
world
stored
stats queue
stat q4 2/0
end
get q4
value q4 0 5
hello
end
stats queue
stat q4 2/1
end

三.安装使用过程中可能出现的错误

1.编译出现错误:checking for library containing db_create... no
configure: error: cannot find libdb.so in /usr/local/berkeleydb.5.3/lib
需要修改 configure 中的berkeleydb中的预编译参数vim configure找到bdbdir="/usr/local/berkeleydb"改为
bdbdir="/usr/local/berkeleydb.5.3"再次编译

2.configure: error: cannot find libdb.so in /usr/local/berkeleydb.5.3/lib
出现此错误的原因在于没有安装berkyleydb,安装即可

3./usr/local/memcacheq/bin/memcachq -h
            运行报:
            memcacheq: error while loading shared libraries: libdb-5.3.so: cannot open shared object file: no such file or directory
        解决方法:ln -s /usr/local/berkeleydb.5.3/lib/libdb-5.3.so /usr/lib/libdb-5.3.so
       注:在64位操作系统中,需执行
ln -s /usr/local/berkeleydb.5.3/lib/libdb-5.3.so /usr/lib64/libdb-5.3.so

使用memcacheq做异步队列,做个简单的生产者-消费者模型。生产者将数据写入mq中,消费者异步去队列中去取数据,进而进一步的消费处理数据。

#!/usr/bin/env python
#-*- coding:utf8 -*-
 
import sys
import time
import random
 
import memcache
 
mc = memcache.client(["%s:%s"%("127.0.0.1", "22202")])
queue_name = "q1"
def putter():
  count = 0
  while true:
    data = "hello%d"%(count)
    mc.set(queue_name, data)
    print "put ", data
    count += 1
    time.sleep(random.randint(1, 10))
 
def process_data(data):
  print "processing data :", data
 
def getter():
  while true:
    data = mc.get(queue_name)
    if data:
      process_data(data)
    else:
      print "no message, sleep for a while ..."
      time.sleep(30)
 
if __name__ == "__main__":
  if len(sys.argv) != 2:
    print "wrong arg numbers"
  else:
    cmd = sys.argv[1]
    if cmd == "put": putter()
    elif cmd == "get": getter()
    else: print "wrong cmd"

在使用时,开两个终端模拟两个进程,在一个终端中运行

python mqdemo.py put

来模拟生产者;另一个终端中运行

python mqdemo.py get

模拟消费者。