解决python-redis-lock分布式锁的问题

python-redis-lock

官方文档

问题背景

在使用celery执行我们的异步任务时，为了提高效率，celery可以开启多个进程来启动对应的worker。
但是会出现这么一种情况：在获取到数据源之后要对数据库进行扫描，根据uuid来断定是插入还是更新，两个worker 同时 (相差0.001s)拿到了uuid但是在其中一个没插入时，另一个也扫描完了数据库，这时这两个worker都会认为自己拿到的uuid是在数据库中没有存在过的，所以都会调用insert方法来进行插入操作。

几种解决方案

为了解决这个问题，一般有如下解决方案.
分布式锁家族：

数据库：

• 排它锁（悲观锁）
• 乐观锁

redis

1. 自己实现redis set setnx 操作，结合lua脚本确保原子操作
2. redlock redis里分布式锁实现的算法，争议比较大，谨慎使用
3. python-redis-lock 本文将要介绍的技术。这个库提供的分布式锁很灵活，是否需要超时？是否需要自动刷新？是否要阻塞？都是可选的。没有最好的算法，只有最合适的算法，开发人员应该根据实际需求场景谨慎选择具体用哪一种技术去实现。

设计思路：

 

zookeeper
这个应该是功能最强大的，比较专业，稳定性好。我还没使用过，日后玩明白了再写篇文章总结一下。

扩展思路

在celery的场景下也可以使用celery_once进行任务去重操作, celery_once底层也是使用redis进行实现的。

talk is cheap, show me your code!

一个简单的demo

import random
import time
import threading
import redis_lock
import redis

host = 'your ip locate'
port = '6379'
password = 'password'


def get_redis():
    pool = redis.connectionpool(host=host, port=port, password=password, decode_responses=true, db=2)
    r = redis.redis(connection_pool=pool)
    return r


def ask_lock(uuid):
    lock = redis_lock.lock(get_redis(), uuid)
    if lock.acquire(blocking=false):
        print(" %s got the lock." % uuid)
        time.sleep(5)
        lock.release()
        print(" %s release the lock." % uuid)
    else:
        print(" %s someone else has the lock." % uuid)


def simulate():
   for i in range(10):
        id = random.randint(0, 5)
        t = threading.thread(target=ask_lock, args=(str(id)))
        t.start()


simulate()

output:

 4 got the lock.
 5 got the lock.
 3 got the lock.
 5 someone else has the lock.
 5 someone else has the lock.
 2 got the lock.
 5 someone else has the lock.
 4 someone else has the lock.
 3 someone else has the lock.
 3 someone else has the lock.
 2 release the lock.
 5 release the lock.
 4 release the lock.
 3 release the lock.

到此这篇关于python-redis-lock分布式锁的文章就介绍到这了,更多相关python分布式锁内容请搜索以前的文章或继续浏览下面的相关文章希望大家以后多多支持！