python3使用python-redis-lock解决并发计算问题
作者:海洋的渔夫 发布时间:2021-05-09 16:04:18
需求
我在最近的一个任务中,存在一个redis高并发计算多个客户端接收预警信息的时长问题。
模型是首先模拟多个客户端连接预警服务器集群,然后向预警服务集群发送告警信息。随后预警服务集群将会向客户端推送告警信息。
此时,我记录了发送告警至预警集群的时间,并且在客户端还会记录接收到告警的时间。
我将这个时间都会记录到redis中,那么此时就会有一个问题,当多个客户端抢占式往redis 读取数据,计算,设置数据,这个过程是会被相互覆盖的。
可以从上面的截图来看,多个不同的客户端读取redis的数据,大部分读取到了同一个数据,导致计算错误。
导致问题的示意图如下:
为了解决这个问题,则可以编写一个redis的锁,用来控制数据的并发读取以及写入。
在python redis库默认只有乐观锁的一种写法,在这里我再推荐使用一个库python-redis-lock,使用这个库对redis多个客户端并发的情况加锁,真的很方便。
下面来看看怎么使用。
python-redis-lock
https://pypi.org/project/python-redis-lock/
在使用这个库之前,需要安装如下:
pip install python-redis-lock
使用锁的示例:
lock = redis_lock.Lock(conn, "name-of-the-lock")
if lock.acquire(blocking=False):
print("Got the lock.")
lock.release()
else:
print("Someone else has the lock.")
上面是单独设置锁的方式,还可以单独设置所有redis的操作加入锁。
# On application start/restart
import redis_lock
redis_lock.reset_all(redis_client)
修改业务代码,增加lock操作
1. 首先导入redis_lock
import redis_lock
2.将redis连接的客户端传入lock中,并设置lock的名称
# 设置redis连接
self.conn = redis.Redis(host='127.0.0.1', port=6379, decode_responses=True, db=3)
# 设置redis锁
self.lock = redis_lock.Lock(self.conn, "redis-lock")
3.将业务读取、设置redis的部分加入锁
while True:
# 设置redis锁,操作redis
if self.lock.acquire(blocking=False):
print("Got the lock.")
# 获取lock,执行业务处理
# 获取当前redis钟记录的客户端接收到告警的总时长
recv_time_sum_count_clients = self.conn.get(recv_time_sum_count_clients_key)
if recv_time_sum_count_clients is None:
recv_time_sum_count_clients = "0:0"
# 获取当前的统计数据
recv_time_sum, count_clients = recv_time_sum_count_clients.split(":")
# 计算告警接收总时长
recv_time_sum = float(recv_time_sum) + recv_time
# 计算收到预警的客户端数量
count_clients = int(count_clients) + 1
# 写入redis中
recv_time_sum_count_clients = "%s:%s" % (str(recv_time_sum), str(count_clients))
self.conn.set(recv_time_sum_count_clients_key, recv_time_sum_count_clients)
print("user_id = %s, 计算平均时间成功, "
"recv_time_sum = %s, count_clients = %s \n" %
(self.user_id, recv_time_sum, count_clients))
# 释放lock
self.lock.release()
# 退出循环
break
else:
print("Someone else has the lock.")
在客户端的代码中设置了锁之后,再来执行一下,看看有无抢占读取redis数据的情况,如下:
设置了锁之后,客户端由于并发导致redis数据读取、设置错误的情况就可以避免了。
并且这个库还可以使用到Django框架中,更多细节读者可以到该库Github中细细查阅,本篇章就不介绍了,哈哈。
来源:https://blog.csdn.net/u012887259/article/details/103870425


猜你喜欢
- 先写一个SQLSELECT DISTINCT from_idFROM codWHERE cod.from_id NOT IN (37, 56
- 如下所示:'''以下代码均为讲解,不能实际操作''''''博客园 I
- 位置参数这是一个求等差数列和的函数,使用必需要传入一个参数n,这就是位置参数def sum(n): sum=0 &
- 最近实习需要对若干ppt进行格式上的调整,主要就是将标题的位置、对齐方式、字体等统一,人工修改又麻烦又容易错。因此结合网上的pptx包资料,
- 文章介绍内容:操作MySQL数据库:创建MySQL数据表;向表中插入记录;其他数据库操作。面试题:如何创建MySQL数据表?如何向MySQL
- 在网页制作中,表单中的对象总是给人一种单调与沉闷的感觉,比如说按钮、文本框等,它们一成不变的模样与颜色
- 线程间通信方法 1. 通信方法线程间使用全局变量进行通信 2. 共享
- 使用php,定义php的默认语言. php.ini中: default_charset = "gb2312" 在网页中输
- 最近和Sobin在做一个精品课程的项目,因为用到一个固定的id作为表间关联,所以在前一个表插入数据后要把插入数据生成的自增id传递给下一个表
- 本文实例讲述了Python3.5局部变量与全局变量作用域。分享给大家供大家参考,具体如下:1、局部变量与全局变量定义:在子程序(函数)中定义
- 最近一周每天早上起来第一件事,就是打开新闻软件看疫情相关的新闻。了解下自己和亲友所在城市的确诊人数,但纯数字还是缺乏一个直观的概念。那我们来
- 目标在本章中,将学习"Harris Corner Detection”背后的思想函数:cv2.cornerHa
- 哪的资料都不如官方资料权威。今天总算从MSDN中择出了ASP编码问题的解决方案。下面是MSDN中的一段话。Setting @CODEPAGE
- 今天做visual transformer研究的时候,发现了einops这么个神兵利器,决定大肆安利一波。先看链接:https://gith
- 本文实例讲述了js+html5通过canvas指定开始和结束点绘制线条的方法。分享给大家供大家参考。具体实现方法如下:<!DOCTYP
- format函数实现字符串格式化的功能基本语法为:通过 : 和 {} 来控制字符串的操作一、对字符串进行操作1. 不设置指定位置,按默认顺序
- 本文实例为大家分享了Python人脸识别的具体代码,供大家参考,具体内容如下1.利用opencv库sudo apt-get install
- 简介A的独有+AB的公有B的独有+AB的公有AB的公有A的独有B的独有A的独有+B的独有+AB的公有A的独有+B的独有练习建表部门表DROP
- 本文实例讲述了python实现简单温度转换的方法。分享给大家供大家参考。具体分析如下:这是一段简单的python代码,用户转换不同单位的温度
- 默认vue项目中已经使用vue-cli生成,安装axios,基于element-ui开发,axiosconfig目录和api目录是同级,主要