Go Map并发冲突预防与解决
作者:小马别过河 发布时间:2024-02-19 00:25:24
背景
关于 Go 语言的 Map,有两个需要注意的特性:
Map 是并发读写不安全的,这是出于性能的考虑;
Map 并发读写导致的错误,无法使用
recover
捕获。
后者意味着,只有出现并发读写的问题,服务就会挂掉。
这两个特性可能大家都知道,可即使有这个共识,我还是见过这个问题导致的事故。
事故的大致情况是,一个人封装了map的读写,没有使用锁。另一个人开协程读写 map。而测试环境请求量小,不一定会导致崩溃,于是,这个问题就留到生产环境才出现了。
除了靠开发者自觉和 code review,还能怎么预防这种情况呢?我觉得在单元测试加入并行测试也很重要。
并行单元测试
单元测试默认不是并发的,比如下面的单测,是可以通过的:
func TestConcurrent(t *testing.T) {
var m = map[string]int{}
// 写 map
t.Run("write", func(t *testing.T) {
for i := 0; i < 10000; i++ {
m["a"] = 1
}
})
// 读 map
t.Run("read", func(t *testing.T) {
for i := 0; i < 10000; i++ {
_ = m["a"]
}
})
}
但是我们的期望是,上面的单测不通过,该如何解决呢?
testing.T
有一个 Parallel
方法,它表示当前测试会和其他测试并行运行。 如果参数有-test.count
或-test.cpu
,一个测试可能运行多次,同个测试的多个运行实例,不会并行运行。
我们给上面的单测,加上t.Parallel()
:
func TestConcurrent(t *testing.T) {
var m = map[string]int{}
t.Run("write", func(t *testing.T) {
// 加上并行
t.Parallel()
for i := 0; i < 10000; i++ {
m["a"] = 1
}
})
t.Run("read", func(t *testing.T) {
// 加上并行
t.Parallel()
for i := 0; i < 10000; i++ {
_ = m["a"]
}
})
}
这次执行就会报错:
fatal error: concurrent map read and map write
支持并发的 Map
让 Map 支持并发读写并不麻烦,常见的做法有:
操作 map 的时候,加上读写锁
sync.RWMutex
;使用 sync.Map。
sync.RWMutex
大家用得可能比较多。这里简单给个demo。
sync.RWMutex
我们给上面的单测加上锁,这次运行就能通过了。
func TestConcurrent(t *testing.T) {
var m = map[string]int{}
// 定义锁,零值就可以使用
var mu sync.RWMutex
t.Run("write", func(t *testing.T) {
t.Parallel()
for i := 0; i < 10000; i++ {
// 锁
mu.Lock()
m["a"] = 1
// 解锁
mu.Unlock()
}
})
t.Run("read", func(t *testing.T) {
t.Parallel()
for i := 0; i < 10000; i++ {
// 锁
mu.Lock()
_ = m["a"]
// 解锁
mu.Unlock()
}
})
}
本文的重点介绍一下Go标准库自带的,支持并发读写的 map:sync.Map
。
sync.Map
sync.Map 就是线程安全版的 map[interface{}]interface{}
,零值可以直接使用,值不能复制。它主要用于以下场景:
当同一个 key 的值,写少读多的时候;
但多个 goroutines 读写或修改一系列不同的key的时候。
上面两种场景中,比起带Mutex
(或RWMutex
)的map,sync.Map 会大大减少锁的竞争。
sync.Map 提供的方法不多,这里列出一些。注意的是,any 是 go 1.18 中 interface{}的别名。
Store,设置 key-value。
func (m *Map) Store(key, value any)
Load, 根据 key 读取 value。
func (m *Map) Load(key any) (value any, ok bool)
Delete,删除某个key。
func (m *Map) Delete(key any)
Range,遍历所有key, 如果f
返回false,会停止遍历。
func (m *Map) Range(f func(key, value any) bool)
还有 LoadAndDelete(读后删除)、LoadOrStore(读key,不存在时设置)。
我们给上面的单测,使用sync.Map
,测试也可以通过。
func TestConcurrent(t *testing.T) {
// 可以使用零值
var m sync.Map
t.Run("write", func(t *testing.T) {
t.Parallel()
for i := 0; i < 10000; i++ {
// 写
m.Store("a", 1)
}
})
t.Run("read", func(t *testing.T) {
t.Parallel()
for i := 0; i < 10000; i++ {
// 读
v, ok := m.Load("a")
if ok {
_ = v.(int)
}
}
})
}
参考
pkg.go.dev/sync#Map
来源:https://juejin.cn/post/7174771881911222327


猜你喜欢
- python3 最常用的三种装饰器语法总结1.简述语法装饰器也叫函数装饰器,主要作用是在不修改原来函数的代码情况下(函数本身不会被修改,执行
- UDP 客户端一个使用UDP协议的客户端示例代码,用于实现连续对话。请注意,UDP是无连接协议,因此在实现连续对话时需要特别小心。以下是示例
- 本文来给大家介绍一个php版淘宝网查询商品接口代码的例子,下面要改成你的信息的在代码后面都有说明了,同时sdk包我们也要官方下载。下载SDK
- C4.5算法使用信息增益率来代替ID3的信息增益进行特征的选择,克服了信息增益选择特征时偏向于特征值个数较多的不足。信息增益率的定义如下:
- 【OpenCV】 ⚠️高手勿入! 半小时学会基本操作 ⚠️ 直线检测概述OpenCV 是一个跨平台的计算机视觉库, 支持多语言, 功能强大.
- django settings.py 配置文件import osBASE_DIR = os.path.dirname(os.path.dir
- 本文实例为大家分享了python SMTP发送带附件电子邮件的具体代码,供大家参考,具体内容如下可采用email模块发送电子邮件附件。发送一
- 鉴于人手严重不足(当时算两个半人的资源),打消了逐个库手动去改的念头。当前的程序结构不允许搞革命的做法,只能搞搞改良,所以准备搞个自动化工具
- 官网文档http://www.yiiframework.com/doc-2.0/guide-structure-assets.htmlyii
- 1、实现目标Golang 使用excelize 导出表格到浏览器下载或者保存到本地。后续导入的话也会写到这里2、使用的库go get git
- 上四篇的内容是把常用的XHTML标签拿出来介绍了一下,不是很详细。不过没关系,重点是要能先知道用他们,以后深入了再去细细研究更为详细的特性以
- 时间object转换datetime实例首先说一下:1/17/07 has the format “%m/%d/%y&a
- 场景:在页面中点击按钮,数量增加,值是存在store中的,点击事件,值没变。<script setup lang="ts&q
- 检查所使用的语句是否标准 /* 标准SQL和T-SQL之间有很多区别——太多了,这里就不说了。还有,如果你在SQL Server上工作, 那
- 前言:这里再回顾一下函数的local空间,首先我们往global空间添加一个键值对相当于定义一个全局变量,那么如果往函数的local空间里面
- 一、用户管理在mysql库里有个user表可以查看已经创建的用户1.创建MySQL用户注意:MySQL中不能单纯通过用户名来说明用户,必须要
- 前言看到某60的网速悬浮球有点心动,但是又不想装这个流氓软件,就自己用python加PyQt5自制了一个,实测还行,关键不占用电脑一点资源,
- python eval函数功能:将字符串str当成有效的表达式来求值并返回计算结果。函数定义:eval(expression, global
- 一、前言今天在这边专门整理了一遍文章,和大家一起聊聊如何使用python做PC端自动化!二、环境安装使用python实现来做PC端自动化,前
- 由于需求没有做好或者客户是外行,不能很好的配合你做好需求,我在使用asp+access的时候非常头疼,遇到数据结构的改动,就必须修改acce