Go语言框架快速集成限流中间件详解
作者:Masters 发布时间:2023-08-26 11:44:39
标签:Go,框架集成,限流,中间件
前言
在我们的日常开发中, 常用的中间件有很多, 今天来讲一下怎么集成限流中间件, 它可以很好地用限制并发访问数来保护系统服务, 避免系统服务崩溃, 资源占用过大甚至服务器崩溃进而影响到其他应用!
分布式版
简介
通常我们的服务会同时存在多个进程, 也就是负载来保证服务的性能和稳定性, 那么就需要走一个统一的限流, 这个时候就需要借助我们的老朋友-redis
, 来进行分布式限流;
算法
漏桶算法
即一个水桶, 进水(接受请求)的速率不限, 出水(处理请求)的速率是一定的, 如果出水的速率小于进水的速率, 就会造成水桶溢出(也就是拒绝请求); 主要是从出口限制, 以固定的速率控制访问速度, 缺点是难以应对突发请求;
实现
下面是一个简单的实现, 对 /v1/hello
接口进行每分钟2次的速率限制
// RateLimitConf 速率配置, 允许多长时间通过多少次.
type RateLimitConf struct {
Limit int64
Timer time.Duration
}
// exampleLimiterMap 接口请求速率配置, 建议放入redis/数据库同步本地缓存.
var exampleLimiterMap = map[string]RateLimitConf{
"/v1/hello": {Limit: 2, Timer: time.Minute},
}
// LimiterMiddle 分布式限流中间件.
func LimiterMiddle(ctx iris.Context) {
var (
uri = ctx.Request().RequestURI
client = redis.NewClusterClient()
key = uri
)
conf, ok := exampleLimiterMap[uri]
if ok {
limiter := redis_rate.NewLimiter(client)
if _, _, b := limiter.Allow(key, conf.Limit, conf.Timer); !b {
r, _ := httpcode.NewRequest(ctx, nil)
r.Code(httpcode.TooManyReq, fmt.Errorf("req rate limit"), nil)
return
}
}
ctx.Next()
}
注意
接口速率配置如果需要进行实时配置, 则建议将配置写入数据库, 然后刷新到本地缓存/存到redis;
如果需要对设备/ip/用户进行接口限制访问, 则将
key
加上唯一标志即可;
单机版
简介
这个就只适用于单个服务进程的限流, 比如个人搭的一些小网站之类的;
算法
令牌桶算法
即也是一个桶, 按照设定的速率往桶里放令牌, 10s二十次即1s放两个令牌(允许处理两次请求), 然后请求来之后必须从桶里取出来令牌才可以进行处理, 没有令牌则选择拒绝或等待; 主要是从入口限制, 允许一定量的突发请求(即桶内所有的令牌);
依赖库
golang.org/x/time/rate
实现
下面是一个简单的实现, 对 /v1/hello
接口进行每分钟2次的速率限制
// exampleStandAloneLimiterMap 单机接口请求速率配置.
var exampleStandAloneLimiterMap = map[string]*rate.Limiter{
"/v1/hello": rate.NewLimiter(rate.Every(time.Minute), 2),
}
// StandAloneLimiterMiddle 单机限流中间件.
func StandAloneLimiterMiddle(ctx iris.Context) {
var (
uri = ctx.Request().RequestURI
)
limiter, ok := exampleStandAloneLimiterMap[uri]
if ok {
if b := limiter.Allow(); !b {
r, _ := httpcode.NewRequest(ctx, nil)
r.Code(httpcode.TooManyReq, fmt.Errorf("req rate limit"), nil)
return
}
}
ctx.Next()
}
来源:https://juejin.cn/post/7140108558120517669
0
投稿
猜你喜欢
- <?php $url="http://www.golden-book.com/booksinfo/12/264.html&q
- 一、python中对文件、文件夹操作时经常用到的os模块和shutil模块常用方法。1.得到当前工作目录,即当前Python脚本工作的目录路
- Windows下ORACLE完全卸载:使用OUI可以卸载数据库,但卸载后注册表和文件系统内仍会有部分残留。这些残留不仅占用磁盘空间,而且影响
- 关于段落<p></p>相信大家已经都在自己的工作中开始关注并应用了。因为那真的是非常简单的事,只要你愿意你随时都可以
- 有两种方法供参考.一种是实实在在的将图片先用ASPJPEG组件做成想要的尺寸,再读取好处是节省服务器带宽,速度快坏处是处理起来较为麻烦,并网
- Msg 102, Level 15, State 1, Line 3 Incorrect syntax near '+'.
- 如果 replaceText 为函数,对于每一个匹配的子字符串,调用该函数时带有下面的 m+3 个参数,此处 m 是在 rgExp 中捕获的
- 1.查询高于平均价格的商品名称:SELECT item_name FROM ebsp.product_mark
- 这几天正在为压缩代码的事情所困扰,大家也可以看见,我的博客顶端有两个在线的压缩工具,但在实际应用过程中,除了CSS的压缩比较满意外,JS的压
- 前言undefined 和 null 的区别是个老生常谈的话题了,之前我对二者的区别只是简单理解,例如二者转成 Boolean 类型都是 f
- 这是我上一篇关于安全的文章的其中一节。这是一个众所周知的事实,对你运行中的网站的MySQL数据库备份是极为重要的只需按照下面3步做,一切都在
- win7以上需要使用管理员权限操作。# -*- coding: utf-8 -*-import osimport globimport sh
- jupyter介绍jupyter的全称为Jupyter Notebook,之前一度被称为(IPython notebook),是一种交互式的
- 相信为数不少的系统管理员每天都在做着同一样的工作——对数据进行备份。一旦哪一天疏忽了,而这一天系统又恰恰发生了故障,需要进行数据
- Tensorflow数据读取有三种方式:Preloaded data: 预加载数据Feeding: Python产生数据,再把数据喂给后端。
- matplotlib官方除了提供了鼠标十字光标的示例,还提供了同一图像内多子图共享光标的示例,其功能主要由widgets模块中的MultiC
- 代码如下:'返回指定文件夹中文件的数目,传入值为被检测文件夹的硬盘绝对路径 function CountFile
- FlashPaper 是Macromedia推出的一款电子文档类工具,通过使用本程序,你可以将需要的文档通过简单的设置转换为SWF格式的Fl
- 渲染引擎渲染引擎的职责是……渲染,也就是把请求的内容显示到浏览器屏幕上。默认情况下渲染引擎可以显示HTML,XML文档以及图片。 通过插件(
- 通过界面设计上是能手工操作的,无法达到我批量修改几千台服务器。 因为此了一个脚本来批量执行。 环境:redgate + mssql 2008