高并发,大流量场景下的限流

日期:2020-08-02 09:31:57 来源:互联网 编辑:小优 阅读人数:434

分布式限流的关键就是需要将限流服务做成全局的,统一的。可以采用Redis+Lua技术实现,通过这种技术可以实现高并发和高性能的限流。

Lua是一种轻量小巧的脚本编程语言,用标准的C语言编写的开源脚本,其设计的目的是为了嵌入到应用程序中,为应用程序提供灵活的扩展和定制功能。

Redis+Lua脚本实现分布式限流思路

我们可以使用Redia+Lua脚本的方式来对我们的分布式进行统一的全局限流,Redis+Lua实现的Lua脚本:

高并发,大流量场景下的限流(图1)

我们可以按照如下的思路来理解上述Lua脚本代码。

1在Lua脚本中,有两个全局变量,用来接收Redis应用端传递的键和其他参数,分别为:KEYS、ARGV。

2在应用端传递KEYS时是一个数组列表,在Lua脚本中通过索引下标方式获取数组内的值。

3在应用端传递ARGV时参数比较灵活,可以是一个或多个独立的参数,但对应到Lua脚本中统一用ARGV这个数组接收,获取方式也是通过数组下标获取。

4以上操作是在一个Lua脚本中,又因为我当前使用的是Redis 5.0版本Redis 6.0支持多线程执行的请求是单线程的,因此,Redis+Lua的处理方式是线程安全的,并且具有原子性。

这里,需要注意一个知识点,那就是原子性操作:如果一个操作时不可分割的,是多线程安全的,我们就称为原子性操作。

接下来,我们可以使用如下Java代码来判断是否需要限流。

高并发,大流量场景下的限流(图2)

至此,我们简单地介绍了使用Redis+Lua脚本实现分布式限流的总体思路,并给出了Lua脚本的核心代码和Java程序调用Lua脚本的核心代码。接下来,我们就动手写一个使用Redis+Lua脚本实现的分布式限流案例。

Redis+Lua脚本实现分布式限流案例

这里通过自定义注解的形式来实现分布式、大流量场景下的限流,只不过这里我们使用了Redis+Lua脚本的方式实现了全局统一的限流模式。接下来,我们就一起手动实现这个案例。

创建注解

首先,我们在项目中,定义个名称为MyRedisLimiter的注解,具体代码如下所示。

高并发,大流量场景下的限流(图3)

在MyRedisLimiter注解内部,我们为value属性添加了别名limit,在我们真正使用@MyRedisLimiter注解时,即可以使用@MyRedisLimiter(10)也可以使用@MyRedisLimiter(value=10)还可以使用@MyRedisLimiter(limit=10)

创建切面类

创建注解后,我们就来创建一个切面类MyRedisLimiterAspect,MyRedisLimiterAspect类的作用主要是解析@MyRedisLimiter注解,并且执行限流的规则。这样,就不需要我们在每个需要限流的方法中执行具体的限流逻辑了,只需要我们在需要限流的方法上添加@MyRedisLimiter注解即可,具体代码如下所示。

高并发,大流量场景下的限流(图4)

高并发,大流量场景下的限流(图5)

上述代码会读取项目classpath目录下的limit.lua脚本文件来确定是否执行限流的操作,调用limit.lua文件执行的结果返回0则表示执行限流逻辑,否则不执行限流逻辑。既然,项目中需要使用Lua脚本,那么,接下来,我们就需要在项目中创建Lua脚本。

创建limit.lua脚本文件

在项目的classpath目录下创建limit.lua脚本文件,文件的内容如下所示。

高并发,大流量场景下的限流(图6)

limit.lua脚本文件的内容比较简单,这里就不再赘述了。

接口添加注解

注解类、解析注解的切面类、Lua脚本文件都已经准备好。那么,接下来,我们在PayController类中在sendMessage2方法上添加@MyRedisLimiter注解,并且将limit属性设置为10,如下所示。

高并发,大流量场景下的限流(图7)

此处,我们限制了sendMessage2方法,每秒钟最多只能处理10个请求。那么。接下来,我们就使用JMeter对sendMessage2进行。

分布式限流

此时,我们使用JMeter进行压测,这里,我们配置的线程数为50,也就是说:会有50个线程同时访问我们写的接口。JMeter的配置如下所示。

高并发,大流量场景下的限流(图8)

保存并运行Jemeter,如下所示。

高并发,大流量场景下的限流(图9)

运行完成后,我们来查看下JMeter的结果,如下所示。

高并发,大流量场景下的限流(图10)

高并发,大流量场景下的限流(图11)

从结果可以看出,中途有部分接口的访问返回了“哎呀,开小差了,请再试一下吧”说明接口被限流了。而再往后,又有部分接口成功返回了“短信发送成功!”的字样。这是因为我们设置的是接口每秒最多接受10次请求,在第一秒内访问接口时,前面的10次请求成功返回“短信发送成功!”的字样,后面再访问接口就会返回“哎呀,开小差了,请再试一下吧”而后面的请求又返回了“短信发送成功!”的字样,说明后面的请求已经是在第二秒的时候调用的接口。

我们使用Redis+Lua脚本的方式实现的限流方式,可以将Java程序进行集群部署,这种方式实现的是全局的统一的限流,无论客户端访问的是集群中的哪个节点,都会对访问进行计数并实现最终的限流效果。

这种思想就有点像分布式锁了,此文章,以循序渐进的方式深入剖析了实现分布式锁过程中的各种坑和解决方案,让你真正理解什么才是分布式锁。

Nginx+Lua实现分布式限流

Nginx+Lua实现分布式限流,通常会用在应用的入口处,也就是对的流量入口进行限流。这里,我们也以一个实际案例的形式来说明如何使用Nginx+Lua来实现分布式限流。

首先,我们需要创建一个Lua脚本,脚本文件的内容如下所示。

高并发,大流量场景下的限流(图12)

实现中我们需要使用lua-resty-lock互斥锁模块来解决原子性问题(在实际工程中使用时请考虑获取锁的超时问题)并使用ngx.shared.DICT共享字典来实现计数器。如果需要限流则返回0,否则返回1。使用时需要先定义两个共享字典(分别用来存放锁和计数器数据)

接下来,需要在Nginx的nginx.conf配置文件中定义数据字典,如下所示。

高并发,大流量场景下的限流(图13)

灵魂拷问

说到这里,相信有很多小伙伴可能会问:如果应用并发量非常大,那么,Redis或者Nginx能不能扛的住呢?

可以这么说:Redis和Nginx基本都是高性能的互联网组件,对于一般互联网公司的高并发流量是完全没有问题的。为什么这么说呢?咱们继续往下看。

如果你的应用流量真的非常大,可以通过一致性哈希将分布式限流进行分片,还可以将限流降级为应用级限流;解决方案也非常多,可以根据实际情况进行调整,使用Redis+Lua的方式进行限流,是可以稳定达到对上亿级别的高并发流量进行限流的(笔者亲身经历)

需要注意的是:面对高并发,尤其是这种流量上千万、上亿级别的高并发,我们不可能只用限流这一招,还要加上其他的一些措施。

对于分布式限流,目前遇到的场景是业务上的限流,而不是流量入口的限流。对于流量入口的限流,应该在接入层来完成。

本文相关词条概念解析:

脚本

脚本(script)是使用一种特定的描述性语言,依据一定的格式编写的可执行文件,又称作宏或批处理文件。脚本是批处理文件的延伸,是一种纯文本保存的程序,一般来说的计算机脚本程序是确定的一系列控制计算机进行运算操作动作的组合,在其中可以实现一定的逻辑分支等。

网友评论
相关文章
中国电信则是结合了联通和移动两家的优势,就是电信的一款大流量套餐,网友,简直美滋滋

中国电信则是结合了联通和移动两家的优势,就是电信的一款大流量套餐,网友,简直美滋滋

中国电信则是结合了联通和移动两家的优势,就是电信的一款大流量套餐,网友,简直美滋滋[详情]

八卦爆料,胡歌,杨子,潘嫂,刘亦菲,张艺谋,张逸杰,鹿晗

八卦爆料,胡歌,杨子,潘嫂,刘亦菲,张艺谋,张逸杰,鹿晗

八卦爆料,胡歌,杨子,潘嫂,刘亦菲,张艺谋,张逸杰,鹿晗[详情]

故宫每日限流5000人具体什么情况?故宫每日限流5000人事件始末

故宫每日限流5000人具体什么情况?故宫每日限流5000人事件始末

故宫每日限流5000人具体什么情况?故宫每日限流5000人事件始末[详情]

网站地图    Copyright     2016-2018  资讯网   All rights reserved.