您当前的位置:首页 > 电脑百科 > 数据库 > Redis

接口的屏蔽和限流很难么?Redis全搞定

时间:2022-03-24 09:20:30  来源:  作者:架构界的郭德纲

需求

线上出现的问题是,一些非核心的查询数据业务,在请求超时或者错误的时候,用户会越查询,导致数据库cup飙升,拖垮核心的业务。

领导让我做三件事,一是把这些接口做一个限流,这些限流参数是可配的,第二是这些接口可以设置开关,当发现问题时,可以手动关闭这些接口,不至于数据库压力过大影响核心业务的服务。第三是做接口的熔断,熔断设置可以配置。

经过确定,前两个实现用redis来实现,第三个因为熔断讨论觉得比较复杂,决定采用我提出的用Hystrix,目前项目不能热加载生效配置中心的最新的配置,所以后期推荐使用Archaius,这些网上查到的,具体为啥不选其他的,原因就是其他的比较复杂,上手感觉这个最快。

这篇文章说实现,其他问题不涉及,请多多指教。

思路

接口的屏蔽:通过AOP实现,每次访问接口的时候,通过接口的Key值,在Redis取到接口设置开关值,如果打开继续,否在拒绝。接口限流也是基于AOP,根据接口的Key值,取到这个接口的限流值,表示多长时间,限流几次,每次访问都会请求加一,通过比较,如果超过限制再返回,否在继续。

代码

 

接口的屏蔽和限流很难么?Redis全搞定

 

AccessLimiter接口,主要有两类方法,是否开启限流,取Redis中的限流值。

package com.hcfc.auto.util.limit;
import JAVA.util.concurrent.TimeUnit;
/**
 * @创建人 peng.wang
 * @描述 访问限制器
 */
public interface AccessLimiter {
    /**
     * 检查指定的key是否收到访问限制
     * @param key   限制接口的标识
     * @param times 访问次数
     * @param per   一段时间
     * @param unit  时间单位
     * @return
     */
    public boolean isLimited(String key, long times, long per, TimeUnit unit);
 
    /**
     * 移除访问限制
     * @param key
     */
    public void refreshLimited(String key);
 
    /**
     * 接口是否打开
     * @return
     */
    public boolean isStatus(String redisKey);
 
    /**
     * 接口的限流大小
     * @param redisKeyTimes
     * @return
     */
    public long getTimes(String redisKeyTimes);
 
    /**
     * 接口限流时间段
     * @param redisKeyPer
     * @return
     */
    public long getPer(String redisKeyPer);
 
    /**
     * 接口的限流时间单位
     * @param redisKeyUnit
     * @return
     */
    public TimeUnit getUnit(String redisKeyUnit);
 
    /**
     * 是否删除接口限流
     * @param redisKeyIsRefresh
     * @return
     */
    public boolean getIsRefresh(String redisKeyIsRefresh);
}

RedisAccessLimiter是AccessLimiter接口的实现类

package com.hcfc.auto.util.limit;
 
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.data.redis.core.RedisTemplate;
import org.springframework.stereotype.Component;
 
import java.util.concurrent.TimeUnit;
 
/**
 * @创建人 peng.wang
 * @描述 基于Redis的实现
 */
@Component
public class RedisAccessLimiter implements AccessLimiter {
 
    private static final Logger LOGGER = LoggerFactory.getLogger(RedisAccessLimiter.class);
 
    @Autowired
    private RedisTemplate redisTemplate;
 
    @Override
    public boolean isLimited(String key, long times, long per, TimeUnit unit) {
        Long curTimes = redisTemplate.boundValueOps(key).increment(1);
        LOGGER.info("curTimes {}",curTimes);
        if(curTimes > times) {
            LOGGER.debug("超频访问:[{}]",key);
            return true;
        } else {
            if(curTimes == 1) {
                LOGGER.info(" set expire ");
                redisTemplate.boundValueOps(key).expire(per, unit);
                return false;
            } else {
                return false;
            }
        }
    }
 
    @Override
    public void refreshLimited(String key) {
        redisTemplate.delete(key);
    }
 
    @Override
    public boolean isStatus(String redisKey) {
        try {
            return (boolean)redisTemplate.opsForValue().get(redisKey+"IsOn");
        }catch (Exception e){
            LOGGER.info("redisKey is not find or type mismatch, key: ", redisKey);
            return false;
        }
    }
 
    @Override
    public long getTimes(String redisKeyTimes) {
        try {
            return (long)redisTemplate.opsForValue().get(redisKeyTimes+"Times");
        }catch (Exception e){
            LOGGER.info("redisKey is not find or type mismatch, key: ", redisKeyTimes);
            return 0;
        }
    }
 
    @Override
    public long getPer(String redisKeyPer) {
        try {
            return (long)redisTemplate.opsForValue().get(redisKeyPer+"Per");
        }catch (Exception e){
            LOGGER.info("redisKey is not find or type mismatch, key: ", redisKeyPer);
            return 0;
        }
    }
 
    @Override
    public TimeUnit getUnit(String redisKeyUnit) {
        try {
            return (TimeUnit) redisTemplate.opsForValue().get(redisKeyUnit+"Unit");
        }catch (Exception e){
            LOGGER.info("redisKey is not find or type mismatch, key: ", redisKeyUnit);
            return TimeUnit.SECONDS;
        }
    }
 
    @Override
    public boolean getIsRefresh(String redisKeyIsRefresh) {
        try {
            return (boolean)redisTemplate.opsForValue().get(redisKeyIsRefresh+"IsRefresh");
        }catch (Exception e){
            LOGGER.info("redisKey is not find or type mismatch, key: ", redisKeyIsRefresh);
            return false;
        }
    }
}

Limit标签接口,实现注解方式

package com.hcfc.auto.util.limit;
import java.lang.annotation.*;
/**
 * @创建人 peng.wang
 * @描述
 */
@Target({ElementType.METHOD,ElementType.ANNOTATION_TYPE})
@Retention(RetentionPolicy.RUNTIME)
@Documented
public @interface Limit {}

LimitAspect 切面的实现,实现接口屏蔽和限流的逻辑

package com.hcfc.auto.util.limit;
import com.hcfc.auto.vo.response.ResponseDto;
import lombok.extern.slf4j.Slf4j;
import org.aspectj.lang.ProceedingJoinPoint;
import org.aspectj.lang.annotation.Around;
import org.aspectj.lang.annotation.Aspect;
import org.aspectj.lang.annotation.Pointcut;
import org.aspectj.lang.reflect.MethodSignature;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;
import org.springframework.web.bind.annotation.RequestMApping;
import java.lang.reflect.Method;
import java.util.concurrent.TimeUnit;
 
/**
 * @创建人 peng.wang
 * @创建时间 2019/10/11
 * @描述
 */
@Slf4j
@Aspect
@Component
public class LimitAspect {
    private static final Logger logger = LoggerFactory.getLogger(LimitAspect.class);
 
    @Autowired
    private AccessLimiter limiter;
 
    @Autowired
    GenerateRedisKey generateRedisKey;
 
    @Pointcut("@annotation(com.hcfc.auto.util.limit.Limit)")
    public void limitPointcut() {}
 
    @Around("limitPointcut()")
    public Object doArround(ProceedingJoinPoint joinPoint) throws Throwable {
        String redisKey = generateRedisKey.getMethodUrlConvertRedisKey(joinPoint);
        long per = limiter.getPer(redisKey);
        long times = limiter.getTimes(redisKey);
        TimeUnit unit = limiter.getUnit(redisKey);
        boolean isRefresh =limiter.getIsRefresh(redisKey);
        boolean methodLimitStatus = limiter.isStatus(redisKey);
        String bindingKey = genBindingKey(joinPoint);
        if (methodLimitStatus) {
            logger.info("method is closed, key: ", bindingKey);
            return ResponseDto.fail("40007", "method is closed, key:"+bindingKey);
            //throw new OverLimitException("method is closed, key: "+bindingKey);
        }
        if(bindingKey !=null){
            boolean isLimited = limiter.isLimited(bindingKey, times, per, unit);
            if(isLimited){
                logger.info("limit takes effect: {}", bindingKey);
                return ResponseDto.fail("40006", "access over limit, key: "+bindingKey);
                //throw new OverLimitException("access over limit, key: "+bindingKey);
            }
        }
        Object result = null;
        result = joinPoint.proceed();
        if(bindingKey!=null && isRefresh) {
            limiter.refreshLimited(bindingKey);
            logger.info("limit refreshed: {}", bindingKey);
        }
        return result;
    }
 
    private String genBindingKey(ProceedingJoinPoint joinPoint){
        try{
            Method m = ((MethodSignature) joinPoint.getSignature()).getMethod();
            return joinPoint.getTarget().getClass().getName() + "." + m.getName();
        }catch (Throwable e){
            return null;
        }
    }
}

还有一个不重要的RedisKey实现类GenerateRedisKey和一个错误封装类,目前没有使用到,使用项目中其他的错误封装类了。

GenerateRedisKey

package com.hcfc.auto.util.limit;
import org.aspectj.lang.ProceedingJoinPoint;
import org.aspectj.lang.reflect.MethodSignature;
import org.springframework.stereotype.Component;
import org.springframework.web.bind.annotation.RequestMapping;
import java.lang.reflect.Method;
 
/**
 * @创建人 peng.wang
 * @描述
 */
@Component
public class GenerateRedisKey {
    public String getMethodUrlConvertRedisKey(ProceedingJoinPoint joinPoint){
        StringBuilder redisKey =new StringBuilder("");
        Method m = ((MethodSignature)joinPoint.getSignature()).getMethod();
        RequestMapping methodAnnotation = m.getAnnotation(RequestMapping.class);
        if (methodAnnotation != null) {
            String[] methodValue = methodAnnotation.value();
            String dscUrl = diagonalLineToCamel(methodValue[0]);
            return redisKey.append("RSK:").append("interfaceIsOpen:").append(dscUrl).toString();
        }
        return redisKey.toString();
    }
    private String diagonalLineToCamel(String param){
        char UNDERLINE='/';
        if (param==null||"".equals(param.trim())){
            return "";
        }
        int len=param.length();
        StringBuilder sb=new StringBuilder(len);
        for (int i = 1; i < len; i++) {
            char c=param.charAt(i);
            if (c==UNDERLINE){
                if (++i<len){
                    sb.append(Character.toUpperCase(param.charAt(i)));
                }
            }else{
                sb.append(c);
            }
        }
        return sb.toString();
    }
}

总结

关键的代码也就这几行,访问之前,对这个key值加一的操作,判断是否超过限制,如果等于一这个key加一之后的值为一,说明之前不存在,则设置这个key,放在Redis数据库中。

其实有更成熟的方案就是谷歌的Guava,领导说现在是咱们是分布式,不支持,还是用Redis实现吧,目前就这样实现了。其实我是新来的,好多东西还不太明白,很多决定都是上面决定的,我只是尽力实现罢了。不足之处,请多多指教!

作者:Ingram--MSN

来源:
blog.csdn.net/u010843114/article/details/102695570



Tags:Redis   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
面试官提问 Redis热点key如何解决? 100万请求同时从Redis读取相同key,如何优化? 明星有热点新闻,如何从Redis读取热点新闻的相关数据?Redis热点key问题是什么商品大促(比如阿里双...【详细内容】
2022-03-30  Tags: Redis  点击:(1)  评论:(0)  加入收藏
如果你了解过关系型数据库事务的话,相信这篇文章对你来说是很容易理解的了。具体什么是事务我就不说不多了,直接讲 Redis 事务相关的部分。首先,我们先来看下,Redis 是怎么执行...【详细内容】
2022-03-30  Tags: Redis  点击:(1)  评论:(0)  加入收藏
一.工具准备 VMware 15(CentOS 7)链接: https://pan.baidu.com/s/1f5xW2d18vSHHhpz3KsZIHA提取码:gpf7 Xftp 5 & Xshell 5链接: https://pan.baidu.com/s/1gqe_M1fKQtIAT5BaNhj2B...【详细内容】
2022-03-28  Tags: Redis  点击:(7)  评论:(0)  加入收藏
需求线上出现的问题是,一些非核心的查询数据业务,在请求超时或者错误的时候,用户会越查询,导致数据库cup飙升,拖垮核心的业务。领导让我做三件事,一是把这些接口做一个限流,这些限...【详细内容】
2022-03-24  Tags: Redis  点击:(12)  评论:(0)  加入收藏
Redis是否变慢了?从业务服务器到Redis服务器这条调用链路中变慢的原因可能有2个 业务服务器到Redis服务器之间出现了网络问题,例如网络丢包,延迟比较严重 Redis本身的执行出现...【详细内容】
2022-03-21  Tags: Redis  点击:(13)  评论:(0)  加入收藏
本文章向大家介绍关于StackExchange.Redis的一些总结,算是综合一个网上资料与自己的总结写的一个JOSN转换类,有一定的参考价值,需要的朋友可以参考一下。 private IDatabase ca...【详细内容】
2022-03-21  Tags: Redis  点击:(15)  评论:(0)  加入收藏
一、RedisInsight 简介RedisInsight 是一个直观高效的 Redis GUI 管理工具,它可以对 Redis 的内存、连接数、命中率以及正常运行时间进行监控,并且可以在界面上使用 CLI 和连...【详细内容】
2022-03-17  Tags: Redis  点击:(67)  评论:(0)  加入收藏
在高并发的场景下,大量的请求直接访问Mysql很容易造成性能问题 所以,我们都会用Redis来做数据的缓存,削减对数据库的请求 但是,Mysql和Redis是两种不同的数据库,如何保证不同数...【详细内容】
2022-03-10  Tags: Redis  点击:(21)  评论:(0)  加入收藏
朋友们,我有一台华为云耀服务器,闲来无事,在上面装了个redis,做一些测试研究,结果被攻击了,这还是头一回遇见,因为以前的环境还是使用内网居多。现象描述因为头一天忙到挺晚的,电脑...【详细内容】
2022-03-09  Tags: Redis  点击:(27)  评论:(0)  加入收藏
Redis数据类型-set(集合) 设置一个值sadd key value 查看set集合中的元素smembers key 判断某一个元素是否在set集合中,返回1则存在,不存在返回0sismember key value 移除set...【详细内容】
2022-03-04  Tags: Redis  点击:(23)  评论:(0)  加入收藏
▌简易百科推荐
面试官提问 Redis热点key如何解决? 100万请求同时从Redis读取相同key,如何优化? 明星有热点新闻,如何从Redis读取热点新闻的相关数据?Redis热点key问题是什么商品大促(比如阿里双...【详细内容】
2022-03-30  元面试    Tags:Redis   点击:(1)  评论:(0)  加入收藏
如果你了解过关系型数据库事务的话,相信这篇文章对你来说是很容易理解的了。具体什么是事务我就不说不多了,直接讲 Redis 事务相关的部分。首先,我们先来看下,Redis 是怎么执行...【详细内容】
2022-03-30  可爱的雯雯子  博客园  Tags:Redis事务   点击:(1)  评论:(0)  加入收藏
一.工具准备 VMware 15(CentOS 7)链接: https://pan.baidu.com/s/1f5xW2d18vSHHhpz3KsZIHA提取码:gpf7 Xftp 5 & Xshell 5链接: https://pan.baidu.com/s/1gqe_M1fKQtIAT5BaNhj2B...【详细内容】
2022-03-28  邬小明    Tags:安装Redis   点击:(7)  评论:(0)  加入收藏
需求线上出现的问题是,一些非核心的查询数据业务,在请求超时或者错误的时候,用户会越查询,导致数据库cup飙升,拖垮核心的业务。领导让我做三件事,一是把这些接口做一个限流,这些限...【详细内容】
2022-03-24  架构界的郭德纲    Tags:Redis   点击:(12)  评论:(0)  加入收藏
Redis是否变慢了?从业务服务器到Redis服务器这条调用链路中变慢的原因可能有2个 业务服务器到Redis服务器之间出现了网络问题,例如网络丢包,延迟比较严重 Redis本身的执行出现...【详细内容】
2022-03-21  Java识堂    Tags:Redis   点击:(13)  评论:(0)  加入收藏
本文章向大家介绍关于StackExchange.Redis的一些总结,算是综合一个网上资料与自己的总结写的一个JOSN转换类,有一定的参考价值,需要的朋友可以参考一下。 private IDatabase ca...【详细内容】
2022-03-21  斜杠亮子    Tags:RedisHelper   点击:(15)  评论:(0)  加入收藏
一、RedisInsight 简介RedisInsight 是一个直观高效的 Redis GUI 管理工具,它可以对 Redis 的内存、连接数、命中率以及正常运行时间进行监控,并且可以在界面上使用 CLI 和连...【详细内容】
2022-03-17  java互联网架构  CSDN  Tags:Redis   点击:(67)  评论:(0)  加入收藏
在高并发的场景下,大量的请求直接访问Mysql很容易造成性能问题 所以,我们都会用Redis来做数据的缓存,削减对数据库的请求 但是,Mysql和Redis是两种不同的数据库,如何保证不同数...【详细内容】
2022-03-10  AT小白在线中    Tags:Redis   点击:(21)  评论:(0)  加入收藏
朋友们,我有一台华为云耀服务器,闲来无事,在上面装了个redis,做一些测试研究,结果被攻击了,这还是头一回遇见,因为以前的环境还是使用内网居多。现象描述因为头一天忙到挺晚的,电脑...【详细内容】
2022-03-09  我犟不过你  掘金  Tags:Redis   点击:(27)  评论:(0)  加入收藏
Redis数据类型-set(集合) 设置一个值sadd key value 查看set集合中的元素smembers key 判断某一个元素是否在set集合中,返回1则存在,不存在返回0sismember key value 移除set...【详细内容】
2022-03-04  Jason.Jin    Tags:Redis   点击:(23)  评论:(0)  加入收藏
最新更新
栏目热门
栏目头条