《第四章单系统高并发优化》之《第五节单机限流》

你的名字 2023-10-05 12:58 12阅读 0赞

#### 文章目录 ####

*  《4.5.1 单机限流(限流算法及隔离策略》
 *  《4.5.2 低入侵限流框架设计与实现》
 *  《【技术分享】OOM问题解决与优化》
 *  old《3.2.4 内存爆炸、CPU100%问题分析、定位、解决》
 *  old《3.2.5 网易真实性能调优案例分享》
 *  《4.5.3 编写限流框架中的核心模块》
 *  《【技术分享】CPU100%问题解决与优化》

## 《4.5.1 单机限流(限流算法及隔离策略》 ##

*  四种限流算法：计数器、滑动窗口、漏桶、令牌桶
    
     *  计数器、滑动窗口的讲解可参考[https://www.cnblogs.com/linjiqin/p/9707713.html][https_www.cnblogs.com_linjiqin_p_9707713.html]
     *  漏桶：  
        ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3_size_16_color_FFFFFF_t_70_pic_center]  
        ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3_size_16_color_FFFFFF_t_70_pic_center 1]
     *  34分：令牌桶：

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3_size_16_color_FFFFFF_t_70_pic_center 2]  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3_size_16_color_FFFFFF_t_70_pic_center 3]  
此缺点真的存在？《4.5.3 编写限流框架中的核心模块》118:50+有解释，但我认为解释不正确。  
Guava RateLimiter原理是令牌桶

*  隔离策略：线程池、信号量Semaphore

## 《4.5.2 低入侵限流框架设计与实现》 ##

使用Guava RateLimiter实现限流

7分 DateTimeFormatter与LocalDateTime，是jdk1.8以后线程安全的时间处理类

## 《【技术分享】OOM问题解决与优化》 ##

*  ![在这里插入图片描述][20201031222305888.png_pic_center]
 *  29:30：  
    逃逸分析 & 栈上分配 & 标量替换 默认开启>=1.6u23  
    逃逸分析默认开启，关闭 -XX:-DoEscapeAnalysis  
    对象有动态调整大小的集合时，不会进行栈上分配
 *  55:30+ 防止full GC: 运用Btrace的强大定位功能，发现system.gc被调用  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3_size_16_color_FFFFFF_t_70_pic_center 4]
 *  83分 分步骤分析瓶颈
 *  136分- 一些OOM场景：  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3_size_16_color_FFFFFF_t_70_pic_center 5]
 *  146分 -XX:+HeapDumpOnOutOfMemoryError -XX:HeapDumpPath=/temp/202006.hprof  
    用MemoryAnalyzer工具分析dump文件：![在这里插入图片描述][2020103123474365.png_pic_center]
 *  166:45+: 对堆内内存溢出的问题，在测试环境下用gperftools工具：  
    ![在这里插入图片描述][20201031235253677.png_pic_center]

## old《3.2.4 内存爆炸、CPU100%问题分析、定位、解决》 ##

*  垃圾回收器一般用 CMS+ParNewGC?
 *  36:50 监控系统：大众点评的CAT, Zabbix
 *  60:23 禁止显式调用gc方法：  
    ![在这里插入图片描述][20201207061446293.png]
 *  jcmd  
    jmap输出内存快照
 *  104:30 没有分页（或者前端参数不严谨）导致10w+的超长arraylist, OOM

## old《3.2.5 网易真实性能调优案例分享》 ##

*  28:15 某案例中，cpu占用不高但接口访问依然慢，用jstack输出进程堆栈信息后，发现一个sleep的线程：  
    ![在这里插入图片描述][20201212172119762.png]  
    然后在对应代码中发现了问题：是调用了sleep命令  
    ![在这里插入图片描述][20201212172327313.png]
 *  54:35 本机不能直连生产环境的机器，必须通过中转机（或称堡垒机）
 *  87:50 jstack输出信息中的线程的nid,为os中线程pid的16进制形式。通过这种办法来定位那些cpu占用率特别高的线程的代码  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3_size_16_color_FFFFFF_t_70]

## 《4.5.3 编写限流框架中的核心模块》 ##

使用aop的环绕通知来拦截自定义注解，在切面类中使用Guava的令牌桶限流算法：  
Controller中的方法:

@GetMapping("sdh")
        @SdhRateLimiter(permitsPerSecond = 1, timeout = 500, errorMsg = "有错误")
        public String sdhLimiter() {
        
            return "sdh success";
        }

自定义注解：

@Retention(RetentionPolicy.RUNTIME)
    @Target({
        ElementType.METHOD})
    public @interface SdhRateLimiter {
        
        double permitsPerSecond() default 1;
        long timeout() default 500;
        TimeUnit timeUnit() default TimeUnit.MILLISECONDS;
        String errorMsg();
    }

切面类：

@Aspect
    @Component
    public class SdhRateLimiterAspect {
        
    
        private Map<String, RateLimiter> url_limitMap = new ConcurrentHashMap<>();
    
        @Around("@annotation(com.study.current.limiting.aop.SdhRateLimiter)")
        public Object around(ProceedingJoinPoint joinPoint) throws Throwable {
        
            // 获取request,response
            HttpServletRequest request = ((ServletRequestAttributes) RequestContextHolder.getRequestAttributes()).getRequest();
            HttpServletResponse response = ((ServletRequestAttributes) RequestContextHolder.getRequestAttributes()).getResponse();
    
            String url = request.getRequestURI();
            // 获取自定义注解
            SdhRateLimiter limiterAnnotation = getSdhRateLimiter(joinPoint);
            if (limiterAnnotation != null) {
        
                RateLimiter limiter = null;
                if (!url_limitMap.containsKey(url)) {
        
                    // 创建令牌桶
                    limiter = RateLimiter.create(limiterAnnotation.permitsPerSecond());
                    url_limitMap.put(url, limiter);
                    System.out.println("<<=================  请求"+url+",创建令牌桶成功!!!");
                }
                limiter = url_limitMap.get(url);
                // 获取令牌
                boolean acquire = limiter.tryAcquire(limiterAnnotation.timeout(), limiterAnnotation.timeUnit());
    
                if (!acquire) {
        
                    return limiterAnnotation.errorMsg();
                }
            }
            return joinPoint.proceed();
        }
    
        /**
         * 获取注解对象
         *
         * @param joinPoint 对象
         * @return ten LogAnnotation
         */
        private SdhRateLimiter getSdhRateLimiter(final JoinPoint joinPoint) {
        
            Method[] methods = joinPoint.getTarget().getClass().getDeclaredMethods();
            String name = joinPoint.getSignature().getName();
            if (!StringUtils.isEmpty(name)) {
        
                for (Method method : methods) {
        
                    SdhRateLimiter annotation = method.getAnnotation(SdhRateLimiter.class);
                    if (annotation!=null && name.equals(method.getName())) {
        
                        return annotation;
                    }
                }
            }
            return null;
        }
    
    }

## 《【技术分享】CPU100%问题解决与优化》 ##

*  伪共享; @Contended
 *  死锁：用jcmd列出进程号，用jstack可查看进程中是否有死锁
 *  55分-： cpu 100%(比如while(true)导致的)  
    1，linux命令top,找到进程  
    2，找到线程，top -H -P javapid  
    3，jstack pid > log.txt
 *  64：14 核心方法的度量工具Metrics
 *  78:24 接口响应很慢  
    监控工具arthas  
    ![请求正在执行请求在等待][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3_size_16_color_FFFFFF_t_70_pic_center 6]
 *  90:47 【面试题】JUC包你使用过哪些类？在哪些场景使用？

页面打开太慢， 请求太多，浏览器有限制。  
优化方案： 多个请求合并到一起。  
后台优化：后台收到请求之后，要 执行多个复杂的service、多次数据库查询。多线程异步编程并发查询，用到futrue相关技术。

[https_www.cnblogs.com_linjiqin_p_9707713.html]: https://www.cnblogs.com/linjiqin/p/9707713.html
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3_size_16_color_FFFFFF_t_70_pic_center]: https://img-blog.csdnimg.cn/20201031014159196.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3,size_16,color_FFFFFF,t_70#pic_center
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3_size_16_color_FFFFFF_t_70_pic_center 1]: https://img-blog.csdnimg.cn/2020103101424677.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3,size_16,color_FFFFFF,t_70#pic_center
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3_size_16_color_FFFFFF_t_70_pic_center 2]: https://img-blog.csdnimg.cn/20201031014453825.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3,size_16,color_FFFFFF,t_70#pic_center
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3_size_16_color_FFFFFF_t_70_pic_center 3]: https://img-blog.csdnimg.cn/20201031014645380.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3,size_16,color_FFFFFF,t_70#pic_center
[20201031222305888.png_pic_center]: https://img-blog.csdnimg.cn/20201031222305888.png#pic_center
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3_size_16_color_FFFFFF_t_70_pic_center 4]: https://img-blog.csdnimg.cn/20201031192514778.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3,size_16,color_FFFFFF,t_70#pic_center
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3_size_16_color_FFFFFF_t_70_pic_center 5]: https://img-blog.csdnimg.cn/20201031234254853.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3,size_16,color_FFFFFF,t_70#pic_center
[2020103123474365.png_pic_center]: https://img-blog.csdnimg.cn/2020103123474365.png#pic_center
[20201031235253677.png_pic_center]: https://img-blog.csdnimg.cn/20201031235253677.png#pic_center
[20201207061446293.png]: https://img-blog.csdnimg.cn/20201207061446293.png
[20201212172119762.png]: https://img-blog.csdnimg.cn/20201212172119762.png
[20201212172327313.png]: https://img-blog.csdnimg.cn/20201212172327313.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20201212175913193.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3_size_16_color_FFFFFF_t_70_pic_center 6]: https://img-blog.csdnimg.cn/2020110302315784.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIzMjA0NTU3,size_16,color_FFFFFF,t_70#pic_center