项目中遇到的Redis缓存问题

你的名字 2021-11-22 22:18 400阅读 0赞

### 1.Redis服务器 can not get resource from pool. ###

1000个线程并发还能跑，5000个线程的时候出现这种问题，查后台debug日志，发现redis 线程池不够。刚开始设置的是：

# redis 配置文件
    #redis
    redis.host=127.0.0.1
    redis.port=6379
    redis.timeout=300        等待时间  10s改为300s
    redis.password=123456
    redis.poolMaxTotal=1000   连接数，刚开始最大连接数 设置为100.
    redis.poolMaxIdle=500 最大空闲连接数 100改成500 redis.poolMaxWait=300

顺便也改了一下jdbc 的连接池参数，最大空闲和最大连接数都改成1000.在测一下。可以

spring.datasource.filters=stat
    spring.datasource.maxActive=1000
    spring.datasource.initialSize=100
    spring.datasource.maxWait=60000
    spring.datasource.minIdle=500
    spring.datasource.timeBetweenEvictionRunsMillis=60000 spring.datasource.minEvictableIdleTimeMillis=300000 spring.datasource.validationQuery=select 'x' spring.datasource.testWhileIdle=true spring.datasource.testOnBorrow=false spring.datasource.testOnReturn=false spring.datasource.poolPreparedStatements=true spring.datasource.maxOpenPreparedStatements=20

### 2.5000并发下的问题，20个商品，库存减到-4980。 ###

后来看代码发现，判断库存用的是if(stock==0 ) 抛出异常。应该用stock<0,因为 若此时同时2个线程进来，就永远小于0，后面的业务逻辑都可以执行。

### 3.然后就是超卖的问题 ###

第一次压力测试的时候，5000个线程，分别取不同的token(sessionId),同时访问 秒杀这个接口，商品个数只放了20个。结果出现最后商品数量变负的问题。

### 4.编码的问题 ###

接口限流防刷的时候，通过计数器限流，如果超过某个阈值，向前端返回一个codeMsg对象用于显示的时候，显示的是String是乱码的问题，之前由于一直返回都是json 格式，都是封装好在data里。

这次返回是直接通过输出流直接写到response直接返回字节数组的，而不是spring controller 返回数据（springboot 默认utf-8），出现乱码问题，用utf-8编码，解决。

### 5.压测是如何压测的，以及压测的瓶颈？ ###

压测是利用Jmeter压测。（Apache开发的基于java的压测工具）。

#### 压测具体实现： ####

**　　1**.在数据库中提前插入5000个用户密码（脚本 for循环 id是13000000+i）,密码统一为“123456”，随机盐值也是固定的，方便操作。用JDBC存入数据库。作为5000个备用用户。

**　　2**.然后写了一个小脚本让5000个用户post请求我的登陆接口（login），生成sessionId并存入缓存，并改写了一下login接口让其换回sessionId。把这5000个用户的id和对应sessionid写到了一个TXT文件里面。

**　　3**.最后利用jmeter 创建5000个线程，账号每个线程携带提前写好的用户token(sessionId)，参数就是商品id和sessionid，商品id确定我要买的票是哪个，sessionid用来获取用户信息。（从缓存中拿）

#### 压测的瓶颈： ####

qps-126/s----静态化-250/s---接口优化-860/s.

瓶颈主要是对数据库的访问。

**　　1**.数据库读取，写入，处理请求的速度。

数据库读取写入加上网络IO速度很慢，减少对数据库的访问，在缓存这一端就屏蔽掉大部分访问数据库的请求（Redis预减库存操作）

**　　2**.利用消息队列，异步业务逻辑的处理速度慢，可以先返回结果，让其轮询。

**　　3**.利用内存map,减少对Redis服务器的访问，flag机制。

**　　4**.其他想到的但还没实现

服务器系统的负载均衡+集群

数据库数据达到1000W以上就很慢，分库分表

### 6.用户登陆的整个流程是如何实现的？ ###

**　　1**.首先输入登陆页面的url.\[[http://localhost:8080/login/to\_login,controller][http_localhost_8080_login_to_login_controller]根据map映射返回给html页，到达登陆页面\]

**　　2**.整个页面是一个login表单，包含用户名和密码两个输入框部分，还有一个登陆按钮和重置按钮。

**　　3**.在前端，给登陆按钮绑定一个login()方法，login()方法中会获取表单中的用户名和密码，然后将密码利用封装好的md5()函数以及设置的固定盐值进行拼接，盐值设置为“1a2b3c”,然后进行MD5算法生成4个32位拼接的散列值作为输入密码（用于 网络传输），作为参数传给后端。（这里的目的主要是第一道加密，防止http明文传输，泄漏密码）。

**　　4**.然后ajax异步访问do\_login 接口，参数为用户名和md5之后的密码，后端接收到前端传输来的参数后，会对用户名和密码进行参数校验，验证是否为空，是否有格式问题（密码长度6位以上，用户名格式11位等等），如果验证不通过，返回CodeMsg()，封装好的对应的错误信息给前端。

**　　5**.如果验证成功，进入下一步，用户的登陆，首先通过用户名取用户对象信息（先从缓存中取，取不到取数据库取，取到了将用户信息存入缓存中，下一次登录我们可以先从缓存中取用户，降低数据库压力），然后返回一个user对象，再判断这个user对象是否为空，若是空就抛出异常，不是空的情况说明数据库中有该用户，然后根据传入的密码和数据中保存的随机盐值，进行md5再次拼接，获得的值若是和数据库中的密码一致，那么说明登陆成功。

**　　关键点: 6**.登陆成功的时候，随机生成uuid作为sessionId，将其写入cookie中返回给客户端，并且将模块前缀+该用户id作为key和sessionId 作为值，存入缓存（这里为分布式缓存提供的基础）。这时候跳转到 抢票列表页面，如果密码不匹配，抛出异常，返回。

### 7.秒杀的两个关键点如何应对--高并发应对策略+页面加载速度？ ###

短时间的大访问量 网站服务器 同网站，不同项目部署，/独立域名 避免对网站造成影响 高并发问题，不停刷新 数据库 页面静态化  
同网站，不同项目部署，/独立域名 避免对网站造成影响 宽带 同网站，不同项目部署，/独立域名 避免对网站造成影响 不能提前下单 服务器 url动态化，＋随机数  
下单之后的抢的问题 sql 乐观锁

#### 大量访问高并发的应对（主要访问大量访问数据库崩溃） ####

**　　1**.Redis预减库存减少数据库访问

**　　2**.map标记减少Redis访问屏蔽一定的请求减轻缓存压力

**　　3**.消息队列异步处理

*   *  流量削峰 开始抢购的瞬间 大量并发进入，先将请求入队，若队列满了，那么舍弃再入队的请求返回一个异常
     *  先给前端一个数据返回表示排队中，再进行后续的业务处理，前端轮询最后成功或者失败在显示业务结果

**　　4**.数据库运行的问题，传统的sql写成存储过程（直接调用），加速sql

**　　5**.数据库里锁及唯一索引来处理抢的问题。

#### 页面加载速度 ####

页面静态化，缓存在客户端

**CDN服务器**

在上表中列出来的解决方案中看出，利用 页面静态化、数据静态化，反向代理 等方法可以避免 带宽和sql压力 ，但是随之而来一个问题，页面抢单按钮也不会刷新了，可以把 js 文件单独放在js服务器上，由另外一台服务器写 定时任务 来控制js 推送。

另外还有一个问题，js文件会被大部分浏览器缓存，我们可以使用xxx.js?v=随机数 的方式来避免js被缓存

### 8.页面静态化的过程 ###

更为激进的缓存方式（之前可以用将html源码缓存起来再读，避免服务器渲染html过程）。

#### 什么是浏览器缓存： ####

简单来说，浏览器缓存就是把一个已经请求过的Web资源（如html页面，图片，js，数据等）拷贝一份副本储存在浏览器中。缓存会根据进来的请求保存输出内容的副本。当下一个请求来到的时候，如果是相同的URL，缓存会根据缓存机制决定是直接使用副本响应访问请求，还是向源服务器再次发送请求。比较常见的就是浏览器会缓存访问过网站的网页，当再次访问这个URL地址的时候，如果网页没有更新，就不会再次下载网页，而是直接使用本地缓存的网页。只有当网站明确标识资源已经更新，浏览器才会再次下载网页。

#### 页面静态化的好处： ####

我们知道浏览器会将html,图片等静态数据，缓存到本地，在高并发抢票场景，用户会通过不断的刷新页面来进行抢票操作，这样带来Web带宽的浪费以及服务器的访问压力。于是，我们可以通过将抢票页面做成静态页面html页，其中的票务数据通过ajax异步调用接口来获取，仅仅交互的是部分数据，减少了带宽，也加快用户访问的速度。

**　　做法：首先将票务详情这个template 模板 html页放在static 文件下，然后改掉thymeleaf 模板语言标签让其成为纯html语言，然后将票务列表中的链接指向（本来是requestMapping，向后端contrller 请求这个详情业务及数据，然后利用spring渲染模板，在返回的），现在直接指向static文件下的票务详情页（链接中带商品id作为参数），最后在这个html页面写ajax异步访问后端接口/getdetail，后端接口也改造一下返回的是这个商品的全部详细信息，封装在data里，以json的形式，然后写了一个render()，把从后端传来的数据写进对应数据中。**

/** 页面静态化：商品详情页面
         * 方法：返回的是一个静态html 页面 + 利用ajax(通过接口)从服务端获取对应数据 + js技术将数据放入html
         * */
        @RequestMapping(value = "/to_detail/{goodsId}") // 前端传入的参数 goodsId
        @ResponseBody
        public Result<GoodsDetailVo> detail(HttpServletRequest request, HttpServletResponse response, Model model, MiaoshaUser user,
                             @PathVariable("goodsId") Long goodsId){//通过注解@PathVariable获取路径参数 /*先将user 传进去 用来判断是否登录*/ model.addAttribute("user",user); /*根据传入的Id 通过service 拿到对应的Good信息*/ GoodsVo goods = goodsService.getGoodsById(goodsId); model.addAttribute("goods",goods); long startTime = goods.getStartDate().getTime(); long endTime = goods.getEndDate().getTime(); long nowTime = System.currentTimeMillis();/* 拿到现在时间的毫秒值*/ /**这里要做一个秒杀时间的判断 秒杀开始 秒杀结束 秒杀进行 * */ int miaoshaStatus = 0;/*用该变量来表示 秒杀的状态 0 表示秒杀未开始 1 开始 2 结束*/ int remainSeconds = 0; /*表示剩余时间 距离秒杀开始的时间*/ if (nowTime<startTime){//秒杀未开始 miaoshaStatus = 0; remainSeconds = (int)((startTime-nowTime)/1000);//注意此时是 毫秒值 要除以1000 }else if (endTime<nowTime){//秒杀结束 miaoshaStatus = 2; remainSeconds = -1; }else {//秒杀进行中 miaoshaStatus = 1; remainSeconds = 0; } model.addAttribute("remainSeconds",remainSeconds); model.addAttribute("miaoshaStatus",miaoshaStatus); /* 将我们需要的数据 封装到GoodsDetailVo中 */ GoodsDetailVo goodsDetailVo = new GoodsDetailVo(); goodsDetailVo.setGoodsVo(goods); goodsDetailVo.setMiaoshaStatus(miaoshaStatus); goodsDetailVo.setRemainSeconds(remainSeconds); goodsDetailVo.setUser(user); return Result.success(goodsDetailVo);

转载于:https://www.cnblogs.com/Infernal/p/11147331.html

[http_localhost_8080_login_to_login_controller]: https://links.jianshu.com/go?to=http%3A%2F%2Flocalhost%3A8080%2Flogin%2Fto_login%2Ccontroller