分布式缓存设计

川长思鸟来 2022-02-26 08:18 213阅读 0赞

# 分布式缓存设计 #

目前常见的缓存方案都是分层缓存，通常可以分为以下几层：

*  `NG` 本地缓存，命中的话直接返回。
 *  `NG` 没有命中时则需要查询分布式缓存，如 `Redis` 。
 *  如果分布式缓存没有命中则需要回源到 `Tomcat` 在本地堆进行查询，命中之后异步写回 `Redis` 。
 *  以上都没有命中那就只有从 `DB` 或者是数据源进行查询，并写回到 Redis 中。

## 缓存更新的原子性 ##

在写回 Redis 的时候如果是 `Tomcat` 集群，多个进程同时写那很有可能出现脏数据，这时就会出现更新原子性的问题。

可以有以下解决方案:

*  可以将多个 Tomcat 中的数据写入到 MQ 队列中，由消费者进行单线程更新缓存。
 *  利用[分布式锁][Link 1]，只有获取到锁进程才能写数据。

## 如何写缓存 ##

写缓存时也要注意，通常来说分为以下几步：

*  开启事务。
 *  写入 DB 。
 *  提交事务。
 *  写入缓存。

这里可能会存在数据库写入成功但是缓存写入失败的情况，但是也不建议将写入缓存加入到事务中。  
因为写缓存的时候可能会因为网络原因耗时较长，这样会阻塞数据库事务。  
如果对一致性要求不高并且数据量也不大的情况下，可以单独起一个服务来做 DB 和缓存之间的数据同步操作。

更新缓存时也建议做增量更新。

## 负载策略 ##

缓存负载策略一般有以下两种：

*  轮询机制。
 *  一致哈希算法。

轮询的优点是负载到各个服务器的请求是均匀的，但是如果进行扩容则缓存命中率会下降。

一致哈希的优点是相同的请求会负载到同一台服务器上，命中率不会随着扩容而降低，但是当大流量过来时有可能把服务器拖垮。

所以建议两种方案都采用：  
首先采用一致哈希算法，当流量达到一定的阈值的时候则切换为轮询，这样既能保证缓存命中率，也能提高系统的可用性。

![11863677-72efa5322e439aa0.jpg][]

矿洞程序员.jpg

[Link 1]: https://github.com/crossoverJie/Java-Interview/blob/master/MD/Java-lock.md#%E5%9F%BA%E4%BA%8E%E6%95%B0%E6%8D%AE%E5%BA%93
[11863677-72efa5322e439aa0.jpg]: /images/20220226/6d3bffa5b6b44846ad0fc6ca987c880a.png

发表评论取消回复

表情：

评论列表（有 0 条评论，213人围观）

还没有评论，来说两句吧...

相关阅读

相关分布式缓存，就该这样设计

前言在高并发的分布式的系统中，缓存是必不可少的一部分。没有缓存对系统的加速和阻挡大量的请求直接落到系统的底层，系统是很难撑住高并发的冲击，所以分布式系统中缓存的设计是很重

清疚/ 2024年04月08日 10:37/ 0 赞/ 28 阅读

相关解析分布式系统的缓存设计

一、缓存简介 1.1 什么是缓存缓存就是数据交换的缓冲区。缓存的本质是一个内存 Hash。缓存是一种利用空间换时间的设计，其目标就是更快、更近：极大的提高。

谁借莪１个温暖的怀抱￠/ 2024年04月03日 10:08/ 0 赞/ 34 阅读

相关分布式多级缓存系统设计与实战

1. 缓存系统概述 ![format_png][] 如上图，是一次最基本的网络请求。用户请求从界面（浏览器或 App 界面）到网络转发、应用服务再到存储（数据库或文件系

亦凉/ 2024年03月22日 10:01/ 0 赞/ 13 阅读

相关分布式多级缓存系统设计与实战

1. 缓存系统概述 ![format_png][] 如上图，是一次最基本的网络请求。用户请求从界面（浏览器或 App 界面）到网络转发、应用服务再到存储（数据库或文件系

清疚/ 2023年09月26日 22:53/ 0 赞/ 84 阅读

相关小工匠聊架构 - 分布式缓存技术_缓存设计

文章目录总览缓存的基本思想缓存优势缓存的代价 ![在这里插入图片描述][resize_m_lfit_w_962_pic_center]

刺骨的言语ヽ痛彻心扉/ 2022年12月28日 12:34/ 0 赞/ 156 阅读

相关分布式缓存

缓存雪崩缓存雪崩我们可以简单的理解为:由于原有缓存失效，新缓存未到期间所有原本应该访问缓存的请求都去查询数据库了，而对数据库 CPU 和内存造成巨大压力，严重的会造成

﹏ヽ暗。殇╰゛Y/ 2022年10月16日 07:48/ 0 赞/ 176 阅读

相关分布式缓存

分布式缓存——RedisCluster 1. RedisCluster是如何确定数据要存在集群中的哪个节点的？答：Redis集群中内置了16384个哈希槽，当

女爷i/ 2022年05月18日 10:51/ 0 赞/ 276 阅读

相关分布式缓存

分布式缓存分布式缓存常见的解决方案？你们采用哪种？答：Memcached集群和Redis集群（RedisCluster）。我们采用的是RedisCluster

男娘i/ 2022年05月16日 20:48/ 0 赞/ 250 阅读

相关分布式缓存设计

分布式缓存设计目前常见的缓存方案都是分层缓存，通常可以分为以下几层： `NG` 本地缓存，命中的话直接返回。 `NG` 没有命中时则需要查询分布式缓存，如

川长思鸟来/ 2022年02月26日 08:18/ 0 赞/ 214 阅读

相关分布式缓存架构设计分析

前言在高并发场景下，需要通过缓存来减少数据库的压力，使得大量的访问进来能够命中缓存，只有少量的需要到数据库层。由于缓存基于内存，可支持的并发量远远大于基于硬盘的数据库。

青旅半醒/ 2022年01月20日 06:19/ 0 赞/ 309 阅读