微服务架构 — 服务治理 — 服务限流、服务降级、服务熔断

秒速五厘米 2023-10-05 17:44 147阅读 0赞

目录

文章目录

目录
服务限流
服务降级
服务熔断

服务限流

C ⇄ S 的异常问题：C 的请求太多，超出 S 的服务能力，导致 S 不可用。例如：DoS 攻击，企图耗尽被攻击对象的资源，让目标系统无法响应直至崩溃。因此，S 需要能够进行自我保护，例如：S 对 C 限流，保护 S 的服务资源。

限流通常在网关或网络层面实施。对各类请求设置最高的 QPS 阈值，当请求高于阈值时直接阻断。常用的限流算法有滑动计数，漏斗限流和令牌桶限流三种。

滑动计数限流：按时间片（比如 1 秒）定义滑动窗口，计数器记录当前窗口的请求次数，达到阈值就限流，窗口滑动后计数器归零。可采用循环队列数据结构实现。
漏斗限流：维护一个队列，所有请求进队列，按 FIFO 服务，队满溢出则丢弃请求。
令牌桶限流：按固定速率往桶中存入令牌，服务前先从桶中取令牌，取到令牌才服务。

限流策略有很多，最简单的比如当单位时间内请求数过多时，丢弃多余的请求。另外，也可以考虑分区限流。仅拒绝来自产生大量请求的服务的请求。例如：商品服务和订

发表评论取消回复

表情：

评论列表（有 0 条评论，147人围观）

还没有评论，来说两句吧...

相关阅读

相关何时进行服务熔断、服务降级、服务限流?

随着微服务架构被宣传得如火如荼，一些概念也被推到了我们面前（管你接受不接受），其实大多数概念以前就有，但很少被提的这么频繁（现在好像不提及都不好意思交流了）。想起有人总结...

水深无声/ 2024年04月20日 08:05/ 0 赞/ 150 阅读

相关微服务架构 — 服务治理 — 服务限流、服务降级、服务熔断

目录文章目录目录服务限流服务降级服务熔断服务限流 C ⇄ S 的异常问题：C 的请求太多，超出 S 的服务能力，导致 S

秒速五厘米/ 2023年10月05日 17:44/ 0 赞/ 148 阅读

相关微服务限流熔断降级方案对比

微服务限流熔断降级方案对比 1、线程池隔离优点：支持排队和超时支持异步调用不足：线程调用会产生额外的开销适用：不受信客户

系统管理员/ 2023年06月08日 06:39/ 0 赞/ 35 阅读

相关分布式服务熔断，降级，限流

> [本文来自Sentinal官方文档][Sentinal] > [Hystrix官方文档][Hystrix] 1. 什么是流量控制？ > 限流：每个服务方均有自己

红太狼/ 2023年03月12日 12:15/ 0 赞/ 268 阅读

相关 springcloud --- 服务熔断、降级、限流--之--Hystrix-服务降级

参考文章：[springcloud----服务熔断、降级、限流--之--Hystrix-服务降级][springcloud----_--_--Hystrix-] 服务降级、服

Myth丶恋晨/ 2022年11月24日 14:29/ 0 赞/ 405 阅读

相关服务降级、熔断、限流

目录目录 1、概念 1.1 降级 1.1.1 常见降级： 1.1.2 示例 1.2 熔断 1.2.1 熔断设计 1.2.2 示例 1.3 限流

清疚/ 2022年10月30日 11:18/ 0 赞/ 381 阅读

相关微服务中限流、熔断、降级区别

在复杂的分布式系统中,微服务之间的相互调用,有可能出现各种各样的原因导致服务的阻塞,在高并发场景下,服务的阻塞意味着线程的阻塞,导致当前线程不可用,服务器的线程全部阻塞,导致服

比眉伴天荒/ 2022年10月14日 00:54/ 0 赞/ 281 阅读

相关 7、何时进行服务熔断、服务降级、服务限流?

伴随着微服务架构被宣传得如火如荼，一些概念也被推到了我们面前（管你接受不接受），其实大多数概念以前就有，但很少被提的这么频繁（现在好像不提及都不好意思交流了）。想起有人总结的一

淩亂°似流年/ 2022年05月28日 06:48/ 0 赞/ 295 阅读

相关服务熔断，服务降级，服务限流

服务熔断：在股票市场，熔断是指股指波幅达到某个点后，交易所为控制风险采取的暂停交易措施，在系统中，在系统中熔断一般指软件系统中，由于某些原因使服务出现过载现象

电玩女神/ 2022年05月26日 22:50/ 0 赞/ 383 阅读

相关 Hystrix 熔断机制、服务降级、服务限流、解决服务雪崩效应

一、什么是服务的雪崩效应所有的请求都在处理一个服务，造成其他服务不能访问。 1.使用超时机制、服务降级（服务调用接口，如果发生错误或者超时，不让调用接口，调用本地fa

小咪咪/ 2022年05月25日 05:23/ 0 赞/ 337 阅读