分布式ID生成方案(二):SnowFlake雪花算法

心已赠人 2023-07-25 09:48 87阅读 0赞

雪花算法(SnowFlake) 是twitter公司内部分布式项目采用的ID生成算法,开源后广受国内大厂的好评,在该算法影响下各大公司相继开发出各具特色的分布式生成器。

SnowFlake算法生成id的结果是一个64bit大小的整数,它的结构如下图:

在这里插入图片描述
Snowflake生成的是Long类型的ID,一个Long类型占8个字节,每个字节占8比特,也就是说一个Long类型占64个比特。

Snowflake ID组成结构:正数位(占1比特)+ 时间戳(占41比特)+ 机器ID(占5比特)+ 数据中心(占5比特)+ 自增值(占12比特),总共64比特组成的一个Long类型。

  • 第一个bit位(1bit):Java中long的最高位是符号位代表正负,正数是0,负数是1,一般生成ID都为正数,所以默认为0
  • 时间戳部分(41bit):毫秒级的时间,不建议存当前时间戳,而是用(当前时间戳 - 固定开始时间戳)的差值,可以使产生的ID从更小的值开始;41位的时间戳可以使用69年,(1L << 41) / (1000L * 60 * 60 * 24 * 365) = 69年
  • 工作机器id(10bit):也被叫做workId,这个可以灵活配置,机房或者机器号组合都可以
  • 序列号部分(12bit):自增值支持同一毫秒内同一个节点可以生成4096个ID

雪花算法生成ID完整工具类代码如下:

  1. package com.my.blog.website.utils;
  2. import org.apache.commons.lang3.RandomUtils;
  3. import org.apache.commons.lang3.StringUtils;
  4. import org.apache.commons.lang3.SystemUtils;
  5. import java.net.Inet4Address;
  6. import java.net.UnknownHostException;
  7. /**
  8. * Twitter_Snowflake<br>
  9. * SnowFlake的结构如下(每部分用-分开):<br>
  10. * 0 - 0000000000 0000000000 0000000000 0000000000 0 - 00000 - 00000 - 000000000000 <br>
  11. * 1位标识,由于long基本类型在Java中是带符号的,最高位是符号位,正数是0,负数是1,所以id一般是正数,最高位是0<br>
  12. * 41位时间截(毫秒级),注意,41位时间截不是存储当前时间的时间截,而是存储时间截的差值(当前时间截 - 开始时间截)
  13. * 得到的值),这里的的开始时间截,一般是我们的id生成器开始使用的时间,由我们程序来指定的(如下下面程序IdWorker类的startTime属性)。41位的时间截,可以使用69年,年T = (1L << 41) / (1000L * 60 * 60 * 24 * 365) = 69<br>
  14. * 10位的数据机器位,可以部署在1024个节点,包括5位datacenterId和5位workerId<br>
  15. * 12位序列,毫秒内的计数,12位的计数顺序号支持每个节点每毫秒(同一机器,同一时间截)产生4096个ID序号<br>
  16. * 加起来刚好64位,为一个Long型。<br>
  17. * SnowFlake的优点是,整体上按照时间自增排序,并且整个分布式系统内不会产生ID碰撞(由数据中心ID和机器ID作区分),并且效率较高,经测试,SnowFlake每秒能够产生26万ID左右。
  18. */
  19. public class SnowflakeIdWorker {
  20. // ==============================Fields===========================================
  21. /** 开始时间截 (2015-01-01) */
  22. private final long twepoch = 1489111610226L;
  23. /** 机器id所占的位数 */
  24. private final long workerIdBits = 5L;
  25. /** 数据标识id所占的位数 */
  26. private final long dataCenterIdBits = 5L;
  27. /** 支持的最大机器id,结果是31 (这个移位算法可以很快的计算出几位二进制数所能表示的最大十进制数) */
  28. private final long maxWorkerId = -1L ^ (-1L << workerIdBits);
  29. /** 支持的最大数据标识id,结果是31 */
  30. private final long maxDataCenterId = -1L ^ (-1L << dataCenterIdBits);
  31. /** 序列在id中占的位数 */
  32. private final long sequenceBits = 12L;
  33. /** 机器ID向左移12位 */
  34. private final long workerIdShift = sequenceBits;
  35. /** 数据标识id向左移17位(12+5) */
  36. private final long dataCenterIdShift = sequenceBits + workerIdBits;
  37. /** 时间截向左移22位(5+5+12) */
  38. private final long timestampLeftShift = sequenceBits + workerIdBits + dataCenterIdBits;
  39. /** 生成序列的掩码,这里为4095 (0b111111111111=0xfff=4095) */
  40. private final long sequenceMask = -1L ^ (-1L << sequenceBits);
  41. /** 工作机器ID(0~31) */
  42. private long workerId;
  43. /** 数据中心ID(0~31) */
  44. private long dataCenterId;
  45. /** 毫秒内序列(0~4095) */
  46. private long sequence = 0L;
  47. /** 上次生成ID的时间截 */
  48. private long lastTimestamp = -1L;
  49. private static SnowflakeIdWorker idWorker;
  50. static {
  51. idWorker = new SnowflakeIdWorker(getWorkId(),getDataCenterId());
  52. }
  53. //==============================Constructors=====================================
  54. /**
  55. * 构造函数
  56. * @param workerId 工作ID (0~31)
  57. * @param dataCenterId 数据中心ID (0~31)
  58. */
  59. public SnowflakeIdWorker(long workerId, long dataCenterId) {
  60. if (workerId > maxWorkerId || workerId < 0) {
  61. throw new IllegalArgumentException(String.format("workerId can't be greater than %d or less than 0", maxWorkerId));
  62. }
  63. if (dataCenterId > maxDataCenterId || dataCenterId < 0) {
  64. throw new IllegalArgumentException(String.format("dataCenterId can't be greater than %d or less than 0", maxDataCenterId));
  65. }
  66. this.workerId = workerId;
  67. this.dataCenterId = dataCenterId;
  68. }
  69. // ==============================Methods==========================================
  70. /**
  71. * 获得下一个ID (该方法是线程安全的)
  72. * @return SnowflakeId
  73. */
  74. public synchronized long nextId() {
  75. long timestamp = timeGen();
  76. //如果当前时间小于上一次ID生成的时间戳,说明系统时钟回退过这个时候应当抛出异常
  77. if (timestamp < lastTimestamp) {
  78. throw new RuntimeException(
  79. String.format("Clock moved backwards. Refusing to generate id for %d milliseconds", lastTimestamp - timestamp));
  80. }
  81. //如果是同一时间生成的,则进行毫秒内序列
  82. if (lastTimestamp == timestamp) {
  83. sequence = (sequence + 1) & sequenceMask;
  84. //毫秒内序列溢出
  85. if (sequence == 0) {
  86. //阻塞到下一个毫秒,获得新的时间戳
  87. timestamp = tilNextMillis(lastTimestamp);
  88. }
  89. }
  90. //时间戳改变,毫秒内序列重置
  91. else {
  92. sequence = 0L;
  93. }
  94. //上次生成ID的时间截
  95. lastTimestamp = timestamp;
  96. //移位并通过或运算拼到一起组成64位的ID
  97. return ((timestamp - twepoch) << timestampLeftShift)
  98. | (dataCenterId << dataCenterIdShift)
  99. | (workerId << workerIdShift)
  100. | sequence;
  101. }
  102. /**
  103. * 阻塞到下一个毫秒,直到获得新的时间戳
  104. * @param lastTimestamp 上次生成ID的时间截
  105. * @return 当前时间戳
  106. */
  107. protected long tilNextMillis(long lastTimestamp) {
  108. long timestamp = timeGen();
  109. while (timestamp <= lastTimestamp) {
  110. timestamp = timeGen();
  111. }
  112. return timestamp;
  113. }
  114. /**
  115. * 返回以毫秒为单位的当前时间
  116. * @return 当前时间(毫秒)
  117. */
  118. protected long timeGen() {
  119. return System.currentTimeMillis();
  120. }
  121. private static Long getWorkId(){
  122. try {
  123. String hostAddress = Inet4Address.getLocalHost().getHostAddress();
  124. int[] ints = StringUtils.toCodePoints(hostAddress);
  125. int sums = 0;
  126. for(int b : ints){
  127. sums += b;
  128. }
  129. return (long)(sums % 32);
  130. } catch (UnknownHostException e) {
  131. // 如果获取失败,则使用随机数备用
  132. return RandomUtils.nextLong(0,31);
  133. }
  134. }
  135. private static Long getDataCenterId(){
  136. int[] ints = StringUtils.toCodePoints(SystemUtils.getHostName());
  137. int sums = 0;
  138. for (int i: ints) {
  139. sums += i;
  140. }
  141. return (long)(sums % 32);
  142. }
  143. /**
  144. * 静态工具类
  145. *
  146. * @return
  147. */
  148. public static synchronized Long generateId(){
  149. long id = idWorker.nextId();
  150. return id;
  151. }
  152. }

测试代码:

  1. public static void main(String[] args) {
  2. System.out.println(System.currentTimeMillis());
  3. long startTime = System.nanoTime();
  4. CountDownLatch countDownLatch = new CountDownLatch(10);
  5. for (int i = 0; i < 10; i++) {
  6. new Thread(() ->{
  7. for (int j = 0; j < 10000; j++) {
  8. long id = SnowflakeIdWorker.generateId();
  9. System.out.println(id);
  10. }
  11. countDownLatch.countDown();
  12. }).start();
  13. }
  14. System.out.println((System.nanoTime()-startTime)/1000000+"ms");
  15. }

雪花算法提供了一个很好的设计思想,雪花算法生成的ID是趋势递增,不依赖数据库等第三方系统,以服务的方式部署,稳定性更高,生成ID的性能也是非常高的,而且可以根据自身业务特性分配bit位,非常灵活。

但是雪花算法强依赖机器时钟,如果机器上时钟回拨,会导致发号重复或者服务会处于不可用状态。如果恰巧回退前生成过一些ID,而时间回退后,生成的ID就有可能重复。官方对于此并没有给出解决方案,而是简单的抛错处理,这样会造成在时间被追回之前的这段时间服务不可用。

很多其他类雪花算法也是在此思想上的设计然后改进规避它的缺陷,百度 UidGenerator 和 美团分布式ID生成系统 Leaf 中snowflake模式都是在 snowflake 的基础上演进出来的。

发表评论

表情:
评论列表 (有 0 条评论,87人围观)

还没有评论,来说两句吧...

相关阅读