10、RocketMQ源码分析:AllocateMessageQueueConsistentHash一致性hash

AllocateMessageQueueStrategy 是消息消费时对消息队列分配的策略接口AllocateMessageQueueConsistentHash则是一致性hash策略的实现

*

一致性Hash算法

有N台后台服务节点,通常我们会对请求的关键字做hash(key) % N 来进行负载均衡,将请求发送至某一个节点。对于一般情况可能无所谓,但对于Redis分布式集群缓存等分布式场景,这种方式会引起几乎所有key的重新映射,这影响是非常大的。

所以一致性hash就是为了解决这个问题,它的算法目的是每个key在稳定情况下每次只会映射到同一个节点,在节点数增减的情况下只会影响一部分的key发生重新映射。

链接:什么是一致性hash算法

RocketMQ实现

首先是hash环和服务节点的实现

ConsistentHashRouter

*

使用TreeMap来存储节点hash值和节点的对应关系,hash函数默认使用MD5

*

在构造函数中,将所有消费者ClientID作为节点,插入到环中

*

考虑一致性hash算法的平衡性,采用多个虚拟节点来代替*

路由消息队列****routeNode

这里计算每个消息队列的hash值,获取环中比它大的第一个节点(利用TreeMap.tailMap视图)

*

AllocateMessageQueueConsistentHash

核心的环和路由代码由ConsistentHashRouter实现,策略类中就比较简单了,首先定义了环中一个物理节点对应10个虚拟节点

*

然后将所有消费者节点添加到环,然后依次对消费队列进行hash和分配*

版权声明:本文不是「本站」原创文章,版权归原作者所有 | 原文地址: