算法之一致性Hash

算法之一致性Hash

在分布式集群中,需要将请求分散到各个节点。打散请求的方式有很多:随机、权重、机房机架或是基于统计数据(QPS,吞吐量)…一种比较常用的方式是HASH。假设我们有16个节点,那么我们可以使用Hash(Key)%16来判断请求落在哪个节点。

使用普通HASH作为路由存在一个问题,那就是集群扩容怎么办?例如节点扩容到32个,假设哈希函数为hash(x)=x,key等于31时,hash(31)%16=15,hash(31)%32=31,很显然扩容后路由对应的机器变化了。那么请求对应的服务数据就需要迁移。如果存储文件很大,这种移动就造成网络的负载。

为了解决上述问题,就出现了一种一致性哈希的方式。一致性hash算法提出了在动态变化的环境中,判定哈希算法好坏的四个定义:

  1. 平衡性(Balance):平衡性是指哈希的结果能够尽可能分布到所有的缓冲中去,这样可以使得所有的缓冲空间都得到利用。很多哈希算法都能够满足这一条件。
  2. 单调性(Monotonicity):单调性是指如果已经有一些内容通过哈希分派到了相应的缓冲中,又有新的缓冲加入到系统中。哈希的结果应能够保证原有已分配的内容可以被映射到原有的或者新的缓冲中去,而不会被映射到旧的缓冲集合中的其他缓冲区。
  3. 分散性(Spread):在分布式环境中,终端有可能看不到所有的缓冲,而是只能看到其中的一部分。当终端希望通过哈希过程将内容映射到缓冲上时,由于不同终端所见的缓冲范围有可能不同,从而导致哈希的结果不一致,最终的结果是相同的内容被不同的终端映射到不同的缓冲区中。这种情况显然是应该避免的,因为它导致相同内容被存储到不同缓冲中去,降低了系统存储的效率。分散性的定义就是上述情况发生的严重程度。好的哈希算法应能够尽量避免不一致的情况发生,也就是尽量降低分散性。
  4. 负载(Load):负载问题实际上是从另一个角度看待分散性问题。既然不同的终端可能将相同的内容映射到不同的缓冲区中,那么对于一个特定的缓冲区而言,也可能被不同的用户映射为不同的内容。与分散性一样,这种情况也是应当避免的,因此好的哈希算法应能够尽量降低缓冲的负荷。

按照常用的hash算法来将对应的key哈希到一个具有2^32次方个桶的空间中,即0~(2^32)-1的数字空间中。现在我们可以将这些数字头尾相连,想象成一个闭合的环形。如下图:

  1. 我们将object1、object2、object3、object4四个对象通过特定的Hash函数计算出对应的key值,然后散列到Hash环上。
  2. 在采用一致性哈希算法的分布式集群中将新的机器加入,其原理是通过使用与对象存储一样的Hash算法将机器也映射到环中(一般情况下对机器的hash计算是采用机器的IP或者机器唯一的别名作为输入值),然后以顺时针的方向计算,将所有对象存储到离自己最近的机器中。

通过上图可以看出对象与机器处于同一哈希空间中,这样按顺时针转动object1存储到了NODE1中,object2存储到了NODE2中,object3、object4存储到了NODE3中。在这样的部署环境中,hash环是不会变更的,因此,通过算出对象的hash值就能快速的定位到对应的机器中,这样就能找到对象真正的存储位置了。

普通hash求余算法最为不妥的地方就是在有机器的添加或者删除之后会照成大量的对象存储位置失效,这样就大大的不满足单调性了。下面来分析一下一致性哈希算法是如何处理的。

  • 如果往集群中添加一个新的节点NODE4,通过对应的哈希算法得到KEY4,并映射到环中,通过按顺时针迁移的规则,那么object4被从NODE3迁移到了NODE4中,其它对象还保持这原有的存储位置。

  • 如果NODE3出现故障被删除了,那么按照顺时针迁移的方法,object3,object4将会被迁移到NODE2中,这样仅仅是object3,object4的映射位置发生了变化,其它的对象没有任何的改动。如下图:

通过对节点的添加和删除的分析,一致性哈希算法在保持了单调性的同时,还使数据的迁移达到了最小。当机器的数目变化时,只会影响到增加或删除的那台机器所在的环的邻接机器的数据存储,而其他机器上的数据不受影响。这样的算法对分布式集群来说是非常合适的,避免了大量数据迁移,减小了服务器的的压力。

根据上面的图解分析,一致性哈希算法满足了单调性和负载均衡的特性以及一般hash算法的分散性,但这还并不能当做其被广泛应用的原由,因为还缺少了平衡性。下面将分析一致性哈希算法是如何满足平衡性的。hash算法是不保证平衡的,如上面只部署了NODE1和NODE2的情况(NODE3被删除的情况),object1存储到了NODE1中,而object2、object3、object4都存储到了NODE2中,这样就照成了非常不平衡的状态。在一致性哈希算法中,为了尽可能的满足平衡性,其引入了虚拟节点。

虚拟节点(virtual node)是实际节点在 hash空间的副本,一个实际节点(机器)对应了若干个虚拟节点,这个对应个数也成为副本个数,虚拟节点在hash空间中以hash值排列。

按照上图,每个节点都有两个副本的情况下,如果NODE3下线(NODE3-1,NODE3-2),可以看到数据被均匀的分布在NODE1和NODE2上。

一般,虚拟节点会比物理节点多很多,并可均衡分布在环上,从而可以提高负载均衡的能力:

  1. 如果虚拟机器与物理机器映射得好,某一台物理机器宕机后,其上的数据可由其他若干台物理机器共同分担。
  2. 如果新添加一台机器,它可以对应多个不相邻 环段 上的虚拟节点,从而使得hash的数据存储得更分散。
-------------本文结束感谢您的阅读-------------
坚持分享,您的支持将鼓励我继续创作!
0%