当前位置: > Linux集群 > 服务器集群 >

memcached的分布式算法--一致性hash

时间:2014-11-30 15:32来源:linux.it.net.cn 作者:IT

memcached的分布式是什么意思?

 

下面假设memcached服务器有node1~node3三台,应用程序要保存键名为"tokyo"、"kanagawa"、"chiba"、"saitama"、"gunma"的数据。

点击查看原图

 

首先向memcached中添加“tokyo”。将“tokyo”传给客户端程序库后,客户端实现的算法就会根据"键"来决定保存数据的memcached服务器。服务器选定后,即命令它保存"tokyo"及其值。

点击查看原图

 

同样,"kanagawa"、"chiba"、"saitama"、"gunma"都是先选择服务器再保存。接下来获取保存的数据。获取时也要将要获取的键"tokyo"传递给函数库。函数库通过与数据保存时相同的算法,根据“键”选择服务器。使用的算法相同,就能选中与保存时相同的服务器,然后发送get命令。只要数据没有因为某些原因被删除,就能获得保存的值。

点击查看原图

 

这样,将不同的键保存到不同的服务器上,就实现了memcached的分布式。memcached服务器增多后,键就会分散,即使一台memcached服务器发生故障无法连接,也不会影响其他的缓存,系统依然能继续运行。

 

根据余数计算分散

 

Memcached的分布式方法简单来说,就是“根据服务器台数的余数进行分散”。求得键的整数哈希值,再除以服务器台数,根据其余数来选择服务器。

 

余数计算的方法简单,数据的分散性也相当优秀,但也有其缺点。那就是当添加或移除服务器时,缓存重组的代价相当巨大。添加服务器后,余数就会产生巨变,这样就无法获取与保存时相同的服务器,从而影响缓存的命中率。

 

一致性hash(Consistent Hashing)

 

一致性hash(Consistent Hashing)如下所示:首先求出memcached服务器(节点)的哈希值,并将其配置到0~232的圆(continuum)上。然后用同样的方法求出存储数据的键的哈希值,并映射到圆上。然后从数据映射到的位置开始顺时针查找,将数据保存到找到的第一个服务器上。如果超过232仍然找不到服务器,就会保存到第一台memcached服务器上。

点击查看原图

 

从上图的状态中添加一台memcached服务器。余数分布式算法由于保存键的服务器会发生巨大变化而影响缓存的命中率,但一致性hash(Consistent Hashing)中,只有在continuum上增加服务器的地点逆时针方向的第一台服务器上的键会受到影响。

点击查看原图

 

因此,一致性hash(Consistent Hashing)最大限度地抑制了键的重新分布。而且,有的一致性hash(Consistent Hashing)的实现方法还采用了虚拟节点的思想。使用一般的hash函数的话,服务器的映射地点的分布非常不均匀。因此,使用虚拟节点的思想,为每个物理节点(服务器)在continuum上分配100~200个点。这样就能抑制分布不均匀,最大限度地减小服务器增减时的缓存重新分布。

通过下文中介绍的使用一致性hash(Consistent Hashing)算法的memcached客户端函数库进行测试的结果是,由服务器台数(n)和增加的服务器台数(m)计算增加服务器后的命中率计算公式如下:(1 n/(n+m)) * 100



(责任编辑:IT)
------分隔线----------------------------