本文实例讲述了memcache一致性hash的php实现方法。分享给大家供大家参考。具体如下:
最近在看一些分布式方面的文章,所以就用php实现一致性hash来练练手,以前一般用的是最原始的hash取模做 分布式,当生产过程中添加或删除一台memcache都会造成数据的全部失效,一致性hash就是为了解决这个问题,把失效数据降到最低,相关资料可以 google一下!
php实现效率有一定的缺失,如果要高效率,还是写扩展比较好
经测试,5个memcache,每个memcache生成100个虚拟节点,set加get1000次,与单个memcache直接set加get慢5倍,所以效率一般,有待优化!
在阅读本文之前,最好知道二分查找法。
实现过程:
memcache的配置 ip+端口+虚拟节点序列号 做hash,使用的是crc32,形成一个闭环。
对要操作的key进行crc32
二分法在虚拟节点环中查找最近的一个虚拟节点
从虚拟节点中提取真实的memcache ip和端口,做单例连接
<?php class memcacheHashMap { private $_node = array(); private $_nodeData = array(); private $_keyNode = 0; private $_memcache = null; //每个物理服务器生成虚拟节点个数 [注:节点数越多,cache分布的均匀性越好,同时set get操作时,也更耗资源,10台物理服务器,采用200较为合理] private $_virtualNodeNum = 200; private function __construct() { $config = array(//五个memcache服务器 '127.0.0.1:11211', '127.0.0.1:11212', '127.0.0.1:11213', '127.0.0.1:11214', '127.0.0.1:11215' ); if (!$config) throw new Exception('Cache config NULL'); foreach ($config as $key => $value) { for ($i = 0; $i < $this->_virtualNodeNum; $i++) { $this->_node[sprintf("%u", crc32($value . '_' . $i))] = $value . '_' . $i;//循环为每个memcache服务器创建200个虚拟节点 } } ksort($this->_node);//创建出来的1000个虚拟节点按照键名从小到大排序 } //实例化该类 static public function getInstance() { static $memcacheObj = null; if (!is_object($memcacheObj)) { $memcacheObj = new self(); } return $memcacheObj; } //根据传来的键查找到对应虚拟节点的位置 private function _connectMemcache($key) { $this->_nodeData = array_keys($this->_node);//所有的虚拟节点的键的数组 $this->_keyNode = sprintf("%u", crc32($key));//算出键的hash值 $nodeKey = $this->_findServerNode();//找出对应的虚拟节点 //如果超出环,从头再用二分法查找一个最近的,然后环的头尾做判断,取最接近的节点 if ($this->_keyNode > end($this->_nodeData)) { $this->_keyNode -= end($this->_nodeData); $nodeKey2 = $this->_findServerNode(); if (abs($nodeKey2 - $this->_keyNode) < abs($nodeKey - $this->_keyNode)) $nodeKey = $nodeKey2; } var_dump($this->_node[$nodeKey]); list($config, $num) = explode('_', $this->_node[$nodeKey]); if (!$config) throw new Exception('Cache config Error'); if (!isset($this->_memcache[$config])) { $this->_memcache[$config] = new Memcache; list($host, $port) = explode(':', $config); $this->_memcache[$config]->connect($host, $port); } return $this->_memcache[$config]; } //二分法根据给出的值找出最近的虚拟节点位置 private function _findServerNode($m = 0, $b = 0) { $total = count($this->_nodeData); if ($total != 0 && $b == 0) $b = $total - 1; if ($m < $b){ $avg = intval(($m+$b) / 2); if ($this->_nodeData[$avg] == $this->_keyNode) return $this->_nodeData[$avg]; elseif ($this->_keyNode < $this->_nodeData[$avg] && ($avg-1 >= 0)) return $this->_findServerNode($m, $avg-1); else return $this->_findServerNode($avg+1, $b); } if (abs($this->_nodeData[$b] - $this->_keyNode) < abs($this->_nodeData[$m] - $this->_keyNode)) return $this->_nodeData[$b]; else return $this->_nodeData[$m]; } public function set($key, $value, $expire = 0) { return $this->_connectMemcache($key)->set($key, json_encode($value), 0, $expire); } public function add($key, $value, $expire = 0) { return $this->_connectMemcache($key)->add($key, json_encode($value), 0, $expire); } public function get($key) { return json_decode($this->_connectMemcache($key)->get($key), true); } public function delete($key) { return $this->_connectMemcache($key)->delete($key); } } $runData['BEGIN_TIME'] = microtime(true); //测试一万次set加get for($i=0;$i<10000;$i++) { $key = md5(mt_rand()); $b = memcacheHashMap::getInstance()->set($key, time(), 10); } var_dump(number_format(microtime(true) - $runData['BEGIN_TIME'],6)); $runData['BEGIN_TIME'] = microtime(true); $m= new Memcache; $m->connect('127.0.0.1', 11211); for($i=0;$i<10000;$i++) { $key = md5(mt_rand()); $b = $m->set($key, time(), 0, 10); } var_dump(number_format(microtime(true) - $runData['BEGIN_TIME'],6)); ?>
希望本文所述对大家的php程序设计有所帮助。
描述 这个模块提供一致性hash作为负载均衡算法。 该模块通过使用客户端信息(如:$ip, $uri, $args等变量)作为参数,使用一致性hash算法将客户端映射到后端机器 如果后端机器宕机,这请求会被迁移到其他机器 server _id_ 字段,如果配置id字段,则使用id字段作为server标识,否则使用server ip和端口作为server标识, 使用id字段可以手动设置server的
本文向大家介绍PHP实现的一致性哈希算法完整实例,包括了PHP实现的一致性哈希算法完整实例的使用技巧和注意事项,需要的朋友参考一下 本文实例讲述了PHP实现的一致性哈希算法。分享给大家供大家参考,具体如下: 希望本文所述对大家PHP程序设计有所帮助。
我有一个相当棘手的问题,以确保数据存储的一致性。我们试图每隔1分钟对BigQuery(cron)进行一次同步,并依赖于Datastore来存储上一次同步完成的时间戳。 编辑:web.xml提取:
我正在努力实现强烈的一致性。让我们调用我的模型PVPPlayer: 模型的每个关键点都是这样创建的: 其中,配置文件是父模型: 我有2个REST api url: 在1)我做: 在2)我做: 我的流程如下所示: 问题: 使用保证了很强的一致性,所以我不明白的是为什么有时由于,我得到了一些陈旧的数据,比如点根本没有更新。 示例:
本文向大家介绍php 实现Hash表功能实例详解,包括了php 实现Hash表功能实例详解的使用技巧和注意事项,需要的朋友参考一下 php 实现Hash表功能 Hash表作为最重要的数据结构之一,也叫做散列表。使用PHP实现Hash表的功能。PHP可以模拟实现Hash表的增删改查。通过对key的映射到数组中的一个位置来访问。映射函数叫做Hash函数,存放记录的数组称为Hash表。 Hash函数把任
我有一个3节点的Cassandra集群,其密钥空间的复制因子为3: (仅部署在一个数据中心) 当进行失败测试时,即关闭一个节点,我在尝试查询我的键空间时得到这些异常: 我不知道为什么会看到这个错误,因为: 我的复制因子设置为3(即我仍然有2个节点,每个节点包含所有数据) 我的一致性级别设置为QUORUM。(为什么我看到LOCAL_ONE?)