11、memcached 如何处理容错的?
不处理! 在 memcached 节点失效的情况下,集群没有必要做任何容错处理。如 果发生了节点失效,应对的措施完全取决于用户。节点失效时,下面列出几种方 案供您选择:
- 忽略它! 在失效节点被恢复或替换之前,还有很多其他节点可以应对节 点失效带来的影响。
- 把失效的节点从节点列表中移除。做这个操作千万要小心!在默认情况下 (余数式哈希算法),客户端添加或移除节点,会导致所有的缓存数据不可用! 因为哈希参照的节点列表变化了,大部分 key 会因为哈希值的改变而被映射到 (与原来)不同的节点上。
- 启动热备节点,接管失效节点所占用的 IP。这样可以防止哈希紊乱 (hashing chaos)。
- 如果希望添加和移除节点,而不影响原先的哈希结果,可以使用一致性哈 希算法(consistent hashing)。您可以百度一下一致性哈希算法。支持一致性 哈希的客户端已经很成熟,而且被广泛使用。去尝试一下吧!
- 两次哈希(reshing)。当客户端存取数据时,如果发现一个节点 down 了,就再做一次哈希(哈希算法与前一次不同),重新选择另一个节点(需要注 意的时,客户端并没有把 down 的节点从节点列表中移除,下次还是有可能先 哈希到它)。如果某个节点时好时坏,两次哈希的方法就有风险了,好的节点和 坏的节点上都可能存在脏数据(stale data)。
12、如何将 memcached 中 item 批量导入导出?
您不应该这样做!Memcached 是一个非阻塞的服务器。任何可能导致 memcached 暂停或瞬时拒绝服务的操作都应该值得深思熟虑。向 memcached 中批量导入数据往往不是您真正想要的!想象看,如果缓存数据在导出导入之间 发生了变化,您就需要处理脏数据了。
13、如果缓存数据在导出导入之间过期了,您又怎么处理这些 数据呢?
因此,批量导出导入数据并不像您想象中的那么有用。不过在一个场景倒是很有 用。如果您有大量的从不变化的数据,并且希望缓存很快热(warm)起来,批量 导入缓存数据是很有帮助的。虽然这个场景并不典型,但却经常发生,因此我们 会考虑在将来实现批量导出导入的功能。
如果一个 memcached 节点 down 了让您很痛苦,那么您还会陷入其他很多麻烦。 您的系统太脆弱了。您需要做一些优化工作。比如处理”惊群”问题(比如 memcached 节点都失效了,反复的查询让您的数据库不堪重负…这个问题在 FAQ 的其他提到过),或者优化不好的查询。记住,Memcached 并不是您逃避优化 查询的借口。
14、memcached 是如何做身份验证的?
没有身份认证机制!memcached 是运行在应用下层的软件(身份验证应该是应用 上层的职责)。memcached 的客户端和服务器端之所以是轻量级的,部分原因就 是完全没有实现身份验证机制。这样,memcached 可以很快地创建新连接,服务 器端也无需任何配置。
如果您希望限制访问,您可以使用防火墙,或者让 memcached 监听 unix domain socket。
15、memcached 的多线程是什么?如何使用它们?
线程就是定律(threads rule)!在 Steven Grimm 和 Facebook 的努力下, memcached 1.2 及更高版本拥有了多线程模式。多线程模式允许 memcached 能 够充分利用多个 CPU,并在 CPU 之间共享所有的缓存数据。memcached 使用一 种简单的锁机制来保证数据更新操作的互斥。相比在同一个物理机器上运行多个 memcached 实例,这种方式能够更有效地处理 multi gets。
如果您的系统负载并不重,也许您不需要启用多线程工作模式。如果您在运行一 个拥有大规模硬件的、庞大的网站,您将会看到多线程的好处。
简单地总结一下:命令解析(memcached 在这里花了大部分时间)可以运行在多 线程模式下。memcached 内部对数据的操作是基于很多全局锁的(因此这部分工 作不是多线程的)。未来对多线程模式的改进,将移除大量的全局锁,提高 memcached 在负载极高的场景下的性能。
16、memcached 能接受的 key 的最大长度是多少?
key 的最大长度是 250 个字符。需要注意的是,250 是 memcached 服务器端内 部的限制,如果您使用的客户端支持”key 的前缀”或类似特性,那么 key(前缀 +原始 key)的最大长度是可以超过 250 个字符的。我们推荐使用使用较短的 key, 因为可以节省内存和带宽。
memcached 对 item 的过期时间有什么限制?
过期时间最大可以达到 30 天。memcached 把传入的过期时间(时间段)解释成 时间点后,一旦到了这个时间点,memcached 就把 item 置为失效状态。这是一 个简单但 obscure 的机制。
17、memcached 最大能存储多大的单个 item?
1MB。
如果你的数据大于 1MB,可以考虑在客户端压缩或拆分到多个 key 中。
为什么单个 item 的大小被限制在 1M byte 之内? 啊…这是一个大家经常问的问题!
简单的回答:因为内存分配器的算法就是这样的。
详细的回答:Memcached 的内存存储引擎(引擎将来可插拔…),使用 slabs 来 管理内存。内存被分成大小不等的 slabs chunks(先分成大小相等的 slabs,然后 每个 slab 被分成大小相等 chunks,不同 slab 的 chunk 大小是不相等的)。chunk 的大小依次从一个最小数开始,按某个因子增长,直到达到最大的可能值。
18、memcached 能够更有效地使用内存吗?
Memcache 客户端仅根据哈希算法来决定将某个 key 存储在哪个节点上,而不考 虑节点的内存大小。因此,您可以在不同的节点上使用大小不等的缓存。但是一 般都是这样做的:拥有较多内存的节点上可以运行多个 memcached 实例,每个 实例使用的内存跟其他节点上的实例相同。
19、什么是二进制协议,我该关注吗?
关于二进制最好的信息当然是二进制协议规范:
二进制协议尝试为端提供一个更有效的、可靠的协议,减少客户端/服务器端因处 理协议而产生的 CPU 时间。
根据 Facebook 的测试,解析 ASCII 协议是 memcached 中消耗 CPU 时间最多的 环节。所以,我们为什么不改进 ASCII 协议呢?
20、memcached 的内存分配器是如何工作的?为什么不适用 malloc/free!?为何要使用 slabs?
实际上,这是一个编译时选项。默认会使用内部的 slab 分配器。您确实确实应该 使用内建的 slab 分配器。最早的时候,memcached 只使用 malloc/free 来管理 内存。然而,这种方式不能与 OS 的内存管理以前很好地工作。反复地 malloc/free 造成了内存碎片,OS 最终花费大量的时间去查找连续的内存块来满足 malloc 的 请求,而不是运行 memcached 进程。如果您不同意,当然可以使用 malloc!只 是不要在邮件列表中抱怨啊。
slab 分配器就是为了解决这个问题而生的。内存被分配并划分成 chunks,一直被 重复使用。因为内存被划分成大小不等的 slabs,如果 item 的大小与被选择存放 它的 slab 不是很合适的话,就会浪费一些内存。Steven Grimm 正在这方面已经 做出了有效的改进。