Ehcache

前言：设计一套缓存框架需要关注的要素

本文来源：RayChase  的《设计一套缓存框架需要关注的要素》

最近关注了一些缓存框架的特性和实现，包括OSCache、JCS、Ehcache、Memcached等等，公司的两个缓存框架，以及一个标准JSR 107（JCache），发现一些诸多类同的方面。如果你不够熟悉以上，不妨先看看这两篇文章：《OSCache框架源码解析》和《Ehcache详细解读》，再看下面的内容也许会有更多想法。之后再思考，如果要自己去实现一套缓存框架，需要考虑哪些东西？

1、为哪些数据做缓存？

1. 模型对象，这在业务逻辑层面最常见。
2. 数据库查询结果集。
3. 页面缓存、页面片段缓存。
4. 运算结果集，尤其对于幂等性服务。
5. 外部接口查询结果。

2、缓存框架的核心：

缓存生命周期管理，很多重要特性都是围绕它来展开的。

举例：

3、重要特性，这些特性不一定全部要具备，但是多数都要包含：

• 一致性选择。缓存框架的设计必须首先考虑这一点。通常我们见到的缓存框架都是最终一致性的，允许获取数据有一定的延迟窗口。一致性关系到缓存的生命周期，是缓存的核心理念之一。
• 分级存储。也和缓存生命周期密切相关。至少应包括内存和磁盘两级存储，有些缓存框架包含组网内部节点的分级等等，允许用户管理缓存数据在不同级别存储中的跃迁。分级存储还包括对存储数据的管理，以提高数据获取的效率；包括跃迁策略的定制，比如在某一级满足怎样的超时策略可以发生向下跃迁。
• 规约配置，默认配置。可以支持XML、properties、DSL编程等等多种配置方式，但是最重要的是，要提供一个默认配置，允许用户在简单配置或者零配置的情况下使用缓存。
• 集群、分布式，这意味着一定的伸缩性。包括内部通信协议选择，比如节点之间使用JMS、RMI或RESTful方式通信等等；包括节点热部署和节点发现能力，这通常都使用组播消息来实现；包括集群的方式，是Server-Client群、消息总线方式还是节点对等，等等。
• 定制扩展性。尤其是淘汰算法、事件监听、持久化策略等等，都要允许用户方便地自定义。

4、相对较次要的特性：

• 统计能力。包括各级缓存命中情况统计，生命周期长度统计。
• 批量接口、异步接口。包括缓存分组能力。
• 缓存数据存储校验。
• Web支持。特指Web容器中，对于页面存储的额外支持。
• 免锁数据处理。
• 缓存状态监控。
• 无侵入式拦截，注解编程支持。
• 运行时参数调整。

……

5、核心模型应该包括哪些？

• CacheManager：模型管理对象，可以是多实例的，也可以是单实例的。
• Cache：通过CacheManager创建出来的缓存容器，内部包含了真正的缓存承载体，至少开放add/remove/flush等接口。
• CacheMap：真正的缓存承载体，大致上都是一个Map，各种类型的Map。
• CacheEntity：缓存条目，相当于CacheMap里面的每一条Entry。
• CacheEvent：缓存事件，比如CacheEntity的创建、更新、删除等等。
• CacheEventListener：缓存事件相应的监听器。
• CacheEvictionAlgorithm：缓存淘汰算法，常见的有LRU、LFU、FIFO等等。

--------------------------------------------------------------------------------------------------------------------------------

 

任何一个缓存框架，它要解决什么样的问题？

数据的访问、存取、计算太慢、太不稳定、太消耗资源，同时，这样的操作存在重复性。因此希望有这样一种中间媒介，放置在其间，只保存自己关心的数据，而不关心具体数据逻辑内容，对于重复性的操作给出响应。对于数据和服务的使用者，它是透明的。

从请求和数据流向的角度看，一个完整的缓存框架应该包括这样几个部分：

• 操作捕获
• 缓存数据存储
• 缓存数据读取
• 缓存数据流动

因此缓存框架的功能都是围绕数据展开的，它的核心就是缓存数据的整个生命周期。

但是其中每一项都可以拆分和解耦成许多部分，以缓存数据存储为例，可以拆分成：

• key生成
• value封装、元数据封装
• 索引生成
• 文件结构生成
• 序列化、反序列化
• 淘汰算法
• 过期检查
• 存储数据预处理
• 持久化媒介

……

一：Ehcache详细解读

本文来源：RayChase  的《Ehcache详细解读》

一、简介

本文来源：letmedown的《缓存之EHCache（一）》

非常简单，而且易用。

    ehcache 是一个非常轻量级的缓存实现，而且从1.2 之后就支持了集群，而且是hibernate 默认的缓存provider。ehcache 是一个纯Java的进程内缓存框架，具有快速、精干等特点，是Hibernate中默认的CacheProvider。

ehcache可以直接使用。也可以和Hibernate对象/关系框架结合使用。还可以做Servlet缓存。

Cache 存储方式 ：内存或磁盘。

官方网站：http://ehcache.sourceforge.net/

主要特征：

1. 快速.

2. 简单.

3. 多种缓存策略

4. 缓存数据有两级：内存和磁盘，因此无需担心容量问题

5. 缓存数据会在虚拟机重启的过程中写入磁盘

6. 可以通过RMI、可插入API等方式进行分布式缓存

7. 具有缓存和缓存管理器的侦听接口

8. 支持多缓存管理器实例，以及一个实例的多个缓存区域

9. 提供Hibernate的缓存实现

10. 等等

Ehcache 是现在最流行的纯Java开源缓存框架，配置简单、结构清晰、功能强大，最初知道它，是从Hibernate的缓存开始的。网上中文的EhCache材料以简单介绍和配置方法居多，如果你有这方面的问题，请自行google；对于API，官网上介绍已经非常清楚，请参见官网；但是很少见到特性说明和对实现原理的分析，因此在这篇文章里面，我会详细介绍和分析EhCache的特性，加上一些自己的理解和思考，希望对缓存感兴趣的朋友有所收获。

一、特性一览，来自官网，简单翻译一下：

1、快速轻量

过去几年，诸多测试表明Ehcache是最快的Java缓存之一。
Ehcache的线程机制是为大型高并发系统设计的。
大量性能测试用例保证Ehcache在不同版本间性能表现得一致性。
很多用户都不知道他们正在用Ehcache，因为不需要什么特别的配置。
API易于使用，这就很容易部署上线和运行。
很小的jar包，Ehcache 2.2.3才668kb。
最小的依赖：唯一的依赖就是SLF4J了。

2、伸缩性

缓存在内存和磁盘存储可以伸缩到数G，Ehcache为大数据存储做过优化。
大内存的情况下，所有进程可以支持数百G的吞吐。
为高并发和大型多CPU服务器做优化。
线程安全和性能总是一对矛盾，Ehcache的线程机制设计采用了Doug Lea的想法来获得较高的性能。
单台虚拟机上支持多缓存管理器。
通过Terracotta服务器矩阵，可以伸缩到数百个节点。

3、灵活性

Ehcache 1.2具备对象API接口和可序列化API接口。
不能序列化的对象可以使用除磁盘存储外Ehcache的所有功能。
除了元素的返回方法以外，API都是统一的。只有这两个方法不一致：getObjectValue和getKeyValue。这就使得缓存对象、序列化对象来获取新的特性这个过程很简单。
支持基于Cache和基于Element的过期策略，每个Cache的存活时间都是可以设置和控制的。
提供了LRU、LFU和FIFO缓存淘汰算法，Ehcache 1.2引入了最少使用和先进先出缓存淘汰算法，构成了完整的缓存淘汰算法。
提供内存和磁盘存储，Ehcache和大多数缓存解决方案一样，提供高性能的内存和磁盘存储。
动态、运行时缓存配置，存活时间、空闲时间、内存和磁盘存放缓存的最大数目都是可以在运行时修改的。

4、标准支持

Ehcache提供了对JSR107 JCACHE API最完整的实现。因为JCACHE在发布以前，Ehcache的实现（如net.sf.jsr107cache）已经发布了。
实现JCACHE API有利于到未来其他缓存解决方案的可移植性。
Ehcache的维护者Greg Luck，正是JSR107的专家委员会委员。

5、可扩展性

监听器可以插件化。Ehcache 1.2提供了CacheManagerEventListener和CacheEventListener接口，实现可以插件化，并且可以在ehcache.xml里配置。
节点发现，冗余器和监听器都可以插件化。
分布式缓存，从Ehcache 1.2开始引入，包含了一些权衡的选项。Ehcache的团队相信没有什么是万能的配置。
实现者可以使用内建的机制或者完全自己实现，因为有完整的插件开发指南。
缓存的可扩展性可以插件化。创建你自己的缓存扩展，它可以持有一个缓存的引用，并且绑定在缓存的生命周期内。
缓存加载器可以插件化。创建你自己的缓存加载器，可以使用一些异步方法来加载数据到缓存里面。
缓存异常处理器可以插件化。创建一个异常处理器，在异常发生的时候，可以执行某些特定操作。

6、应用持久化

在VM重启后，持久化到磁盘的存储可以复原数据。
Ehcache是第一个引入缓存数据持久化存储的开源Java缓存框架。缓存的数据可以在机器重启后从磁盘上重新获得。
根据需要将缓存刷到磁盘。将缓存条目刷到磁盘的操作可以通过cache.flush()方法来执行，这大大方便了Ehcache的使用。

7、监听器

缓存管理器监听器。允许注册实现了CacheManagerEventListener接口的监听器：

  1 notifyCacheAdded()
  2 notifyCacheRemoved()

View Code