19、Tomcat 内核详解 - 多样化的会话管理器

所以在了解了两种Store后对持久化会话管理器的实现原理机制就相当清楚了，其实就是提供两种会话保存方式并提供管理这些会话的操作，它提高了tomcat状态处理相关方面的容错能力得到提升。

6. 集群增量会话管理器——DeltaManager

DeltaManager会话管理器是tomcat默认的集群会话管理器，它主要用于集群中各个节点之间会话状态的同步维护，由于相关内容涉及到集群，可能会需要一些集群通信相关知识，如果有疑问可结合集群相关章节。

**集群增量会话管理器的职责是将某节点的会话该变同步到集群内其他成员节点上，它属于全节点复制模式，所谓全节点复制是指集群中某个节点的状态变化后需要同步到集群中剩余的节点，非全节点方式可能只是同步到其中某个或若干节点。**在集群中全节点会话复制的一个大致步骤如下图所示，客户端发起一个请求，假设通过一定的负载均衡设备分发策略分到其中一个结点node1，如果还未存在session对象的话web容器将会创建一个会话对象，接着执行一些逻辑处理，在对客户端响应之前有个重要的事情是要把session对象同步到集群中其他节点上，最后再响应客户端。当客户端第二次发起请求时，假如分发到node3节点上，由于同步了node1的session会话，所以在执行逻辑时并不会取不到session的值。如果删除某个会话对象则要同时通知其他节点把相应会话删除，如果修改了某个会话的某些属性也同样要更新到其他节点的会话中。

DeltaManager **其实就是一个会话同步通信解决方案，除了具备上面提到的全节点复制外，它还有具有只复制会话增量的特性，增量是以一个完整请求为周期，即会将一个请求过程中所有会话修改量在响应前进行集群同步。**往下看Tomcat具体实现方案。

为区分不同的动作必须要先定义好各种事件，例如会话创建事件、会话访问事件、会话失效事件、获取所有会话事件、会话增量事件、会话ID改变事件等等，实际上tomcat集群会有9种事件，集群根据这些不同的事件就可以彼此进行通信，接收方对不同事件做不同的操作。如下图，例如node1节点创建完一个会话后，即向其他三个节点发送EVT_SESSION_CREATED事件，其他三个节点接收到此事件后则各自在自己本地创建一个会话，会话包含了两个很重要的属性——会话ID和创建时间，这两个属性都必须由node1节点跟着EVT_SESSION_CREATED一起发送出去，本地会话创建成功后即完成了会话创建同步工作，此时你通过会话ID查找集群中任意一个节点都可以找到对应的会话。同样对于会话访问事件，node1向其他节点发送EVT_SESSION_ACCESSED事件及会话ID，其他节点根据会话ID找到对应会话并更新会话最后访问时间，以免被认为是过期会话而被清理。类似的还有会话失效事件（同步集群销毁某会话）、会话ID改变事件（同步集群更改会话ID）等等操作。

Tomcat使用SessionMessageImpl类定义了各种集群通信事件及操作方法，在整个集群通信过程中就是按照此类定义好的事件进行通信，SessionMessageImpl包含的事件如下{ EVT_SESSION_CREATED、EVT_SESSION_EXPIRED、EVT_SESSION_ACCESSED、EVT_GET_ALL_SESSIONS、EVT_SESSION_DELTA、EVT_ALL_SESSION_DATA、EVT_ALL_SESSION_TRANSFERCOMPLETE、EVT_CHANGE_SESSION_ID、EVT_ALL_SESSION_NOCONTEXTMANAGER }，除此之外它继承了序列化接口（方便序列化）、集群消息接口（集群的操作）、会话消息接口（事件定义及会话操作）。

集群增量会话管理器DeltaManager可以说是通过SessionMessageImpl消息来管理DeltaSession，即根据SessionMessageImpl里面的事件响应不同的操作。Tomcat的集群通信使用的是tribes组件（相关章节会对tribes组件详细分析），网络IO都交由tribes后应用可以更专注逻辑处理，DeltaManager存在一个messageDataReceived(ClusterMessage cmsg)方法，此方法会在本节点接收到其他节点发送过来的消息后被调用，且传入的参数为ClusterMessage类型，可转化为SessionMessage类型，然后根据SessionMessage定义的9种事件做不同处理。其中有一个事件需要关注的是EVT_SESSION_DELTA，它是对会话增量同步处理的事件，某个节点在一个完整的请求过程中对某会话相关属性的所有操作被抽象到了DeltaRequest对象中，而DeltaRequest被序列化后会放到SessionMessage中，所以EVT_SESSION_DELTA事件处理逻辑就是从SessionMessage获取并反序列化出DeltaRequest对象，再将DeltaRequest包含的对某个会话的所有操作同步到本地该会话中，至此完成会话增量同步。

DeltaManager就是DeltaSession的管理器，它提供了会话增量的同步方式而不是全量同步，极大提高了同步效率。

7.集群备份会话管理器——BackupManager

全节点复制的网络流量随节点数量增加呈平方趋势增长，也正是因为这个因素导致无法构建较大规模的集群，为了使集群节点能更加大，首要解决的就是数据复制时流量增长的问题，于是tomcat提出了另外一种会话管理方式，每个会话只会有一个备份，它使会话备份的网络流量随节点数量的增加呈线性趋势增长，大大减少了网络流量和逻辑操作，可构建较大的集群。

7.1 机制与原理

正常情况下为了支持高效的并发操作，tomcat的所有会话集使用ConcurrentHashMap<String, MapEntry>结构保存，String类型是指SessionId，MapEntry则是对session、源节点成员及备份节点等的封装（详细的类结构如下图所示，备份节点虽然为数组类型，但实际情况我们只会设置一个备份节点），一般session对象由哪个节点生成则哪个节点为源节点，备份节点则为集群中其他任意一节点，所以MapEntry可以看成是包含了源节点和备份节点信息的会话对象。会话管理器其实就是对会话集操作的封装，从设计角度看，为了改变会话集的操作行为，只需继承ConcurrentHashMap类并重写其中一些方法即可实现，例如put、get、remove等等操作实现跨节点操作。于是tomcat的BackupManager对整个会话集的跨节点操作被封装到一个继承ConcurrentHashMap类的LazyReplicatedMap子类中，而要实现跨节点的操作要做的事很多，例如备份节点列表的维护、备份节点选择、通信协议、序列化&反序列化及复杂的IO操作等等，弄清楚了LazyReplicatedMap的工作原理也就基本清楚BackupManager如何工作。

【源节点、备份节点、代理节点】

下面看看这种方式具体的工作机制，集群一般是通过负载均衡对外提供整体服务，所有节点被隐藏在后端组成一个整体。前面各种模式的实现都无需负载均衡协助，所以图中都把负载均衡省略了。最常见的负载方式是前面用apache拖所有节点，它支持将类似“326257DA6DB76F8D2E38F2C4540D1DEA.tomcat1”的会话id进行分解，定位到tomcat集群中以tomcat1命名的节点上（这种方式称为Session Stick，由apache jk模块实现）。每个会话存在一个原件和一个备份，且备份与原件不会保存在同一个节点上，如下图，例如当客户端发起请求后通过负载均衡被分发到tomcat1实例节点上，生成一个包含.tomcat1后缀的会话标识，并且tomcat1节点根据一定策略选出此次会话对象备份的节点，然后将包含了{会话id，备份ip}的信息发送给tomcat2、tomcat3、tomcat4，如图中虚线所示，这样每个节点都有一个会话id、备份ip列表，即每个节点都有每个会话的备份ip地址。

接着分析Tomcat对上面机制详细的实现，正常情况下为了支持高效的并发操作，tomcat的所有会话集使用ConcurrentHashMap

public Object put(Object key, Object value) {

①实例化MapEntry，将key和value传入，并设置源节点为目前节点。

②判断本地内存是否已包含key，如是则不仅要本地remove掉，还要跨节点remove。

③通过Round robin算法从MapMember中选择一个作为备份节点。

④实例化一个包含MSG_BACKUP标识的MapMessage对象并发送给备份节点。

⑤实例化一个包含MSG_PROXY标识的MapMessage对象并发送给除了备份节点外的其他（代理）节点。

⑥put进本地缓存。

}

其次，再看看它如何通过get实现获取会话对象操作：

public Object get(Object key) {

①获取本地的MapEntry对象，它或许直接包含了会话对象，或许包含了会话对象的存放位置信息。

②判断本节点是否属于源节点，如为源节点则直接获取MapEntry对象里面的会话对象并返回。

③判断本节点是否属于备份节点，若为备份节点则直接获取MapEntry对象里面的会话对象作为返回对象，并且还要将本节点升为源节点、重新选取一个新备份节点，把MapEntry对象拷贝到新备份节点。

④判断本节点是否属于代理节点，若为代理节点则向其他节点发送会话对象拷贝请求，“集群中谁有此会话对象请发送给我”，把接收到的会话对象放到本节点并作为返回对象，最后将本节点升为源节点。

}

最后，看看删除会话对象remove操作的实现：

public Object remove(Object key) {

①删除本地此MapEntry对象。

②广播其他节点删除此MapEntry对象。

}

7.2 高可用性以及故障转移机制

集群要提供高可用性就必须要有某种机制去保证。常用的机制为故障转移，简单地说，就是通过一定的心跳检测是否有故障，一旦故障发生，备份节点则接管故障节点的工作。

下面介绍BackupManager实现故障转移能力。

使用BackupManager管理会话必须要有负载均衡器，它提供会话黏贴（Session Stick）机制。所谓的会话黏贴其实是一种会话定位技术，即在Tomcat节点上生成一种包含位置信息的会话ID，它一般附带了Tomcat的实例名称，当客户端再次的请求的时候，负载均衡器会解析会话ID中的位置信息并转发到响应的节点上。

7.3 集群RPC通信

RPC即远程过程调用，它的提出旨在消除通信细节，屏蔽复杂并且易错的底层网络通信操作，像调用本地服务一般的调用远程服务，让业务开发者更多的关注业务开发，而不必考虑网络、硬件、系统的异构复杂环境。

同样在Tomcat集群中会话对象互相复制会涉及各种逻辑处理以及网络I/O操作。为了避免重复的网络通信编码以及方便更加关注上层逻辑处理，在会话同步组件中提供了RPC方式供集群各节点之间通信，例如做心跳测试，向集群广播请求后只接受第一个应答节点的信息；

8.Tomcat会话管理器的集成

Tomcat中所有的会话管理器包括标准的会话管理器、持久化会话管理器、集群增量会话管理器、集群备份会话管理器。它们为用户提供了各种功能的会话管理器，有非持久化模式的，也有持久化模式的，有集群全量复制模式的，也有集群备份模式。

在不同场景中，用户根据实际情况可以选择不同的会话管理器。为了方便使用，需要提供一种简易的方法，Tomcat提供的是配置方式，只需要通过对配置文件进行配置即可完成对会话管理器的选择。

在程序层面上，为了让会话管理器实现可配置化，它需要定义一个统计的管理接口——Manager接口。

在Tomcat的server.xml中可以实现对这四种会话管理器的配置；