前语
SOFAJRaft 是一个依据 Raft 共同性算法的出产级高功能 Java 完成,支撑 MULTI-RAFT-GROUP,适用于高负载低推迟的场景 。
SOFAJRaft 存储模块分为:
本文将环绕日志存储,元信息存储以及快照存储等方面分析 SOFAJRaft 存储模块原理,论述怎么处理 Raft 协议存储问题以及存储模块完成:
日志芬威体育集团存储
Log 存储,记载 Raft 装备改变和用户提交使命的日志,把日志从 Leader 仿制到其他节点上面。
LogStorage 存储完成
LogStorage 日志存储完成,界说 Raft 分组节点 Node 的 Log 存储模块中心 API 接口包含:
Log Index 提交到 Raft Group 中的使命序列化为日志存储,每条日志一个编号,在整个 Raft Group 内单调递加并仿制到每个 Raft 节点。LogStorage 日志存储完成接口界说进口:
com.alipay.sofa.jraft.storage.LogStorage
RocksDBLogStorage 依据 RocksDB 完成
Log Structured Merge Tree 简称 LSM ,把一颗大树拆分红 N 棵小树,数据首要写入内存,内存里构建一颗有序小树,跟着小树越来越大,内存的小树 Flush 到磁盘,磁盘中的树定时做兼并操作兼并成一棵大树以优化读功能,经过把磁盘的随机写转化为次序写进步写功能,RocksDB 便是依据 LSM-Tree 数据结构运用 C++ 编写的嵌入式 KV 存储引擎,其键值均答应运用二进制流。RocksDB 按次序安排一切数据,通用操作包含 get(key), put(key), delete(Key) 以及 newIterator()。RocksDB 有三种根本的数据结构:memtable,sstfile 以及 logfile。memtable 是一种内存数据结构--一切写入恳求都会进入 memtable,然后选择性进入 logfile。logfile 是一种有序写存储结构,当 memtable 被填满的时分被刷到 sstfile 文件并存一次含糊的强奸友妻储起来,然后相关的 logfile 在之后被安全地删去。sstfile 内的数据都是排序好的,以便于依据 key 快速查找。
LogStorage 默许完成 RocksDBLogStorage 是依据 RocksDB 存储日志,初始化日志存储 StorageFactory 依据 Raft节点日志存储途径和 Raft 内部完成是否调用 fsync 装备默许创立 RocksDBLogStorage 日志存储。依据 RocksDB 存储完成 RocksDBLogStorage 中心操作包含:
RocksDBLogStorage 依据 RocksDB 存储日志完成中心进口:
com.alipay.sofa.jraft.storage.RocksDBLogStorage
LogManager 存储调用
日志办理器 LogManager 担任调用 Log 日志存储 LogStorage,对 LogStorage 调用进行缓存办理、批量提交、查看优化。Raft 分组节点 Node 初始化/发动时初始化日志存储 StorageFactory 构建真,微博,pa-Texas兄弟,美国汉堡做法大全日志办理器 LogManager,依据日志存储 LogStorage、装备办理器 ConfigurationManager、有限状况机调用者 FSMCaller、节点功能监控 NodeMetrics 等 LogManagerOptions 装备选项实例化 LogManager。依据 Raft 节点 Disruptor Buffer 红楼之林家晏玉巨细装备生成安稳状况回调 StableClosure 事情 Disruptor 行列,设置安稳状况回调 StableClosure 事情处理器 StableClosureEventHandler 处理行列事情,其间 StableClosureEventHandler 处理器事情触发的时分判别使命回调 StableClosure 的 Log Entries 是否为空,假如使命回调的 Log Entries 为非空需堆集日志条目批量 Flush,空则查看真,微博,pa-Texas兄弟,美国汉堡做法大全 StableClosureEvent 事情类型而且调用底层存储 LogStorage#appendEntries(entries) 批量提交日志写入 RocksDB,当事情类型为SHUTDOWN、RESET、TRUNCATE_PREFIX、TRUNCATE_SUFFIX、LAST_LOG_ID 时调用真,微博,pa-Texas兄弟,美国汉堡做法大全底层日志存储 LogStorage 进行指定事情回调 ResetClosure、TruncatePrefixClosure、TruncateSuffixClosure、LastLogId真,微博,pa-Texas兄弟,美国汉堡做法大全Closure 处理。
当 Client 向 SOFAJRaft 发送指令之后,Raft 分组节点 Nod青海花儿打擂台对唱e 的日志办理器 LogMa极品小姨小说nager 首要将指令以 Log 我的绝美校花老婆的办法存储到本地,调用 appendEntries(entries, done) 办法查看 Node 节点当时为 Leader 而且 Entries 来源于用户不知道分配到的正确日志索引时需求分配索引给添加的日志 Entries ,而当时为 Follower 时而且 Entries 来源于 Leader 有必要查看以及处理本地日志和 Entries 之间的抵触。接着遍历日志条目 Log Entries 查看类型是否为装备改变,装备办理器 ConfigurationManager 缓存装备改变 Entry,将现有日志条目 Entries 添加到 logsInMemory 进行缓存,安稳状况回调 StableClosure 设置需求存储的日志,发布 OTHER 类型事情到安稳状况回调 StableClosure 事情行列,触发安稳状况回调 StableClosure 事情处理器 StableClosureEventHandler 处理该事情,处理器获取使命回调的 Log Entries 把日志条目堆集到内存中以便后续共同批量 Flush,经过 appendToStorage(toAppend) 操作调用底层LogStorage 存储日志 Entries。一起 Replicator 把此条 Log 仿制给其他的 Node 完成并发的日志仿制,当 Node 接纳集群中半数以上的 Node 回来的“仿制成功”的呼应将这条 Log 以及之前的 Log 有序的发送至状况机里边履行。
LogManager 调用日志存储 L巨一集团有限公司ogStorage 完成逻辑:
元信息存储
Metadata 存储即元信息存储,用来存储记载 Raft 完成的内部状况,比方当时任期 Term、投票给哪个 PeerId 节点等信息。
RaftMetaStorage 存储完成
RaftMetaStorage 元信息存储完成,界说 Raft 元数据的 Metadata 存储模块中心 API 接口包含:
Raft 内部状况任期 Term 是在整个 Raft Group 里单调递加的 long 数字,用来表明一轮投票的编号,其间成功推举出来的 Leader 对应的 Term 称为 Leader Term,Leader 没有发生改变期间提交的日志都有相同的 Term 编号。PeerId 表明 Raft 协议的参与者(Leader/Follower/Candidate etc.), 由三元素组成: ip:port:index,其间 ip 是节点的 IP, port 是端口, index 表明同一个端口的序列号。RaftMetaStorage 元信息存储完成接口界说进口:
com.alipay.sofa.jraft.storage.RaftMetaStorage
LocalRaftMetaStorage 依据 ProtoBuf 完成
Protocol Buffers 是一种简便高效的结构化数据存储格局,用于结构化数据串行化或许说序列化,适合做数据存储或 RPC 数据交换格局,用于通讯协议、数据存储等范畴的言语无关、渠道无关、可扩展的序列化结构数据格局。用户在 .proto 文件界说 Protocol Buffer 的 Message 类型指定需求序列化的数据结构,每一个 Message 都是一个小的信息逻辑单元包含一系列的键值对,每种类型的 Message 包含一个或许多个仅有编码字段,每个字段由称号和值类型组成,答应 Message 界说可选字段 Optional Fields、有必要字段 Required Fields、可重复字段 Repeated Fields。
RaftMetaStorage 默许完成 LocalRaftMetaStorage 是依据 ProtoBuf Message 本地存储 Raft 元数据,初始化元信息存储 StorageFactory 依据 Raft 元信息存储途径、 Raft 内部装备以及 Node 节点监控默许创立 LocalRaftMetaStorage 元信息存储。依据 ProtoBuf 存储完成 LocalRaftMetaStorage 首要操作包含:
LocalRaftMetaStorage 依据 ProtoBuf 本地存储 Raft 元信息完成进口:
com.alipay.sofa.jraft.storage.impl.LocalRaftMetaStorage
快照存储
当 Raft 节点 Node 重启时,内存中状况机的状况数据丢掉,触发发动进程从头寄存日志存储 LogStorage 的一切日志重建整个状况机实例,此种场景会导致两个问题:
因而经过引进 Snapshot 机制来处理此三个问题,所谓快照 Snapshot 即对数据当时值的记载,是为当时状况机的最新状况构建"镜像"独自保存,保存成功删去此时刻之前的日志削减日志存储占用;发动的时分直接加载最新的 Snapshot 镜像,然后重放在此之后的日志即可,假如 Snapshot 距离合理,整个重放到状况机进程较快,加快发动进程。最终新节点的参加先从 Leader 仿制最新的 Snapshot 装置到本地状况机,然后只需仿制后续的日志即可,可以快速跟上整个 Raft Group 的进展。Leader 生成快照有几个效果:
Snapshot 存储,用于存储用户的状况机 Snapshot 及元信息:
SnapshotStorage 存储完成
SnapshotStorage同人h文 快照存储完成,界说 Raft 状况机的 Snapshot 存储模块中心 API 接口包含:
LocalSnapshotStorage 依据本地文件完成
SnapshotStorage 默许完成 LocalSnapshotStorage 是依据本地文件存储 Raft 状况机镜像,初始化元快照存储 StorageFactory 依据 Raft 镜像快照存储途径和 Raft 装备信息默许创立 LocalSnapshotStorage 快照存储。依据本地文件存储完成 LocalSnapshotStorage 首要办法包含:
SnapshotExecutor 存储办理
快照履行器 SnapshotExecutor 担任 Raft 状况机 Snapshot 存储、Leader 长途装置快照、仿制镜像 Snapshot 文件,包含两大中心操作:状况机快照 doSnapshot(done) 和装置快照 installSnapshot(request, response, done)。StateMachine 快照 doSnapshot(done) 获取依据暂时镜像 temp 文件途径的 Snapshot 存储快照编写器 LocalSnapshotWriter,加载 __raft_snapshot_meta 快照元数据文件初始化编写器;构建保存镜像回调SaveSnapshotDone 供给 FSMCaller 调用 StateMachine 的状况转化发布 SNAPSHOT_SAVE 类型使命事情到 Disruptor 行列,经过 Ring Buffer 办法触发恳求使命处理器 ApplyTaskHandler 运转快照保存使命,调用 onSnapshotSave() 办法存储各种类型状况机快照。长途装置快照 installSnapshot(request, response, done) 依照装置镜像恳求呼应以及快照原信息创立而且注册快照下载作业 DownloadingSnapshot,加载快照下载 DownloadingSnapshot 获取当时快照仿制器的阅读器 SnapshotReader,构建装置镜像回调 InstallSnapshotDone 分配 FSMCaller 调用 StateMachine 的状况转化发布 SNAPSHOT_LOAD 类型使命事情到 Disruptor 行列,也是经过 Ring Buffer 触发恳求使命处理器 ApplyTaskHandler 履行快照装置使命,调用 onSnapshotLoad() 操作加载各种类型状况机快照。
SnapshotExecutor 状况机快照和长途装置镜像完成逻辑:
总结
本文从 Log 日志存储 LogStorage、Meta 元信息存储 RaftMetaStorage 以及 Snapshot 快照存储 SnapshotStorage 三个方面胪陈 SOFAJRaft 存储模块完成细节,直观描写 SOFAJRaft Server 节日死了点 Node 之间存储日志、Raft 装备和镜像流程。
欢迎作业一到五年的Java工程师朋友们参加Java程序员开发: 721575865
群内供给免费的Java架构学习材料(里边有高可用、高并发、高功能及分布式、Jvm功能调优、Spring源码,MyBatis,Netty,Redis,Kafka,Mysql,Zookeeper,Tomcat,Docker,Dubbo,Nginx等多个知识点的架构材料)合理使用自己每一分每一秒的时刻来学习提高自己,不要再用"没有时刻“来粉饰自己思想上的懒散!趁年青,用力拼,给未来的自己一个告知!
文章推荐:
天长天气,环氧树脂,欧姆龙-Texas兄弟,美国汉堡做法大全
刘美含,恋夜秀场4,体育直播-Texas兄弟,美国汉堡做法大全