讯享网

 <p id="1AQNIFIM">Alluxio线程池结构与吞吐量调优</p><p id="1AQNIFIP"><strong>来自腾讯一线工程师的独家分享✦</strong></p><p id="1AQNIFIT">导语<br/></p><p id="1AQNIFJ0">Alluxio 是一个开源的数据编排系统，致力于解决解决大数据分析及 AI 场景下的一些痛点问题，它可以加速数据查询和AI模型训练的速度，提升系统在高并发场景下的高可用能力。这些应用场景决定了 Alluxio 需要具备大吞吐量特性，本文首先介绍 Alluxio Master 的线程池结构，基于线程池分析结果提出 Alluxio 吞吐量调优方案。</p><p id="1AQNIFJ6">作者简介</p><p id="1AQNIFJ9"><strong>刘尧龙</strong></p><p id="1AQNIFJC">腾讯Alluxio Oteam 研发工程师，Alluxio Committer。主要负责Alluxio及分布式一致性相关的开发工作。</p><p id="1AQNIFJI"><strong>业务背景</strong></p><p id="1AQNIFJL">本次线程池结构分析与调优的对象是 Alluxio 的开源版本，且 Alluxio 的配置项均为默认配置项，分析的场景是游戏 AI 的特征计算阶段。特征计算需要大量读取用户数据分析用户操作，然后针对计算结果进行游戏环境的还原。特征计算任务初期会有数千至上万的进程同时对底层分布式存储节点发起访问，产生流量洪峰。在这种读密集场景下，Alluxio 的高吞吐可以有效缓解存储端压力。</p><p id="1AQNIFJO"><strong>Alluxio 默认线程池结构与 JVM 参数</strong></p><p id="1AQNIFJR">在业务运行过程中，通过 jstack 生成系统线程信息，导入FastThread（https://fastthread.io/）分析。分析结果如下：</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2022%2F1110%2F33a496e5j00rl4vav002td200u000hng00i100al.jpg&thumbnail=660x&quality=80&type=jpg"/><br/></p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2022%2F1110%2Fbbc528b0j00rl4vaw002od200u000frg00i1009g.jpg&thumbnail=660x&quality=80&type=jpg"/><br/></p><p id="1AQNIFK4">Alluxio Master 节点有 1432 个线程，其中 RUNABLE 状态的线程数仅占46%，有大量线程处于 WATING 和 TIME_WAITING 状态，Master 节点线程数较多，容易发生 OOM，需要根据线程池工作与线程间的调用关系，适当调整线程数量。Alluxio Master 上有八个线程组，分别为：Alluxio、master、grpc、ForkJoinPool.commonPool、Gang.worker、qtpXXX、MetricsMaster、LockPool Evictor。它们之间的工作与线程调用关系如下图所示。接下来将结合线程模型和 Alluxio 源码分析这些线程组的作用及调优方向。</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2022%2F1110%2F56e365dej00rl4vax001pd200nu00gig00i100ch.jpg&thumbnail=660x&quality=80&type=jpg"/><br/></p><p id="1AQNIFKD"><strong>Alluxio 线程组</strong></p><p id="1AQNIFKG">Alluxio 线程组共600个线程，它们的状态如下：</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2022%2F1110%2Fc78c8b86j00rl4vay000nd200j7008mg00i10083.jpg&thumbnail=660x&quality=80&type=jpg"/><br/></p><p id="1AQNIFKM">由上表可知，Alluxio 线程组中共有5种线程，其中，负责client的线程均处于 RUNNABLE 状态，其余线程处于 TIME_WATING 和 WATING 状态，下面将介绍每个线程的功能。</p><p><ul><li id="1AQNIFR7"></p><p id="1AQNIFKP"><strong>Alluxio-client-netty-event-loop-RPC</strong></p><p></li></ul></p><p id="1AQNIFKQ">这是 Netty 框架的线程池，属于 NioEventLoopGroup 类型。在这次采样数据中，该线程池256个线程均处于 RUNNABLE 状态，该线程用于 client 端与 server 端建立连接时使用，可以通过下列配置项进行配置，它的默认值为0。</p><p><ul><li id="1AQNIFR8"></li></ul></p><p><ul><li id="1AQNIFR9"></p><p id="1AQNIFKV"><strong>Alluxio-ufs-sync</strong><br/></p><p></li></ul></p><p id="1AQNIFL0">该线程池主要用于并发地执行元数据同步操作，它是 ThreadPoolExecutor 类型。具体的元数据同步操作由 Alluxio-ufs-sync-prefetch 线程组完成。在本次采样中，线程全部处于 TIME_WATING 状态。该线程池的核心线程数与最大线程数相等，它的默认值为系统当前的核心数，可以通过下列配置项修改。</p><p><ul><li id="1AQNIFRA"></li></ul></p><p><ul><li id="1AQNIFRB"></p><p id="1AQNIFL5"><strong>Alluxio-ufs-sync-prefetch</strong></p><p></li></ul></p><p id="1AQNIFL6">该线程池主要在一个元数据同步操作内，并发地从 UFS 中获取元数据。在本次采样中，线程全部处于 TIME_WAITING 状态。该线程池的核心线程数与最大线程数相等，默认值为系统当前的线程数的 10 倍，可以通过下列配置项修改。</p><p><ul><li id="1AQNIFRC"></li></ul></p><p><ul><li id="1AQNIFRD"></p><p id="1AQNIFLB"><strong>Alluxio-master</strong></p><p></li></ul></p><p id="1AQNIFLC">这个线程组有5个线程:</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2022%2F1110%2F5047a223j00rl4vaz0014d200kr00adg00i10090.jpg&thumbnail=660x&quality=80&type=jpg"/><br/></p><p id="1AQNIFLI">本次提取的堆栈信息是从 Alluxio-master-1 节点中取出的，它是 Leader 节点。这五个线程用于支持 Alluxio-master 的具体工作：上表的前两个线程是 master-1 与两个 raft follower 节点进行通信的守护线程，用于 raft 集群中追加日志时进行通信。第三个线程为 Leader 节点特有的，主要用于 Leader 选举的相关操作。第四个线程为 RaftLog 相关的线程，这个线程会处理与 Raft log 相关的 I/O OPS 相关的操作。第五个线程与 StateMachine 相关，它是 Ratis 用于状态机更新的线程。</p><p id="1AQNIFLO"><strong>master 线程组</strong></p><p id="1AQNIFLR">Master 线程组共256个线程，均处于 WATING 状态。它们组成了一个 ForkJoinPool 类型的线程池，ForkJoinPool 是ExecutorService 的补充，它采用分而治之的思想，比较适合计算密集型任务。Alluxio 用该线程池处理 RPC 请求，它从 RPC Queue 不断取出积压的任务，然后进行处理，这个线程池的创建源码为：</p><p><ul><li id="1AQNIFRE"></li><li id="1AQNIFRF"></li><li id="1AQNIFRG"></li></ul></p><p id="1AQNIFM3"><strong>GRPC 线程组</strong></p><p id="1AQNIFM6">GRPC 线程组由4种线程构成，在本次采样中共262个线程。这四种线程属于 GRPC 框架，它们为 Alluxio 提供 RPC 通信服务。</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2022%2F1110%2F63d95a9dj00rl4vaz000id200i40061g00i10060.jpg&thumbnail=660x&quality=80&type=jpg"/><br/></p><p id="1AQNIFMF"><strong>MetricsMaster 线程组</strong><br/></p><p id="1AQNIFMI">该线程组共4个线程，它们是一个 FixedThreadPool 类型的线程池，即该线程池的核心线程数与最大线程数相等。该线程池主要用于并行获取从 worker 或者 client 提交的 Metric 数据，并根据数据更新集群的指标信息，这些信息可以通过 Grafana 与Prometheus 相结合地方式直观地检查系统状态。该线程池的核心线程数是可配置的，通过下列配置项完成。</p><p><ul><li id="1AQNIFRH"></li></ul></p><p id="1AQNIFMQ"><strong>LockPool Evictor 线程组</strong></p><p id="1AQNIFMT">LocakPool Evictor 线程组由2个 SingleThreadExecutor 类型的线程池组成，它们作为锁池使用。该线程池的源码如下：</p><p><ul><li id="1AQNIFRI"></li><li id="1AQNIFRJ"></li><li id="1AQNIFRK"></li><li id="1AQNIFRL"></li><li id="1AQNIFRM"></li><li id="1AQNIFRN"></li><li id="1AQNIFRO"></li><li id="1AQNIFRP"></li><li id="1AQNIFRQ"></li><li id="1AQNIFRR"></li><li id="1AQNIFRS"></li><li id="1AQNIFRT"></li><li id="1AQNIFRU"></li></ul></p><p id="1AQNIFN2">其中，mInodeLocks 用于提供 inode 锁：要锁定一个 inode，必须在该池中得它的id然后获取它的读锁；mEdgeLocks 用于提供边锁，这里的边指的是 inode 树中的一条边，边从父 inode id 指向子 inode id。</p><p id="1AQNIFN5">这两种锁池中的锁均为可重入的读写锁，锁池的初始数量、最小锁数量、最大锁数量、并发度均可以配置。</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2022%2F1110%2Fbf0d33bbj00rl4vb0000pd200kx0065g00i1005a.jpg&thumbnail=660x&quality=80&type=jpg"/><br/></p><p id="1AQNIFNE"><strong>qtpXXX 线程组</strong></p><p id="1AQNIFNH">该线程组用于提供 Jetty 服务，Jetty 是一个开源的 Servlet 容器，对外提供 web 服务。它们属于 QueueThreadPool 类型的线程池。在本次采样结果中共14个线程，这个线程池的最大线程数为254个，最小线程数为8。</p><p id="1AQNIFNN"><strong>Gang.worker 线程组</strong></p><p id="1AQNIFNQ">Gang worker 线程组用于 JVM 的垃圾回收。该线程组的线程数可以通过修改 JVM 参数进行 -XX:ParallelGCThreads 进行修改。</p><p id="1AQNIFNT"><strong>调优原理与结果</strong></p><p id="1AQNIFO0"><strong>审计日志</strong></p><p id="1AQNIFO3">在吞吐量测试过程中，我们在编译器研发团队的帮助下，通过 Kona Profile 采样，并对采样结果进行分析，发现 Alluxio 在运行过程中，生成审计日志时存在明显的锁竞争，blocking queue 的 size 成为了瓶颈点。</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2022%2F1110%2Fcccf08d0j00rl4vb1004fd200je009ig00i1008t.jpg&thumbnail=660x&quality=80&type=jpg"/><br/></p><p id="1AQNIFO9">基于这种现象，我们选择在非生产环境下关闭审计日志，在生产环境下调高审计日志的 blocking queue size 的方式调优性能。在调整后发现，系统吞吐量明显提升。</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2022%2F1110%2F655b76bcj00rl4vb1000sd200l6004cg00i1003o.jpg&thumbnail=660x&quality=80&type=jpg"/><br/></p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2022%2F1110%2F0f75e510j00rl4vb2000zd200l40052g00i1004b.jpg&thumbnail=660x&quality=80&type=jpg"/><br/></p><p id="1AQNIFOL"><strong>调整 UFS-SYNC-PREFETCH 线程池</strong></p><p id="1AQNIFOO">在 Alluxio Master 运行业务时，大量的任务积压在 master rpc queue 中，ForkJoinPool 线程池的处理速度受限于物理机的资源成为了瓶颈点。Alluxio-UFS-SYNC-PREFETCH 线程池用于执行元数据的同步工作，这个线程数默认为系统 CPU 核数的10倍，在实际系统中并不需要这么多的线程数，因此这种配置存在线程浪费情况。因此，我们将该线程数调整为2倍的 CPU 核数，调整后发现没有出现性能下降的情况。</p><p id="1AQNIFOU"><strong>JVM GC 线程数调优</strong></p><p id="1AQNIFP1">Alluxio 在腾讯自研的 KonaJDK 11 上作测试，使用 JDK 默认参数会出现集群 Full GC 时间过长的情况，Master 停顿时间过长会导致 Leader 切换，这种切换的成本很高。通过分析 GC 日志，我们发现默认的 GC 并行线程数较小，仅为30。考虑到我们使用的为64服务器，我们将 GC 并行线程数调整为40，发现 GC 停顿时间明显降低，系统的稳定性增强。</p><p id="1AQNIFP4"><strong>后续调优方向展望</strong></p><p id="1AQNIFP7">Alluxio 作为存储引擎和计算框架之间的中间件，承载着数据缓存、访问加速、缓解存储压力等任务，这些功能都对 Alluxio 系统的吞吐量提出了较高的要求。在接下来工作中，我们将继续改进方案，不断提升系统吞吐量性能。为此，我们设计了几种方案。</p><p id="1AQNIFPA"><strong>将 Follower Master 开启读服务</strong></p><p id="1AQNIFPD">现阶段，Alluxio 仅有 Leader Master 接受 Client 端的读写请求，这限制了 Alluxio 吞吐量的提升。这会产生单点瓶颈效应，我们计划在后续将 Follower Master 接受 Client 端的读请求，这样会有效提升系统吞吐量。</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2022%2F1110%2Fe555b14ej00rl4vb30011d200e100a6g00e100a6.jpg&thumbnail=660x&quality=80&type=jpg"/><br/></p><p id="1AQNIFPJ">这种架构的优势在于可以充分利用现有的节点，不需要有非常大的代码改动，但缺点为系统提升仍会有瓶颈，不具备无限扩展能力。</p><p id="1AQNIFPM"><strong>开发 Observer Master</strong></p><p id="1AQNIFPP">为了使集群在理论上拥有无限扩展能力，可以借鉴 Zookeeper 的 Observer Node 思想，开发 Oberserver Master 节点，系统模型如下：</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2022%2F1110%2F9615ddfbj00rl4vb3000td200fa007kg00fa007k.jpg&thumbnail=660x&quality=80&type=jpg"/><br/></p><p id="1AQNIFPV">这种模型可以添加多个 Observer Master 节点，它们的元数据同步可以主动 tail raft group 中的 log，并回放到本地状态机上，worker 的 block 信息可以周期性地进行同步。这种架构的优势为理论上可以无限扩展，但劣势是需要额外的节点资源。且这种方案代码改动较多、开发难度大，block 位置信息的同步开销也比较大。</p><p id="1AQNIFQ2"><strong>总结</strong></p><p id="1AQNIFQ5">本次初衷是基于线程池结构对 Alluxio 吞吐量性能进行调优，根据本次测试采样结果分析了性能瓶颈点，调优相关瓶颈点后得到性能提升。</p><p id="1AQNIFQ8">基于 Alluxio Master 的源码，本文介绍了 Alluxio Master 的线程池结构与每个线程的功能。在调优过程中，利用分析结果调整审计日志的 blocking queue，调整 UFS-SYNC-PREFETCH 线程数，调优 JVM 参数。通过实验证明，Alluxio 吞吐量提升7倍。</p><p id="1AQNIFQB">最后，本文提出了 Alluxio 吞吐量提升的未来优化方向。</p><p id="1AQNIFQI"><strong>【OSCHINA 2022 中国开源开发者问卷】</strong>来啦</p><p id="1AQNIFQJ">你的反馈将有助于反映中国开源的全貌</p><p id="1AQNIFQK">问卷结尾还可抽取我们的周边好物哦~</p><p id="1AQNIFQL">期待来自你的反馈！</p><p id="1AQNIFQV">开源最终的价值不仅是获客</p>