2025年yarn队列配置(yarn 配置)

yarn队列配置(yarn 配置)yarn 作为 hadoop 的资源分配和调度的基础组件 有哪些相关的参数是和这个组件有关呢 ResourceMana 相关 NodeManager 相关 Container 相关 那在部署环境我们要怎么分配呢 eg 3 台服务器 每台配置 4G 内存 4 核 CPU 4 线程 如果我们处理的是 1G 的文件进行数据的 count 统计 那么就会有 1G 128M 8 个 MapTask 1 个 ReduceTask

大家好,我是讯享网,很高兴认识大家。



yarn作为hadoop的资源分配和调度的基础组件,有哪些相关的参数是和这个组件有关呢?

  1. ResourceManager相关
 

讯享网
  1. NodeManager相关
讯享网
  1. Container相关
 

那在部署环境我们要怎么分配呢?
eg:3台服务器,每台配置4G内存,4核CPU,4线程,如果我们处理的是1G的文件进行数据的count统计,
那么就会有 1G/128M=8个MapTask 1个ReduceTask,1个MrAppMaster,平均下来就是每个节点有3个任务,
那我们按4 3 3 的比例分配10个任务。

那我们就按照上边的参数进行配置下我们的yarn-site.xml文件


讯享网

讯享网

按上边的配置修改,我们会得到最后更加符合我们服务器硬件参数的yarn资源集群。

小讯
上一篇 2025-04-30 16:45
下一篇 2025-06-05 15:00

相关推荐

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容,请联系我们,一经查实,本站将立刻删除。
如需转载请保留出处:https://51itzy.com/kjqy/175516.html