hadoopreduce个数控制怎么实现-创新互联

本篇内容介绍了“hadoop reduce个数控制怎么实现”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!

创新互联公司长期为近千家客户提供的网站建设服务,团队从业经验10年,关注不同地域、不同群体,并针对不同对象提供差异化的产品和服务;打造开放共赢平台,与合作伙伴共同营造健康的互联网生态环境。为向阳企业提供专业的成都网站设计、做网站向阳网站改版等技术服务。拥有十余年丰富建站经验和众多成功案例,为您定制开发。

1、参数变更
1.x 参数名                                                         2.x 参数名 
mapred.tasktracker.reduce.tasks.maximum     mapreduce.tasktracker.reduce.tasks.maximum
mapred.reduce.tasks                                       mapreduce.job.reduces

2、参数设置

2.1、mapred.tasktracker.reduce.tasks.maximum设置为逻辑CPU个数

 
mapred.tasktracker.reduce.tasks.maximum 
8 
true 


2.2.1、 hadoop 服务器端参数设定
mapred.reduce.tasks <= mapred.tasktracker.reduce.tasks.maximum <= 单台 datanode 逻辑cpu个数

2.2.2、应用端调用 job. setNumReduceTasks(int n) 方法指定

“hadoop reduce个数控制怎么实现”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识可以关注创新互联-成都网站建设公司网站,小编将为大家输出更多高质量的实用文章!


网站栏目:hadoopreduce个数控制怎么实现-创新互联
URL标题:http://bzwzjz.com/article/cedhid.html

其他资讯

Copyright © 2007-2020 广东宝晨空调科技有限公司 All Rights Reserved 粤ICP备2022107769号
友情链接: 成都网站制作 成都网站建设推广 泸州网站建设 营销网站建设 成都网站设计 app网站建设 成都网站设计公司 网站建设改版 网站建设方案 自适应网站设计 四川成都网站建设 古蔺网站建设 重庆外贸网站建设 企业网站设计 重庆企业网站建设 网站建设费用 成都网站建设 盐亭网站设计 成都网站设计 成都网站建设 重庆网站设计 重庆网站制作