Hadoop环境如何配置

这篇文章主要介绍了Hadoop环境如何配置,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。

创新互联主营东至网站建设的网络公司,主营网站建设方案,成都app软件开发公司,东至h5小程序制作搭建,东至网站营销推广欢迎东至等地区企业咨询

    Hadoop环境安装完之后需要进行相应的配置

    Hadoop组件通过XML来配置,core-site.xml用于配置Common组件的属性,hdfs-site.xml文件用于配置HDFS属性,mapred-site.xml文件用于配置MapReduce属性,hdoop支持独立模式、伪分布模式、全分布模式,在不同模式下,各属性的配置:

组件属性独立模式伪分布模式全分布模式
commonfs.default.namefile:///(默认)hdfs://localhost/hdfs://namenode
hdfsdfs.replicationN/A13
mapreducemapred.job.tracker(hadoop2不用配置)local(默认)localhost:8021

jobtracker:8021    

    hadoop日志配置:在hadoop-env.sh中添加export HADOOP_LOG_DIR=/usr/lib/hadoop/logs

    我hadoop2的配置如下:

    core-site.xml


        
                fs.default.name
                hdfs://localhost/
        
        
                hadoop.tmp.dir
                /usr/lib/hadoop/tmp/
        

    hdfs-site.xml:


        
                dfs.default.name
                /usr/lib/hadoop/logs/
        
        
                dfs.replication
                1
        
        
                dfs.permissions
                false
        

    mapred-site.xml:


        
                mapreduce.framework.name
                Yarn
        

    yarn-site.xml:


        
                yarn.resourcemanager.resource-tracker.address
                localhost:8990
        
        
                yarn.resourcemanager.scheduler.address
                localhost:8991
        
        
                yarn.resourcemanager.scheduler.class
                org.apache.hadoop.yarn.server.resourcemanage.scheduler.capacity.CapacityScheduler
        
        
                yarn.resourcemanager.address
                localhost:8993
        
        
                yarn.nodemanager.local-dirs
                /usr/lib/hadoop/tmp/node
        
        
                yarn.nodemanager.address
                localhost:8994
        
        
                yarn.nodemanager.resource.memory-mb
                102040
        
        
                yarn.nodemanager.remote-app-log-dir
                /usr/lib/hadoop/tmp/app-logs
        
        
                yarn.nodemanager.log-dirs
                /usr/lib/hadoop/tmp/node
        
        
                yarn.nodemanager.aux-services
                mapreduce_shuffle
        

    slaves:

localhost

    完事之后执行hadoop namenode -fromat 格式化hdfs文件系统。

感谢你能够认真阅读完这篇文章,希望小编分享的“Hadoop环境如何配置”这篇文章对大家有帮助,同时也希望大家多多支持创新互联,关注创新互联行业资讯频道,更多相关知识等着你来学习!


分享题目:Hadoop环境如何配置
URL链接:http://bzwzjz.com/article/jhjieg.html

其他资讯

Copyright © 2007-2020 广东宝晨空调科技有限公司 All Rights Reserved 粤ICP备2022107769号
友情链接: 成都网站建设公司 成都网站建设 成都网站制作 成都网站建设 高端网站设计推广 外贸网站设计方案 成都网站制作 成都网站制作 营销型网站建设 温江网站设计 成都营销网站制作 手机网站建设套餐 成都h5网站建设 高端网站建设 定制网站设计 网站设计公司 网站建设公司 温江网站设计 专业网站设计 响应式网站建设 成都网站建设 广安网站设计