Hadoop日志存在哪里

这篇文章主要讲解了“Hadoop日志存在哪里”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“Hadoop日志存在哪里”吧!

创新互联公司2013年成立,是专业互联网技术服务公司,拥有项目网站设计制作、网站设计网站策划,项目实施与项目整合能力。我们以让每一个梦想脱颖而出为使命,1280元赵县做网站,已为上家服务,为赵县各地企业和个人服务,联系电话:028-86922220

1.Hadoop 1.x版本

Hadoop 1.x中MapReduce的服务日志包括JobTracker日志和各个TaskTracker日志,他们的日志位置如下:

JobTracker:在JobTracker安装节点上,默认位置是

${hadoop.log.dir}/logs/*-jobtracker-*.log,该文件每天生成一个,旧的日志后缀是日期,当天的日志文件 后缀是“.log”,其中${hadoop.log.dir}默认值是hadoop安装目录,即${HADOOP_HOME}。

TaskTracker:在各个TaskTracker安装节点上,默认位置是

$HADOOP_HOME/logs/*-tasktracker-*.log,该文件每天生成一个,旧的日志后面会跟一个日志,当天的日志文件后缀是“.log”

作业日志包括jobhistory日志和task日志两部分,其中,jobhistory日志是作业运行日志,包括作业启动时间、结束时间,每个任 务的启动时间、结束时间,各种counter信息等,用户可以从这个日志中解析出作业运行的各种信息,是非常有价值的信息。默认存放位置是 JobTracker所在节点的${hadoop.log.dir}/history目录下,可通过参数 hadoop.job.history.location配置。每个task日志存放在task运行节点上,存放位置 是${hadoop.log.dir}/userlogs//目录下,每个task包含 三个日志文件,分别是stdout、stderr和syslog,其中,stdout是通过标准输出打印出来的日志,比如 System.out.println,注意,程序中通过标准输出打印的日志并不会直接显示在终端上,而是保存在这个文件中,syslog是通过log4j打印的日志,通常这个日志中包含的有用信息最多,也是错误调试中最关键的参考日志。

2.Hadoop 2.x版本

Hadoop 2.x中YARN系统的服务日志包括ResourceManager日志和各个NodeManager日志,他们的日志位置如下:

ResourceManager日志存放位置是Hadoop安装目录下的logs目录下的yarn-*-resourcemanager-*.log

NodeManager日志存放位置是各个NodeManager节点上hadoop安装目录下的logs目录下的yarn-*-nodemanager-*.log

应用程序日志包括jobhistory日志和Container日志,其中,jobhistory日志是应用程序运行日志,包括应用程序启动时间、结束时间,每个任务的启动时间、结束时间,各种counter信息等。

Container日志包含ApplicationMaster日志和普通Task日志,它们均存放在Hadoop安装目录下的userlogs目 录中的application_xxx目录下,其中ApplicationMaster日志目录名称为container_xxx_000001,普通 task日志目录名称则为container_xxx_000002,container_xxx_000003,….,同Hadoop  1.x一样,每个目录下包含三个日志文件:stdout、stderr和syslog,且具体含义是一样的。

感谢各位的阅读,以上就是“Hadoop日志存在哪里”的内容了,经过本文的学习后,相信大家对Hadoop日志存在哪里这一问题有了更深刻的体会,具体使用情况还需要大家实践验证。这里是创新互联,小编将为大家推送更多相关知识点的文章,欢迎关注!


文章名称:Hadoop日志存在哪里
网站链接:http://bzwzjz.com/article/jsegso.html

其他资讯

Copyright © 2007-2020 广东宝晨空调科技有限公司 All Rights Reserved 粤ICP备2022107769号
友情链接: 成都响应式网站建设 成都定制网站建设 成都营销网站制作 高端网站设计 重庆网站制作 定制级高端网站建设 移动手机网站制作 企业网站设计 成都网站建设公司 营销网站建设 外贸网站建设 手机网站建设套餐 成都响应式网站建设 网站设计 成都网站设计 品牌网站建设 重庆网站建设 网站制作 成都网站建设 重庆企业网站建设 重庆外贸网站建设 营销型网站建设