Hadoop中mapreduce程序如何处理GBK编码数据并输出GBK编码数据

这期内容当中小编将会给大家带来有关Hadoop中mapreduce程序如何处理GBK编码数据并输出GBK编码数据,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。

公司主营业务:网站制作、成都网站建设、移动网站开发等业务。帮助企业客户真正实现互联网宣传,提高企业的竞争能力。成都创新互联公司是一支青春激扬、勤奋敬业、活力青春激扬、勤奋敬业、活力澎湃、和谐高效的团队。公司秉承以“开放、自由、严谨、自律”为核心的企业文化,感谢他们对我们的高要求,感谢他们从不同领域给我们带来的挑战,让我们激情的团队有机会用头脑与智慧不断的给客户带来惊喜。成都创新互联公司推出丰镇免费做网站回馈大家。

Hadoop 中文编码相关问题 -- mapreduce程序处理GBK编码数据并输出GBK编码数据

输入是GBK文件, 输出也是 GBK 文件的示例代码:

Hadoop处理GBK文本时,发现输出出现了乱码,原来HADOOP在涉及编码时都是写死的UTF-8,如果文件编码格式是其它类型(如GBK),则会出现乱码。

此时只需在mapper或reducer程序中读取Text时,使用transformTextToUTF8(text, "GBK");进行一下转码,以确保都是以UTF-8的编码方式在运行。

  1. public static Text transformTextToUTF8(Text text, String encoding) {

  2. String value = null;

  3. try {

  4. value = new String(text.getBytes(), 0, text.getLength(), encoding);

  5. } catch (UnsupportedEncodingException e) {

  6. e.printStackTrace();

  7. }

  8. return new Text(value);

  9. }

这里核心代码是: String line=new String(text.getBytes(),0,text.getLength(),"GBK"); //这里的value是Text类型

若直接使用 String line=value.toString(); 会输出乱码, 这是由Text这个Writable类型造成的。初学时,一直认为和LongWritable对long的封装一样,Text类型是String的Writable封装。但其实Text和String还是有些区别,它是一种UTF-8格式的Writable,而Java中的String是Unicode字符。所以直接使用value.toString()方法,会默认其中的字符都是UTF-8编码过的,因而原本GBK编码的数据使用Text读入后直接使用该方法就会变成乱码。

正确的方法是将输入的Text类型的value转换为字节数组(value.getBytes()),使用String的构造器String(byte[] bytes, int offset, int length, Charset charset),通过使用指定的charset解码指定的byte子数组,构造一个新的String。

如果需要map/reduce输出其它编码格式的数据,需要自己实现OutputFormat,在其中指定编码方式,而不能使用默认的TextOutputFormat。

上述就是小编为大家分享的Hadoop中mapreduce程序如何处理GBK编码数据并输出GBK编码数据了,如果刚好有类似的疑惑,不妨参照上述分析进行理解。如果想知道更多相关知识,欢迎关注创新互联行业资讯频道。


分享名称:Hadoop中mapreduce程序如何处理GBK编码数据并输出GBK编码数据
URL地址:http://bzwzjz.com/article/jeghcj.html

其他资讯

Copyright © 2007-2020 广东宝晨空调科技有限公司 All Rights Reserved 粤ICP备2022107769号
友情链接: 成都网站设计 成都网站建设 重庆外贸网站建设 成都商城网站建设 网站建设方案 成都网站建设流程 做网站设计 高端网站建设 温江网站设计 手机网站制作 成都网站制作 成都营销网站建设 手机网站制作 营销网站建设 营销型网站建设 成都网站建设公司 自适应网站设计 成都网站建设 营销型网站建设 企业网站设计 重庆手机网站建设 成都网站设计