这篇文章给大家介绍HDFS怎么利用JAVA进行操作,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。
让客户满意是我们工作的目标,不断超越客户的期望值来自于我们对这个行业的热爱。我们立志把好的技术通过有效、简单的方式提供给客户,将通过不懈努力成为客户在信息化领域值得信任、有价值的长期合作伙伴,公司提供的服务项目有:申请域名、网络空间、营销软件、网站建设、镇康网站维护、网站推广。
Jar包引入,pom.xml:
org.apache.hadoop hadoop-common 2.8.0 org.apache.hadoop hadoop-hdfs 2.8.0
将本地文件上传到hdfs服务器:
/** * 上传文件到hdfs上 */ @Test public void upload() throws IOException { Configuration conf = new Configuration(); conf.set("fs.defaultFS","hdfs://hzq:9000"); FileSystem fs = FileSystem.get(conf); fs.copyFromLocalFile(new Path("/home/hzq/jdk1.8.tar.gz"),new Path("/demo")); }
解析:
在开发中我没有引入“core-site.xml”配置文件,所以在本地调用时使用conf进行配置“conf.set("fs.defaultFS","hdfs://hzq:9000");“,下面雷同。
将hdfs上文件下载到本地:
/** * 将hdfs上文件下载到本地 */ @Test public void download() throws IOException { Configuration conf = new Configuration(); conf.set("fs.defaultFS","hdfs://hzq:9000"); FileSystem fs = FileSystem.newInstance(conf); fs.copyToLocalFile(new Path("/java/jdk1.8.tar.gz"),new Path("/home/hzq/")); }
删除hdfs上指定文件:
/** * 删除hdfs上的文件 * @throws IOException */ @Test public void removeFile() throws IOException { Configuration conf = new Configuration(); conf.set("fs.defaultFS","hdfs://hzq:9000"); FileSystem fs = FileSystem.newInstance(conf); fs.delete(new Path("/demo/jdk1.8.tar.gz"),true); }
在hdfs上创建文件夹:
/** * 在hdfs更目录下面创建test1文件夹 * @throws IOException */ @Test public void mkdir() throws IOException { Configuration conf = new Configuration(); conf.set("fs.defaultFS","hdfs://hzq:9000"); FileSystem fs = FileSystem.newInstance(conf); fs.mkdirs(new Path("/test1")); }
列出hdfs上所有的文件或文件夹:
@Test public void listFiles() throws IOException { Configuration conf = new Configuration(); conf.set("fs.defaultFS","hdfs://hzq:9000"); FileSystem fs = FileSystem.newInstance(conf); // true 表示递归查找 false 不进行递归查找 RemoteIteratoriterator = fs.listFiles(new Path("/"), true); while (iterator.hasNext()){ LocatedFileStatus next = iterator.next(); System.out.println(next.getPath()); } System.out.println("----------------------------------------------------------"); FileStatus[] fileStatuses = fs.listStatus(new Path("/")); for (int i = 0; i < fileStatuses.length; i++) { FileStatus fileStatus = fileStatuses[i]; System.out.println(fileStatus.getPath()); } }
运行结果:
结果分析:
“listFiles“列出的是hdfs上所有文件的路径,不包括文件夹。根据你的设置,支持递归查找。
”listStatus“列出的是所有的文件和文件夹,不支持递归查找。如许递归,需要自己实现。
关于HDFS怎么利用JAVA进行操作就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。