当前位置:   article > 正文

HDFS每日一练2 API读取文件_基于java api操作hdfs 练习题

基于java api操作hdfs 练习题

HDFS每日一练2 API读取文件

题目

  • 在右侧代码编辑区和命令行中,编写代码与脚本实现如下功能:

    • /develop/input/目录下创建hello.txt文件,并输入如下数据:

      迢迢牵牛星,皎皎河汉女。

      纤纤擢素手,札札弄机杼。

      终日不成章,泣涕零如雨。

      河汉清且浅,相去复几许?

      盈盈一水间,脉脉不得语。

      《迢迢牵牛星》

    • 使用FSDataOutputStream对象将文件上传至HDFS/user/tmp/目录下,并打印进度。

测试说明:

测试说明

平台会运行你的java程序,并查看集群的文件将文件信息输出到控制台,第一行属于警告信息可以忽略。

预期输出:

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-om9YHiED-1603549724120)(C:\Users\Auraros\AppData\Roaming\Typora\typora-user-images\image-20201024221611952.png)]

教程

为了完成本关任务,你需要掌握:FSDataInputStream对象如何使用。

FSDataOutputStream对象

我们知道在Java中要将数据输出到终端,需要文件输出流,HDFSJavaAPI中也有类似的对象。 FileSystem类有一系列新建文件的方法,最简单的方法是给准备新建的文件制定一个path对象,然后返回一个用于写入数据的输出流:

public FSDataOutputStream create(Path p)throws IOException
  • 1

该方法有很多重载方法,允许我们指定是否需要强制覆盖现有文件,文件备份数量,写入文件时所用缓冲区大小,文件块大小以及文件权限。

注意:create()方法能够为需要写入且当前不存在的目录创建父目录,即就算传入的路径是不存在的,该方法也会为你创建一个目录,而不会报错。如果有时候我们并不希望它这么做,可以先用exists()方法先判断目录是否存在。

我们在写入数据的时候经常想要知道当前的进度,API也提供了一个Progressable用于传递回调接口,这样我们就可以很方便的将写入datanode的进度通知给应用了。

package org.apache.hadoop.util;
public interface Progressable{
    public void progress();
}
  • 1
  • 2
  • 3
  • 4

答案

用命令行创建文件

# mkdir -p /develop/input/
# cd develop/input/
# vim hello.txt
迢迢牵牛星,皎皎河汉女。
纤纤擢素手,札札弄机杼。
终日不成章,泣涕零如雨。
河汉清且浅,相去复几许?
盈盈一水间,脉脉不得语。
《迢迢牵牛星》
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-7WyYoCRB-1603549724124)(C:\Users\Auraros\AppData\Roaming\Typora\typora-user-images\image-20201024222052734.png)]

写代码

package step3;


import java.io.BufferedInputStream;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.IOException;
import java.io.InputStream;
import java.net.URI;
import java.io.File;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;
import org.apache.hadoop.util.Progressable;


public class FileSystemUpload {
	
	public static void main(String[] args) throws IOException {
		//请在 Begin-End 之间添加代码,完成任务要求。
        /********* Begin *********/
        File localPath = new File("/develop/input/hello.txt"); 
        String hdfsPath = "hdfs://localhost:9000/user/tmp/hello.txt";

        InputStream in = new BufferedInputStream(new FileInputStream(localPath));

        Configuration conf = new Configuration();
        FileSystem fs = FileSystem.get(URI.create(hdfsPath), conf);
        long fileSize = localPath.length() > 65536 ? localPath.length() / 65536 : 1;
		//除以64kb有多少  64kb字节是65536bytes
        
        FSDataOutputStream out = fs.create(new Path(hdfsPath), new Progressable(){
            //该方法在每次上传了64KB字节的文件后就会调用一次
            long fileCount = 0;

            public void progress(){
                System.out.println("总进度"+(fileCount / fileSize) * 100 + "%");
                fileCount++;
            }
        });
        IOUtils.copyBytes(in, out, 2048, true);

		/********* End *********/
	}
}

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32
  • 33
  • 34
  • 35
  • 36
  • 37
  • 38
  • 39
  • 40
  • 41
  • 42
  • 43
  • 44
  • 45
  • 46
  • 47
  • 48
  • 49
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/很楠不爱3/article/detail/721799
推荐阅读
相关标签
  

闽ICP备14008679号