>> word.first()报错:java.net.ConnectException: Ca..._用tf接口读取hdfs数据时,出现connect">
当前位置:   article > 正文

记录一次读取hdfs文件时出现的问题java.net.ConnectException: Connection refused_用tf接口读取hdfs数据时,出现connect

用tf接口读取hdfs数据时,出现connect

 

公司的hadoop集群是之前的同事搭建的,我(小白一个)在spark shell中读取hdfs上的文件时,执行以下指令

  1. >>> word=sc.textFile("hdfs://localhost:9000/user/hadoop/test.txt")
  2. >>> word.first()

报错:java.net.ConnectException: Call From hadoop/133.0.123.130 to localhost:9000 failed on connection exception: java.net.ConnectException: Connection refuse。看来是hdfs与本地服务器连接出了问题,我又查看了以下hdfs上的文件,发现可以正常查看,这说明本地服务器与hdfs的连接、通信是没有问题的!思来想去,我有换另外一种方式读取hdfs上的文件

  1. >>> word=sc.textFile("/user/hadoop/test.txt")
  2. >>> word.first()

因为spark中默认读取的就是hdfs上的文件,因此这种方式也是可以的,结果发现运行正常,这下问题就明了了,是“localhost:9000”出了问题,我查看了hadoop/etc/core-site.xml中端口设置

显示端口设置正

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/小舞很执着/article/detail/740566
推荐阅读
相关标签
  

闽ICP备14008679号