当前位置: 首页 > 知识库问答 >
问题:

在Hadoop上运行MapReduce word count会出现异常消息:系统找不到指定的路径

宋腾
2023-03-14

这是我第一个堆栈溢出问题。我已经将hadoop(2.9.2)单节点集群设置为伪分布式模式。当我尝试运行hadoop jar c:/mapreduceClient.jar wordcount/input_dir/output_dir时,我得到了以下错误日志

19/01/16 20:19:17 INFO client.RMProxy: Connecting to ResourceManager at /0.0.0.0:8032
19/01/16 20:19:18 INFO input.FileInputFormat: Total input files to process : 1
19/01/16 20:19:19 INFO mapreduce.JobSubmitter: number of splits:1
19/01/16 20:19:19 INFO Configuration.deprecation: yarn.resourcemanager.system-metrics-publisher.enabled is deprecated. Instead, use yarn.system-metrics-publisher.enabled
19/01/16 20:19:19 INFO mapreduce.JobSubmitter: Submitting tokens for job: job_1547662294790_0002
19/01/16 20:19:19 INFO impl.YarnClientImpl: Submitted application application_1547662294790_0002
19/01/16 20:19:19 INFO mapreduce.Job: The url to track the job: http://DESKTOP-XXXXXX:8088/proxy/application_1547662294790_0002/
19/01/16 20:19:19 INFO mapreduce.Job: Running job: job_1547662294790_0002
19/01/16 20:19:19 INFO mapreduce.Job: Running job: job_1547662294790_0002
19/01/16 20:19:27 INFO mapreduce.Job: Job job_1547662294790_0002 running in uber mode : false
**19/01/16 20:19:27 INFO mapreduce.Job:  map 0% reduce 0%**
**19/01/16 20:19:27 INFO mapreduce.Job: Job job_1547662294790_0002 failed with state FAILED due to: Application application_1547662294790_0002 failed 2 times due to AM Container for appattempt_1547662294790_0002_000002 exited with  exitCode: 1**
Failing this attempt.Diagnostics: [2019-01-16 20:19:25.234]Exception from container-launch.
Container id: container_1547662294790_0002_02_000001
Exit code: 1
**Exception message: The system cannot find the path specified.**
The system cannot find the path specified.
The system cannot find the path specified.


[2019-01-16 20:19:25.236]Container exited with a non-zero exit code 1.
[2019-01-16 20:19:25.236]Container exited with a non-zero exit code 1.
For more detailed output, check the application tracking page: http://DESKTOP-XXXXX:8088/cluster/app/application_1547662294790_0002 Then click on links to logs of each attempt
. Failing the application.
19/01/16 20:19:28 INFO mapreduce.Job: Counters: 0

在我的另一台pc上使用相同的。jar进行相同的设置,并且输出是正确的。Windows 10 Pro x64(两者都是)唯一的区别是工作的一个安装了Java1.8.0_171

java_home=c:\java\jdk1.8.0_201 hadoop_home=c:\hadoop-2.9.2

path=%java_home%\bin;C:\hadoop-2.9.2\bin

我的配置文件:/etc/hadoop/core-site.xml

<configuration>
   <property>
       <name>fs.defaultFS</name>
       <value>hdfs://localhost:9000</value>
   </property>
</configuration>
<configuration>
   <property>
       <name>mapreduce.framework.name</name>
       <value>yarn</value>
   </property>
</configuration>
<configuration>
   <property>
       <name>dfs.replication</name>
       <value>1</value>
   </property>
   <property>
       <name>dfs.namenode.name.dir</name>
       <value>C:\hadoop-2.9.2\data\namenode</value>
   </property>
   <property>
       <name>dfs.datanode.data.dir</name>
       <value>C:\hadoop-2.9.2\data\datanode</value>
   </property>
</configuration>
<configuration>
   <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
   </property>
   <property>
        <name>yarn.nodemanager.auxservices.mapreduce.shuffle.class</name>  
    <value>org.apache.hadoop.mapred.ShuffleHandler</value>
   </property>
</configuration>

共有1个答案

袁凌
2023-03-14

解决了。默认的用户名不是拉丁字符,这会扰乱节点管理器。使用whoami命令进行检查,结果发现默认用户名是“???????”

 类似资料:
  • 在我的servlet中,我写了以下语句来加载本体论文件 但是当我运行这个项目时,我得到了以下例外 org.semanticweb.owlapi.io.OWLOntologyInputSourceExc0019:java.io.FileNotFoundExc0019: src\java\本体论\ontology.owl(系统找不到指定的路径) 我怎样才能克服这个问题?

  • 我在文件夹system32中有文件夹run。当我从Total Commander中运行cmd时,打开一个命令提示符窗口,当前目录为C:\Users\admin,并希望进入该文件夹,将输出以下错误消息: 系统找不到指定的路径。 当我直接在文件夹中打开cmd时,它工作得非常好。为什么? 在C:\Windows\System32\run中打开命令提示符窗口: 简单运行cmd时的命令提示窗口:

  • 我得到以下Tomcat错误: 发布到Tomcat v8.5 Server atlocalhost...遇到问题。发布失败并出现多个错误。 细节: 发布失败,出现多个错误 找不到文件:C:\Users…\HerramentationLogica\target\m2e wtp\web资源\META-INF\MANIFEST.MF。 未找到文件:C:\Users…\HerramentationLogic

  • 我已经编写了一个基本的jsp代码,用于存储和检索数据库中的数据。在此之前,我正在检查用户验证。 当我点击提交按钮时,它将重定向到我的jsp页面。 我已经写了一个数据库。属性文件分开。 当我给出了读取属性文件的完整路径时。,程序执行正常。(这不是像下面这样硬代码的最佳方式)。 FileInputStream in=new FileInputStream("C:\Program Files\Apach

  • 我正在学习gRPC的C#快速入门教程。到了这一步,我必须使用以下命令生成gRPC代码: 它不起作用,运行上面的命令后,我在终端中得到的是: --grpc\u out:protoc gen grpc:系统找不到指定的路径。 我不知道为什么系统找不到路径,因为我在命令中更改了路径,使其指向需要执行的文件。

  • 我以管理员权限运行命令提示符卸载我电脑上的Ananconda,在此过程之后,我重新打开cmd,发现cmd开头有一行“系统找不到指定的路径”。 我可以保证我的cmd以前没有这一行,我该如何修复它?这是我应该注意的严重错误吗? 非常感谢。 “系统找不到指定的路径。”