我试图在Mac OS X EL Captain 10.11上使用Java 1.7
SDK和Hadoop2.7.1运行一个简单的单词计数MapReduce程序,并且在我的容器日志“ stderr” / bin /
bash中得到以下错误消息:/ bin / java:无此文件或目录
应用日志
5/11/27 02:52:33 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
15/11/27 02:52:33 INFO client.RMProxy: Connecting to ResourceManager at /192.168.200.96:8032
15/11/27 02:52:34 INFO input.FileInputFormat: Total input paths to process : 0
15/11/27 02:52:34 INFO mapreduce.JobSubmitter: number of splits:0
15/11/27 02:52:34 INFO mapreduce.JobSubmitter: Submitting tokens for job: job_1448608832342_0003
15/11/27 02:52:34 INFO impl.YarnClientImpl: Submitted application application_1448608832342_0003
15/11/27 02:52:34 INFO mapreduce.Job: The url to track the job: http://mymac.local:8088/proxy/application_1448608832342_0003/
15/11/27 02:52:34 INFO mapreduce.Job: Running job: job_1448608832342_0003
15/11/27 02:52:38 INFO mapreduce.Job: Job job_1448608832342_0003 running in uber mode : false
15/11/27 02:52:38 INFO mapreduce.Job: map 0% reduce 0%
15/11/27 02:52:38 INFO mapreduce.Job: Job job_1448608832342_0003 failed with state FAILED due to: Application application_1448608832342_0003 failed 2 times due to AM Container for appattempt_1448608832342_0003_000002 exited with exitCode: 127
For more detailed output, check application tracking page:http://mymac.local:8088/cluster/app/application_1448608832342_0003Then, click on links to logs of each attempt.
Diagnostics: Exception from container-launch.
Container id: container_1448608832342_0003_02_000001
Exit code: 127
Stack trace: ExitCodeException exitCode=127:
at org.apache.hadoop.util.Shell.runCommand(Shell.java:545)
at org.apache.hadoop.util.Shell.run(Shell.java:456)
at org.apache.hadoop.util.Shell$ShellCommandExecutor.execute(Shell.java:722)
at org.apache.hadoop.yarn.server.nodemanager.DefaultContainerExecutor.launchContainer(DefaultContainerExecutor.java:211)
at org.apache.hadoop.yarn.server.nodemanager.containermanager.launcher.ContainerLaunch.call(ContainerLaunch.java:302)
at org.apache.hadoop.yarn.server.nodemanager.containermanager.launcher.ContainerLaunch.call(ContainerLaunch.java:82)
at java.util.concurrent.FutureTask.run(FutureTask.java:262)
at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1145)
at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:615)
at java.lang.Thread.run(Thread.java:745)
Container exited with a non-zero exit code 127
Failing this attempt. Failing the application.
15/11/27 02:52:38 INFO mapreduce.Job: Counters: 0
命令我正在运行
hadoop jar wordcount.jar org.myorg.WordCount /user/gangadharkadam/input/ /user/gangadharkadam/output/
我的ENV变量是-
export JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk1.7.0_79.jdk/Contents/Home
export HADOOP_HOME=/usr/local/hadoop/hadoop-2.7.1
export HADOOP_MAPRED_HOME=/usr/local/hadoop/hadoop-2.7.1
export HADOOP_COMMON_HOME=/usr/local/hadoop/hadoop-2.7.1
export HADOOP_HDFS_HOME=/usr/local/hadoop/hadoop-2.7.1
export YARN_HOME=/usr/local/hadoop/hadoop-2.7.1
export HADOOP_CONF_DIR=/usr/local/hadoop/hadoop-2.7.1/etc/hadoop
export HADOOP_CLASSPATH=$JAVA_HOME/lib/tools.jar
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:HADOOP_HOME/sbin:$M2_HOME/bin:$ANT_HOME/bin:$IVY_HOME/bin:$FB_HOME/bin:$MYSQL_HOME/bin:$MYSQL_HOME/lib:$SQOOP_HOME/bin
问题似乎是因为YARN对JAVA可执行文件使用的路径与您在OS中使用的路径不同。“ stderr”中失败任务的本地日志显示-/ bin / bash:/
bin / java:没有这样的文件或目录
我尝试从$ JAVA_HOM / bin / java到/ bin / java创建一个软链接,但在El Captian OS
X中创建了一个软链接,但不允许创建软链接。New OS X EL Captian具有无根登录名,用户无法在某些受限制的文件夹(例如/ bin
/)中创建任何内容。非常感谢您对此问题的任何解决。
该答案适用于Hadoop 2.6.0及更低版本。禁用SIP并创建符号链接确实提供了一种解决方法。更好的解决方案是修复hadoop-
config.sh,以使其正确接收您的JAVA_HOME
在HADOOP_HOME/libexec/hadoop-config.sh
看看下面的,如果条件# Attempt to set JAVA_HOME if it is not set
删除导出JAVA_HOME行中的多余括号,如下所示。改变这个
if [ -x /usr/libexec/java_home ]; then
export JAVA_HOME=($(/usr/libexec/java_home))
else
export JAVA_HOME=(/Library/Java/Home)
fi
至
if [ -x /usr/libexec/java_home ]; then
// note that the extra parentheses are removed
export JAVA_HOME=$(/usr/libexec/java_home)
else
export JAVA_HOME=/Library/Java/Home
fi
进行此更改后,请重新启动纱线。
可以在这里找到更详细的信息https://issues.apache.org/jira/browse/HADOOP-8717,并且似乎Hadoop
3.0.0-alpha1是该修复程序的第一个发行版。
我之前在我的OSX上安装了pip,但它不知何故无法正常工作。所以,我试图再次安装pip,使用命令: 但它给了我如下错误: 我既不能使用pip,也不能安装它。
我一直在使用Docker映像在Heroku上发布Rasa聊天机器人的教程。我正在使用视窗10,我是Docker的新手。 当我进入步骤时,它会在Dockerfile中运行,但会输出以下错误: 容器和linux。go:380:启动容器进程导致:exec:“/bin/bash”:stat/bin/bash:没有这样的文件或目录 我试着在其他StackOverflow响应中做了一些建议,比如更新ubunt
我安装节点js和npm通过apt-get安装和所有的依赖关系,然后我安装浏览器 它经历了整个过程,似乎安装正确,但当我尝试按照本演练进行简单捆绑时 我得到的错误: /usr/bin/env:node:没有这样的文件或目录
问题内容: 使用Git 将项目的文件从Windows计算机提交到远程仓库后,在Linux服务器上调用失败并显示以下消息: / usr / bin / env:bash:没有这样的文件或目录 发生了什么? 问题答案: 问题的原因是Windows上的Git将行尾从Unix样式(LF)转换为Windows样式(CRLF)。 您可以使用关闭自动转换。 将行尾设置为Unix样式可解决此问题。在Vim中,这是
问题内容: 我通过apt-get install和所有依赖项安装了节点js和npm,然后安装了browserify 它经历了整个过程,似乎安装正确,但是当我尝试按照此演练做一个简单的捆绑包时 我得到错误: / usr / bin / env:节点:没有这样的文件或目录 问题答案: 您还可以使用 NVM 或 Nodejs版本管理器 安装Nodejs 。使用版本管理器有很多好处。其中之一就是您不必担心
据我所知,我的所有路径变量都设置正确(echo$hadoop_home返回正确的目录)。