当前位置: 首页 > 知识库问答 >
问题:

Hive MapReduce作业提交失败“目标是目录”

仲孙鸿飞
2023-03-14

我一直在玩弄Hadoop及其姊妹项目,在这一过程中我遇到了一些问题,但我最终遇到了一个我找不到答案的问题:

我有一个hive表存储在hdfs上,作为一个制表符分隔的文本文件。我可以在表上做一个基本的选择,但是一旦我把查询做得稍微复杂一点,hive就把它变成了一个映射还原作业,这个作业在下面的堆栈跟踪中失败了

13/11/29 08:31:00错误安全。UserGroupInformation:PriviledEdActionException as:hduser(auth:SIMPLE)原因:java。伊奥。IOException:Target/tmp/hadoop-

dfs上确实存在有问题的文件夹,至少是“/tmp/hadoop-thread/staging”部分,无论我将其权限设置为什么,hive或hadoop都会在提交作业时重置它们。真正令人担忧的是,完整路径似乎是一个生成的文件夹名,那么为什么软件本身生成的东西会有问题呢?为什么路径是目录是个问题?它应该是什么呢?

编辑:这是我正在使用的表和我试图运行的查询:查询:从hive_flow_details选择*,其中node_id=100限制10;

表:

col_name data_type comment id bigint None
flow_versions_id int None
node_id int None
node_name string None

请记住,我尝试的任何带有where子句的查询都会发生这种情况,因为hive将其转换为MR job。

共有1个答案

师腾
2023-03-14

我最终解决了这个问题。我在清理的类路径中发现了冲突的罐子,从那以后我就没有问题了。

 类似资料:
  • 我一直在玩Hadoop和它的姊妹项目,一路上遇到了一些问题,但我最终遇到了一个我找不到答案的问题: 我有一个配置单元表存储在hdfs上,作为一个制表符分隔的文本文件。我可以在表上做一个基本的select,但一旦我将查询变得稍微复杂一些,hive就会将它变成一个map reduce作业,它会在以下堆栈跟踪中失败 所讨论的文件夹确实存在于dfs中,至少存在于“/tmp/hadoop-yarn/stag

  • 在 提交失败,错误0个文件提交,3个文件提交失败:无法创建'C:/xampp/htdocs/project/. git/index.lock':文件存在 另一个git进程似乎正在该存储库中运行,例如,由“git提交”打开的编辑器。请确保所有进程都已终止,然后重试。如果仍然失败,那么git进程可能已经在此存储库中崩溃:手动删除该文件以继续。 我关闭了所有开放的终端,反复尝试,但没有成功。 谢谢你的建

  • 我想在阿兹卡班经营蜂巢工作

  • 我目前正在尝试为一个项目设置Elasticsearch。我已经安装了,还安装了Java,即。 但是当我尝试使用以下命令启动Elasticsearch时 我得到以下错误 loaded:loaded(/usr/lib/systemd/system/elasticsearch.service;disabled;vend 活动:自世界协调时2019-11-01 06:09:54开始失败(结果:退出-代码)

  • 问题内容: 我用来处理我的Go依赖项。最好也将目录提交到版本控制中吗?还是在签出存储库后始终执行的最佳实践? 问题答案: 该工具的常见问题解答可以回答以下问题: 我应该提交供应商目录吗? 由你决定: 优点 * 这是获得真正可复制的构建的唯一方法,因为它可以防止上游重命名,删除和提交历史记录覆盖。*在执行大多数操作(例如,获取,克隆,获取最新信息,合并等)之后,无需额外的dep确保步骤即可将供应商/

  • 我正在尝试创建一个.so库,包含OpenCV C++代码。我设置了一些非常基本的东西--使用visual studio构建项目,使用“动态共享库(Android)”模板。 我从以下网址下载了Android OpenCV SDK:https://OpenCV.org/releases/ E0035#错误指令:此构造函数尚未移植到此平台文件:C:\microsoft\androidndk64\andr