当前位置: 首页 > 知识库问答 >
问题:

在Amazon EMR上安装PIG 0.14

欧金鹏
2023-03-14

我需要使用Hadoop 2.x在Amazon EMR上运行来自PIG的Python流UDF

基于文件,PIG自0.14版起就与Hadoop 2.x配合使用http://pig.apache.org/docs/r0.12.0/udf.html#python-自定义项http://pig.apache.org/docs/r0.14.0/udf.html#python-自定义项

我个人尝试过Python流式UDF在0.12上不起作用,基于0.14留档中丢失的注释,在我看来它应该在这个版本中起作用。

在Amazon EMR文档中看到支持的PIG版本,在我看来只有低于0.12的支持PIGhttp://docs.aws.amazon.com/ElasticMapReduce/latest/DeveloperGuide/Pig_SupportedVersions.html

所以我的问题是,如果有人有一些想法或经验,如何可能“黑客”或部署猪0.14到电子病历集群?如果Python UDF真的能与Hadoop 2.x和PIG 0.14一起工作(我想知道有问题的PIG 0.14安装是否值得)?

共有1个答案

魏彦
2023-03-14

最后,我解决了这个问题,只需将pig 0.14下载到引导脚本中的所有机器,并用~/中的pig 0.14位置覆盖pig_HOME。bashrc,它对我很有效。(至少当我通过ssh连接到主机时,使用pig 0.14)

 类似资料:
  • 问题内容: 我在Android手机上安装Pocketsphinx时遇到一些问题,但在CMUSphinx的支持论坛,IRC,现有的StackOverflow帖子或强化的Googling上找不到答案。如果在座的人有时间愿意提供帮助,我将不胜感激。 首先,我对于是否可以在Android上安装Pocketsphinx感到困惑。我相信我需要Java容器才能在Android上运行,因此我尝试安装Sphinx4

  • 问题内容: 我正在尝试在Ubuntu10.04上安装RMagick。但没有喜悦。我什至从源代码编译并安装了ImageMagick,但是当我尝试使用RubyGems安装RMagick时,这里的说明仍然没有帮助。我收到此错误: 这是什么意思呢?:)我是Ruby和RubyGems的新手,所以请保持谦虚。我的设置如下: 我几乎没有想法(也很累!)。我厌倦了使用上面的链接从源代码编译RMagick,但是由于

  • 问题内容: 我通过阅读本教程安装了预构建版本。如果我启动elasticsearch,则会收到以下错误消息,我应该尝试旧版本的ES还是解决该问题? 问题答案: 您尝试将ES分配给已使用的端口8080。从那里的配置的罪魁祸首是。只需将两个配置都保留在配置之外,或为envvar分配其他端口。ES的默认端口是http和9300的9200。

  • 这是不言自明的... 无法完成安装,因为找不到一个或多个必需的项目。 正在安装的软件:Android 原生开发工具 20.0.0.v201206242043-391819 (com.android.ide.eclipse.ndk.feature.group 20.0.0.v201206242043-391819) 缺少要求:Android本机开发工具20 . 0 . 0 . v 201206242

  • 我使用CentOS(CentOSLinux版本7.5.1804(核心))远程(托管我的服务器,我想运行python脚本)最初安装了python2。 我安装了python3,但是,两个版本的路径似乎都无法识别: 奇怪的Python3确实已安装,路径无法识别。无法运行脚本文件(使用)。

  • 问题内容: 这听起来像是关于SF的重复问题,但我仍未找到明确的答案。我使用“ setup.py install”命令安装了Paramiko 1.7,并在运行demo.py程序时收到此错误: 即使安装了PyCrypto 2.1,我也收到此错误。在运行test.py(安装随附)时,出现以下错误- 在所有这些之后,我没有信心继续安装AES,因为我知道我可能还会遇到另一个ImportError!请指教。安

  • 问题内容: 我根本无法在Windows上安装NumPy。我不断收到此错误- 我之前有Python 64位版本,但不确定NumPy版本是否与64位Python兼容。因此,我将其卸载并安装了32位Python版本。但是我仍然遇到相同的错误。虽然我的Python 32位版本运行正常。 我尝试了“ pip install numpy”,但最后却给我以下错误- 请告诉我我可能做错了什么。 问题答案: 一些解

  • 问题内容: 我正在尝试在Ubuntu 12.10上安装Node.js,但是终端显示了有关丢失软件包的错误。我尝试了这个: 但是当我来到最后一行时显示此错误: 然后,我卸载了,并尝试了第二种选择: 终端机说相同的错误,但同时也向我显示了我在顶部显示的文本。我认为是问题所在,但我不知道如何解决。 问题答案: 只需按照此处给出的说明进行操作: 安装示例: 它会在当前稳定的Ubuntu上安装当前稳定的No