当前位置: 首页 > 知识库问答 >
问题:

带有火花转轮的Apache光束字数计数示例在“未知'转轮'指定'SparkRunner'”时失败

武成和
2023-03-14

我试图通过给出以下命令来完成Apache beam字数计算示例的spark提交

spark-submit --class org.apache.beam.examples.WordCount word-count-beam-0.1.jar --inputFile=pom.xml --output=counts --runner=SparkRunner

我得到以下例外:

线程“main”java中出现异常。lang.IllegalArgumentException:未知的“runner”指定了“SparkRunner”,支持的管道运行程序[DirectRunner]

共有2个答案

季嘉良
2023-03-14

看起来您并没有构建一个具有必要的Spark依赖项的优步jar。按如下方式重新运行Maven包:mvn包-Pspark runner这将在目标中构建一个Jar,其中包含wordcount类以及所有必要的spark依赖项,这些依赖项称为:wordcount-beam-bundled-0.1。jar,然后在spark submit命令中使用该jar

屠锐
2023-03-14

你的pom。xml需要包含对Spark runner的依赖。有关使用Spark runner的文档包括有关所需内容的更多详细信息。

 类似资料:
  • 问题内容: 我在AngularJS应用程序之一中使用Slick轮播。为此,我创建了如下指令: 这是我在查看文件中的代码: 在这种情况下,它可以正常工作并正确初始化。 但是,当我使用ngRepeat动态创建幻灯片时,它没有初始化,并且一个接一个地显示幻灯片。 这是我使用ngRepeat的代码 有什么建议,我该如何解决? 问题答案: 我怀疑光滑的插件可能需要完全渲染DOM才能正常工作。 尝试:

  • 时间是11月10号,项目组未知因为没给反问 自我介绍 参考前两个动态的逆水寒手游相关的一系列问题(包括战斗公式) 设计英雄联盟英雄(道士,中国风)(要求你能说出连招搭配,定位等) 设计春节付费活动满足一系列要求 数值题目2道 奥日2相关问题 一些琐碎问题忘记了 结束 #网易雷火#

  • 我正在运行一个示例管道,我的环境就是这样。 Python"SaiResearch-Apache-Beam-Spark.py"--run=PortableRunner--job_endpoint=192.168.99.102:8099 我的Spark运行在Docker容器上,我可以看到JobService运行在8099。 我得到以下错误:grpc_频道_多线程登录: 当我卷曲到ip: port时,我

  • apachebeam中的核心转换(Map、Filter、flatte)是否使用并行处理来处理数据元素,如果是,具体什么时候应该使用ParDo转换?

  • 我用的是光轮造型 我设置了外观的的主要和次要属性 有没有一种方法,更新所有组件的画家使用新的颜色,还是我需要为每个属性实现一个自定义画家? 我已经打电话给SwingUtilities了。在中设置属性后,更新ComponentTreeUI(窗口)。 编辑: 以下代码设置L 代码做什么,它应该做什么(设置光轮外观 中常量的数据类型是的类型,具体取决于要设置的属性。 有人能告诉我哪里出了问题吗? 欢迎迈

  • null FxCop命令可以从jenkins以及声纳服务器上的命令行执行,但MsBuild faisl有此错误。 敬请建议。