当前位置: 首页 > 知识库问答 >
问题:

Spark Job Server是否必须与Spark Master部署在同一主机上?

张华池
2023-03-14

我希望将Spark Job Server(在Docker容器中)部署在与Spark Master不同的主机上。但是,server_start.sh脚本似乎假定它与Spark主程序运行在同一台机器上。例如:

if [ -z "$SPARK_CONF_DIR" ]; then
  SPARK_CONF_DIR=$SPARK_HOME/conf
fi

# Pull in other env vars in spark config, such as MESOS_NATIVE_LIBRARY
. $SPARK_CONF_DIR/spark-env.sh

共有1个答案

凤修为
2023-03-14

可以在local.conf中设置主URL。有关示例https://github.com/spark-jobserver/spark-jobserver/blob/master/job-server/config/local.conf.template#L7

您需要将“local[4]”替换为“spark://master-node:7077”

 类似资料:
  • 目前,我正在尝试将。NET web应用程序(V.4.5.2)与ADFS2.0集成。我在网上找到的大部分文章都要求WIF信任来自联邦服务器的传入令牌。

  • 这是我所拥有的:我们有2个应用程序,一个生产和一个消费。两者都运行在不同的JVM上。它们向持久主题发送消息,并使用相同的ClientId。 我想知道在JMS 2.0规范下是否允许这样做,以及在Artemis中这样做是否可以。 在消费方面,我有一个连接工厂 在实例化ActiveMQConnectionFactoryBean时,我通过以下方法在工厂上设置clientID:<code>。setClien

  • 我部署我laravel 5.4项目在共享主机上使用子域我安装了作曲家,改变了路径的index.php,供应商路径,DB主机,用户名等。 我得到以下错误 致命错误:未捕获意外值异常:在"/存储/日志"中没有现有目录,并且无法构建:在 /vendor/monolog/monolog/src/Monolog/Handler/StreamH中拒绝权限andler.php:171 我尝试了以下命令:php

  • “输入主题”已创建。我没有创建“输出主题”,似乎“Kstream”为我和其他内部主题创建了一个。此外,在“to”函数的javadoc中看到了这一点,指定的主题应该在使用之前手动创建(即,在Kafka Streams应用程序启动之前) 所以我的问题是,我们总是必须手动创建“输出主题”吗?

  • 问题内容: 我有项目清单。这些物品大多数都没有库存。项目表具有ID,名称,描述。项目数量存储在另一个名为清单的表中。库存表具有item_id和库存数量。 我是否需要库存表的主键?如果是这样,我应该使用序列密钥还是复合密钥?什么时候可以没有主键的表? 编辑:谢谢大家提供的非常有益的信息。我现在将始终拥有主键,除了极少数的例外。我还学到了更多关于串行键和复合键的信息。 问题答案: 始终以拥有主键为目标

  • 问题内容: 我着手进行Java 8学习。 我发现了一个有趣的行为: 让我们看一下代码示例: 和模型类: 。对于顺序流,这个代码总是返回其是但对于平行,它总是返回其为(4等于流元素计数)。 当我看到此结果时,我以为并行流和顺序流返回不同的结果很奇怪。 我在某处违约了吗? 聚苯乙烯 对我来说,73是预期结果,但76不是。 问题答案: 标识值是这样的值。这是Java所独有的概念,例如,参见Wikiped