当前位置: 首页 > 知识库问答 >
问题:

Apache Spark:客户端和集群部署模式之间的差异

刘兴修
2023-03-14

TL;DR:在Spark独立集群中,客户端和集群部署模式之间有什么区别?如何设置应用程序运行的模式?

我们有一个带有三台机器的Spark独立集群,它们都带有Spark 1.6.1:

  • 主机,也是使用spark-submit
  • 运行应用程序的地方
  • 2台相同的工作机

2)如何使用spark-submit选择应用程序将运行在哪个上?

共有1个答案

南门焱
2023-03-14

Spark独立客户端部署模式和集群部署模式之间的实际区别是什么?使用每一种方法的利弊是什么?

让我们试着看看客户端和集群模式之间的区别。

客户:

    null
    null
/bin/spark-submit \
  --class <main-class>
  --master <master-url> \
  --deploy-mode <deploy-mode> \
  --conf <key>=<value> \
  ... # other options
  <application-jar> \
  [application-arguments]
 类似资料:
  • 有两种部署模式可用于在YARN上启动Spark应用程序。在yarn-cluster模式下,Spark驱动程序在集群上由YARN管理的应用程序主进程中运行,客户端可以在启动应用程序后离开。在yarn-client模式下,驱动程序在客户端进程中运行,而应用程序主进程仅用于向YARN请求资源。 在此,我只能理解的区别是哪个地方的驱动程序在运行,但我无法理解哪个运行得更快。莫尔沃弗: 在运行Spark-s

  • 一直在努力解决使用Spark YARN处理多个配置文件以及在集群和客户端模式之间切换的问题。 在我的应用程序中,我需要加载两个配置文件: 应用程序配置 环境配置 示例-application.conf: env.conf: 代码: 有什么建议如何设置,以便我可以轻松地交换集群和客户端模式? 谢谢!

  • 我正在Ubuntu 16.04 LTS中使用Python 2.7.12。我正在通过以下链接学习如何使用boto3:https://boto3.readthedocs.io/en/latest/guide/quickstart.html#using-博托-3。我的疑问是何时使用资源、客户端或会话,以及它们各自的功能。

  • 问题内容: 我进行了很多搜索以找出这个问题,但是我没有得到明确的解释。集群应用程序可以扩展而分叉应用程序不能扩展只是一件事? PM2的公共站点解释说集群模式可以实现这些功能,但是没有人说出Fork模式的优点(也许可以变)。 我觉得Cluster可能是Fork的一部分,因为Fork似乎被广泛使用。因此,我猜想Fork从PM2的角度讲只是“分叉的过程”,而Cluster则是“能够扩展的分叉的过程”。然

  • 我正在使用https://apacheignite-mix.readme.io/v1.7/docs/automatic-persistence将数据从数据库加载到Ignite缓存中。 我使用Ignite客户端模式运行代码,并希望将数据加载到Ignite集群中。 null

  • 我想知道一个尚未部署的portlet和将其放入Liferay的部署文件夹后的同一个portlet之间的主要区别是什么。使用meld实用程序,我发现部署的portlet版本有两个新文件:liferay插件包。xml和liferay web。xml。此外,liferay的显示也有所不同。xml,liferay portlet。xml,portlet。xml和web。xml。 Liferay的部署过程具