当前位置: 首页 > 知识库问答 >
问题:

单个虚拟机上的Spark流应用程序,独立模式

邹星火
2023-03-14

当我试图将模式更改为“集群”时,它失败了。在web UI中,我看到驱动程序正在运行,但应用程序失败。

编辑的

在日志中,我看到以下内容:

16/03/23 09:06:46信息大师:注册ID为APP-20160323090646-0007的应用wibeee-pipeline

16/03/23 09:06:46信息主:启动执行人App-20160323090646-0007/0关于工人工人-20160323085541-10.0.2.15-36648

16/03/23 09:06:50信息主人:收到申请APP-20160323090646-0007的取消注册请求

16/03/23 09:06:50信息主:10.0.2.15:45079被解除关联,删除它。

16/03/23 09:06:51信息主机:删除驱动程序:驱动程序-20160323090625-0001

所以发生的情况是,master在worker上启动驱动程序,application注册,然后尝试在同一个worker上启动executir,但失败了(尽管我只有一个worker!)

共有1个答案

湛光华
2023-03-14

根据您提供的日志,它可能不是因为属性文件,但检查此。

spark-submit只在集群模式下运行时将jar文件复制到驱动程序,因此如果应用程序试图从运行spark-submit的地方读取系统中保存的属性文件,则在集群模式下运行时驱动程序无法找到该文件。

从属性文件读取工作在客户端模式,因为驱动程序在执行Spark-Submit的同一台机器上启动。

 类似资料:
  • 现在假设我们想要使用 Spark API 写一个独立的应用程序。我们将通过使用 Scala(用 SBT),Java(用 Maven) 和 Python 写一个简单的应用程序来学习。 我们用 Scala 创建一个非常简单的 Spark 应用程序。如此简单,事实上它的名字叫 SimpleApp.scala: /* SimpleApp.scala */ import org.apache.spark.S

  • 问题内容: 我正在考虑开发由两部分组成的桌面应用程序: 用户界面(例如Java应用) 后端Node.js服务器 2个部分通过插座连接。不要问为什么我知道这很奇怪。 我将希望能够为客户提供带有安装程序的应用程序。我不希望用户必须自己安装Node.js。 有没有一种方法可以独立安装Node.js服务器,即无需在系统上全局安装Node.js。 对于任何(Windows,Linux,Mac OS X …)

  • 本文向大家介绍用virtualenv建立多个Python独立虚拟开发环境,包括了用virtualenv建立多个Python独立虚拟开发环境的使用技巧和注意事项,需要的朋友参考一下 本文为大家分享了virtualenv建立多个Python独立虚拟开发环境,供大家参考,具体内容如下 1、安装virtualenv: 2、创建一个python的虚拟环境: 用virtualenv创建虚拟环境,是通过复制全局

  • 问题内容: 当前是否可以使用node.js服务器进行虚拟托管(即在一个IP下托管多个域)? 问题答案: 当然,您可以为此专门使用Bouncy或node-http- proxy 。 还有一个Express解决方案。看看这个例子。

  • 问题内容: 我试图在同一个域下的子目录中设置两个(或多个)Django应用程序,例如: 我知道通常可以通过设置如下所示的apache虚拟主机来正常工作: 现在,我已经验证了每个站点都可以单独工作。但是,当我尝试同时运行两者时,apache将我发送到工作进程首先加载的任何站点。例: 重新启动配置为6个线程的Apache 加载example.com/site1/,获得正确的页面 加载example.c

  • 我有以下内容: 视窗 10 操作系统 -- 主机 Oracle 虚拟盒 -- 来宾计算机 A linux Server (ubuntu) Minikube on Ubuntu for Kubernetes 我编写了一个简单的nodejs应用程序,它应该在虚拟盒子内的端口8087上运行。nodeapp通过kubernetes服务公开,然后我使用“kubectl port-就绪”将请求转发到kuber