当前位置: 首页 > 知识库问答 >
问题:

Spark Worker/tmp目录

武向文
2023-03-14

Im使用spark-2.1.1-bin-hadoop-2.7独立模式(由4个工作线程组成的集群,120g内存,总共32核),尽管我定义了spark。地方的dirconf-param要写入到/opt,spark worker将继续写入/tmpdir,例如/tmp/spark-e071ae1b-1970-47b2-bfec-19ca66693768

有没有办法告诉spark worker不要写入tmp目录?

共有1个答案

高嘉熙
2023-03-14

根据spark文档,很少有环境变量会重写属性“spark”。地方的“dir”,请尝试检查这些环境变量

引用文件:

火花地方的目录

用于Spark中“暂存”空间的目录,包括存储在磁盘上的映射输出文件和RDD。这应该在您系统中的快速本地磁盘上。它也可以是不同磁盘上多个目录的逗号分隔列表。注意:这将被集群管理器设置的SPARK_LOCAL_DIRS(独立)、MESOS_SANDBOX(Mesos)或LOCAL_DIRS(YARN)环境变量覆盖。

 类似资料:
  • 问题内容: 我有此功能可以将图像保存在tmp文件夹中 但是,当我打开应用程序的temp文件夹时,它是空的。将图像保存在temp文件夹中,我做错了什么? 问题答案: 不是获取的文件路径的正确方法,请改用: 或者 更好的是, 仅使用URL: 更好的是,使用 并检查成功或失败: Swift 3/4更新:

  • 我正在尝试访问。我已经使用ebconfig将json文件下载到/tmp/目录,以在S3上存储私钥。 但它给了我以下错误 错误:EACCES:权限被拒绝,打开“/tmp/firebaseadminsdk”。json’ 文件中有一段说 第二个条目使用S3Auth身份验证方法从指定的URL下载私钥,并将其保存到/etc/pki/tls/certs/server。钥匙然后,代理服务器可以从此位置读取私钥,

  • 我试图在Ubuntu中设置单节点hadoop设置,当我运行hadoop namenode-format时,我得到一个错误“不能删除目录/app/hadoop/tmp/dfs/name/current”。我以root用户身份删除了当前目录,然后尝试了命令,但出现了不同错误,如下所示: 然后,我尝试使用sudo命令,并尝试授予对hduser的访问权限,但没有成功。

  • 问题内容: 我该如何更改詹金斯在其奴隶中存储临时数据的位置。目前,它会关闭与我的奴隶的连接,因为它抱怨以下内容 我想将tmpdir位置移至而不是。我怎样才能做到这一点? 问题答案: 您可以使用Java Service Wrapper。并配置包装器(看例子) 或者,您可以创建符号链接文件夹,然后放入首页jenkins守护程序。

  • 问题内容: 我正在使用Valums文件上传器通过带有进度栏的网页进行文件上传。几乎所有内容都可以正常运行,但是我无法更改默认的tmp目录,该目录 在 上传 期间 存储文件。 文件应存储在目录中,而不要存储在默认系统目录中,因为它安装在大小限制为4 MB的RAM磁盘中,并且用户将上传大约10 MB的文件。 我搜索了很多网页,但是没有一种解决方案有效。我在中设置了临时目录: 我已经为目录设置了权限,并

  • 修改定时清理 /tmp 目录下的文件 初衷 默认系统是超过 30 天不访问的文件自动清除的,但是有时候硬盘用得紧可以考虑修改周期 设置方法 编辑配置文件:vim /etc/cron.daily/tmpwatch #! /bin/sh flags=-umc /usr/sbin/tmpwatch "$flags" -x /tmp/.X11-unix -x /tmp/.XIM-unix \