当前位置: 首页 > 知识库问答 >
问题:

如何重写每个驱动程序的log4j.properties?

壤驷承
2023-03-14

我试图重写Spark的默认log4j.properties,但运气不好。我尝试将以下内容添加到Spark-Submit中:

--conf "spark.executor.extraJavaOptions=Dlog4j.configuration=/tmp/log4j.properties"  
--conf "spark.driver.extraJavaOptions=-Dlog4j.configuration=/tmp/log4j.properties"

但那似乎不起作用。我还尝试在spark-submit中使用--files选项,但似乎也不起作用。是否有人设置了日志记录,所以每个驱动程序都有log4j.properties文件,而不使用默认值?

共有1个答案

李安歌
2023-03-14

对于driver/shell,在运行spark-shellspark-submit脚本时,可以使用--driver-java-options进行设置。

在Spark中,您不能设置--conf Spark.driver.extrajavaoptions,因为它是在JVM启动后设置的。在使用spark提交脚本时,--driver-java-options将这些选项替换到运行驱动程序的JVM的启动中(例如java-dblah myclass)。

请注意,-dlog4j.configuration属性应该是一个有效的URL,因此如果它来自您的文件系统中的某个地方,请使用file:URL。如果资源变量不能转换为URL,例如由于MalformedURLException,那么log4j将从类路径中搜索资源。

例如,使用自定义log4j.properties文件;

./spark-shell --driver-java-options "-Dlog4j.configuration=file:///etc/spark/my-conf/log4j.warnonly.properties"
 类似资料:
  • 问题内容: 我需要从头开始为omap4编写SPI Linux字符设备驱动程序。我知道编写设备驱动程序的一些基础知识。但是,我不知道如何从头开始编写平台特定的设备驱动程序。 我已经编写了一些基本的char驱动程序,并且我认为编写SPI设备驱动程序将与此类似。Char驱动程序的结构包含在驱动程序中实现的功能。 现在,我将以spi-omap2-mcspi.c代码作为参考,以获取从零开始开发SPI驱动程序

  • 背景资料: 我有一个PHP脚本,它解析文本文件并使用它将数据插入mongo数据库。我不再使用旧的Mongo PHP驱动程序,而是使用MongoDB\driver类(http://php.net/manual/en/book.mongodb.php) 问题 有一段代码,我试图用新类重写,但我似乎无法让它工作——也就是它没有向数据库写入数据...我也不知道如何找到错误。 旧代码: 这是旧代码: 新代码

  • 我目前正在为Mac开发打印机驱动程序,它应该支持PS(postscript)和PCL打印机。我已经有了支持PS的想法(通过在PPD和PDE中定义自定义CUPS postscript过滤器)。 我不知道的是支持PCL打印机。 a) CUPS是否自动支持PCL? b)如果a)的答案为YES,则在打印到PCL打印机时会调用我的PS过滤器吗?(我在PS过滤器中的打印数据中添加一些PJL)。 c)如果a)的

  • 在下面的查询中 如何将id{success:'$success',responseCode:'$responseCode',label:'$label},转换为在java mongodb驱动程序中使用。 我试过了 和 多维数组 等 但结果总是这样 如果我只使用一个字段,它就会工作。 DBObject groupFields=new BasicDBObject(“\u id”,new BasicDB

  • 在QMetry中,我试图在一个测试用例中从appiumDriver切换到androidDriver。这是由于函数<code>驱动程序之一而产生的。IsKeyboardShowed()显示为应用程序未定义。因此需要将其更改为androidDriver并使用此功能。 当前在Qmetry项目中,对于appiumDriver,功能在application.properties文件中设置为: 现在想切换到a